Série - flicage-brouillon

Fil des billets - Fil des commentaires

mardi 20 janvier 2015

Flicage-brouillon - Partie 1 chapitre 4 - Facebook, la manipulation des masses et la démocratie

Il est un cas de figure où des données personnelles peuvent être utilisées contre l’utilisateur sans même qu’elles ne quittent les ordinateurs de la société qui les détient. Facebook l’a démontré de façon brillante : des chercheurs ont utilisé le réseau social Facebook pour mener à très grande échelle une expérience psychologique auprès de presque 700 000 utilisateurs, et à leur insu. Cette expérience porte sur la façon dont Facebook filtre ce qui est affiché à chacun. En effet, les utilisateurs du service reçoivent plus de contenu (photos, vidéos, messages, articles, publicités) qu’ils ne peuvent en consommer. Pour éviter la saturation des utilisateurs, Facebook n’affiche qu’une partie de ce contenu. Pour cela, il utilise un algorithme (un logiciel) qui va faire des choix pour l’utilisateur. Cet algorithme est paramétrable : Facebook peut le modifier très simplement pour afficher différents types de contenu en fonction du type d’utilisateur.

Dans le cadre de l’expérience qui nous intéresse, Facebook a choisi exactement 689’003 personnes et les a séparées en deux groupes. Au premier groupe, Facebook a surtout montré du contenu positif et joyeux (en retirant les mauvaises nouvelles), et le groupe a réagi en publiant des réactions plus positives que la moyenne. Au second groupe, Facebook a au contraire supprimé les messages positifs pour ne conserver que les message négatifs et tristes. Très logiquement, l’humeur des cobayes involontaires du 2e groupe a été affectée de façon négative. De ce fait, ils ont répondu avec plus de messages négatifs. Facebook a mesuré cela en analysant le contenu des messages publiés par les utilisateurs.

Les chercheurs travaillant avec Facebook qui ont fièrement publié leurs travaux sur le sujet, avec le titre « Preuve par l’expérience d’une contagion émotionnelle à grande échelle à travers les réseaux sociaux » n’ont probablement pas anticipé une réaction aussi négative que celle qu’ils ont reçue. En effet, l’idée de manipuler les émotions de 700’000 personnes sans les prévenir n’a pas été bien perçue par les cobayes et la presse.

Le problème ne s’arrête pas là. En novembre 2010, lors des élections dites « Mid-Term » aux USA, Facebook a lancé une autre expérimentation sur son service, visant à répondre à une question simple : «  un réseau social peut-il encourager les gens à voter ? ». Facebook a donc mis en place un certain nombre de fonctionnalités pour ses utilisateurs américains en âge de voter : une image avec un lien menant vers une carte indiquant où trouver les bureaux de vote, un bouton permettant à l’utilisateur d’indiquer qu’il a voté, et les photos de profils de 6 amis ayant déjà voté.

L’expérience porte sur 61 millions de personnes soit quasiment la taille de la population française, et les résultats sont significatifs : on estime que 340 000 personnes supplémentaires sont allées voter suite à la démarche de Facebook, ce qui est très sensible, compte tenu du fait que George W Bush a remporté les élections présidentielles en 2000 à 537 voix près !

Il est louable de pousser les citoyens à voter, c’est sain pour la démocratie. Mais n’oublions pas que Facebook sait tout de nos intérêts, de nos lectures, et de nos opinions politiques. On peut sans peine imaginer que Mark Zuckerberg, le patron de Facebook, décide de favoriser un candidat par rapport à un autre, par exemple en poussant à voter les électeurs proches de ce candidat, tout en restant neutre auprès des électeurs du candidat qu’il ne veut pas voir gagner. Si l’élection est très serrée, Facebook peut tout à fait faire basculer les résultats dans un sens ou un autre.

Dans ce cas imaginaire, nos données n’ont pas quitté les serveurs de Facebook, mais elles ont été utilisées contre la démocratie, à l’insu des utilisateurs, avec l’aide de leurs données…

mercredi 21 janvier 2015

Flicage-brouillon - Partie 1 chapitre 5 - la surveillance des États

Il y a quelques années, je discutais de surveillance des citoyens avec un fonctionnaire de police français. Il m’expliquait en substance que les citoyens craignaient les services de renseignements (renseignements généraux, DST, devenus DCRI puis DGSI). Il m’affirmait qu’en fait ces services en savent beaucoup moins sur chacun de nous que les grands services en lignes et réseaux sociaux que sont Google, Facebook ou encore Amazon et Apple. En effet, il est bien plus efficace de collecter les informations que les gens partagent volontairement que d’essayer d’espionner les gens en question.

Qu’à cela ne tienne, pour augmenter l’efficacité des services de renseignements, il suffirait juste qu’ils espionnent les réseaux sociaux ! Cela pourrait être une boutade, mais c’est malheureusement la triste réalité. On s’en doutait depuis une quinzaine d’années avec l’affaire Echelon à la fin des années 1990.

C’est en juin 2013 que le grand public a commencé à comprendre l’ampleur de la surveillance généralisée avec les révélations d’un lanceur d’alertes américain, Edward Snowden, qui a travaillé successivement pour différents services secrets américains : la CIA (Central Intelligence Agency, agents secrets américains sur le sol étranger) puis la NSA (National Security Agency) en tant qu’informaticien sous-traitant.

Edward Snowden s’est réfugié à Hong-Kong, emportant avec lui des centaines de milliers de documents classés secret défense de la NSA portant sur les programmes de surveillance d’Internet et des outils de communication par l’agence américaine. Il a invité deux journalistes, Laura Poitras et Glenn Greenwald, à qui il a remis ses documents. Les deux journalistes ont ensuite analysé et publié les documents d’Edward Snowden. Glenn Greenwald en a d’ailleurs fait un livre passionnant, « Nulle part où se cacher », paru en mai 2014 et Laura Poitras a sorti en novembre 2014 un documentaire largement récompensé, « Citizenfour ».

Les révélations de Snowden sont telles qu’il faudrait plusieurs livres pour tout décrire, aussi vais-je me contenter de ne décrire que quelques programmes d’espionnage de la NSA et de ses alliés, dont le GCHQ anglais :

Nom de code
Cible
Surveillance
Muscular
Yahoo et Google via les câbles en fibre optique entre les centres de données
Contenu des emails des utilisateurs : texte, audio, vidéo et méta-données (heure, émetteur, destinataires, sujet) associées.
XKeyScore
« collecte quasi-systématique des activités de tout utilisateur sur Internet » dans plusieurs dizaines de pays, dont la majeure partie des pays européens, le Brésil, la Russie, l’Inde et la Chine. 700 serveurs sont répartis sur plus de 150 sites.
Comportement et données des utilisateurs.
  • Activité sur les réseaux sociaux (dont Facebook), y compris pour lire les messages privés.
  • Historique des sites visités
  • Mots clés utilisés sur les moteurs de recherche
  • Contenu des formulaires remplis par l’utilisateur, y compris les mots de passe.
BullRun
Systèmes de chiffrement dans le monde
Toute communication chiffrée et donc considérée comme confidentielle.
OpticNerve
Webcam des utilisateurs de Yahoo Messenger
Capture toute les 5 secondes d’une image issue de la Webcam des utilisateurs alors qu’ils communiquent via le logiciel Yahoo Messenger.
Tempora
Plus de 200 câbles Internet sous-marins
Tout le trafic Internet est surveillé conjointement par GCHQ (UK) et la NSA (USA).

Ce tableau n’est qu’un tout petit extrait des programmes de surveillance de la NSA révélés par Edward Snowden, parmi les 446 programmes relevés par le site NSA-Observer.net.

Quand on les analyse, on remarque que les attaques de la NSA sur l’informatique mondiale se focalisent sur un certain nombre de points vulnérables : les câbles sous-marins, quelques très grands services utilisés par des centaines de millions d’utilisateurs. Ces services commerciaux (Facebook, Yahoo, Google, Apple, Microsoft, etc.) collectent des données auprès des utilisateurs et il suffit alors à la NSA d’aller récupérer ces données directement auprès de ces sociétés, avec ou sans leur consentement. Ces grandes sociétés sont de fait complices des services d’espionnage américains, probablement à leur corps défendant, soit parce que l’arsenal juridique les oblige à répondre aux demandes des services secrets, soit parce qu’ils sont espionnés par ces même services.

jeudi 22 janvier 2015

Flicage-brouillon - Partie 1 chapitre 6 - Big Data, grosses responsabilités

On entend souvent parler de « big data » sans toujours bien cerner de quoi il s’agit. En français, on devrait utiliser le terme de mégadonnées. Ce sont des ensembles de données gigantesques comme en collectent par exemple Twitter (7 téraoctets par jour) et Facebook (10 téraoctets). Rappelons qu’un téraoctet est l’équivalent de 1 000 milliards de caractères. Sachant que si on numérisait la Library of Congress, la plus grande bibliothèque du monde, on obtiendrait 18,75 téraoctets de données. Autrement dit, chaque jour, Twitter et Facebook produisent à peu près autant de données que ce que contient la plus grande bibliothèque du monde, à 10 % près. Les données de Facebook et de Twitter sont les données que produisent ou échangent les utilisateurs.

On a ici affaire à un véritable océan de données qu’il est possible d’explorer pour y trouver des informations particulièrement intéressantes. Les navigateurs des données sont appelés en anglais « Data scientists », genre de mathématiciens et statisticiens dont le métier est de comprendre le sens de ces données pour les valoriser.

Comme tout cela peut sembler bien abstrait, voici un exemple tiré d’un contexte bien plus terre à terre, celui des supermarchés.

Dans une interview de début 2012, un Data Scientist américain employé de la chaînes de grands magasins Target, racontait une anecdote amusante sur son métier :

Un homme passablement en colère entre dans un supermarché Target près de Minneapolis (Minnesota, USA) et exige de parler au directeur : « Ma fille a reçu votre prospectus par la poste », dit il. «Elle est encore au lycée, et vous lui envoyez des coupons de réduction pour des vêtements pour bébés et des berceaux ? Mais vous voulez l’encourager à tomber enceinte à son âge ?»

Le directeur tombe des nues. Il regarde le prospectus, qui porte bien le nom de la jeune cliente et contient des publicités pour des vêtements de femme enceinte, de quoi équiper une chambre de bébé et moultes photos de bébés souriants. Très ennuyé, le directeur présente platement ses excuses et prévoit de rappeler le client un peu plus tard (aux États-Unis, la notion de service du client va beaucoup plus loin qu’en France).

Quelques jours plus tard, le directeur appelle donc son client, mais le père de la lycéenne semble très décontenancé : « j’ai eu une conversation avec ma fille et… il s’avère qu’il s’est passé des choses pendant que j’avais le dos tourné… Voilà… Elle va accoucher au mois d’août. Je me dois de vous présenter des excuses ! »

Le rapport avec la Big Data ? Il est direct : la jeune fille, soit parce qu’elle payait avec une carte de paiement, soit avec une carte de fidélité, avait laissé un historique d’achats. Et les mathématiciens de Target ont remarqué que les achats de certains produits étaient corrélés avec une grossesse. Les lotions sans parfums en grands flacons (surtout au début du 2e trimestre de grossesse), les suppléments alimentaires à base de calcium, zinc et magnésium (à partir de la 20e semaine de grossesse) et, juste avant l’accouchement, les grands sacs de coton hydrophile et de lingettes, sont autant de signaux que les statisticiens ont retenus et recherchent dans l’océan de données que nous alimentons sans le savoir.

Un autre exemple, tiré du très officiel blog Facebook Data Science, sur un sujet où on n’attend guère les mathématiciens : le moment où l’on tombe amoureux.

Pour la St Valentin 2014, Facebook a en effet publié un long billet expliquant ce qu’ils peuvent observer entre deux utilisateurs qui tombent amoureux et entament une relation sentimentale. Pour cela, Facebook a sélectionné les gens qui ont indiqué « avoir une relation » associé avec une date d’anniversaire pour cette relation. On observe ainsi que pendant la période de séduction, il y a de plus en plus d’interactions (messages échangés) entre les futurs partenaires via Facebook, mais que quelques jours avant de commencer la relation, le nombre de messages chute brusquement… pour ne pas remonter. Les mathématiciens de Facebook estiment que c’est dû au fait que les utilisateurs passent plus de temps ensemble dans le monde réel. Cela fait que Facebook est donc capable de prédire avec qui nous sommes en train de tomber amoureux, rien qu’avec nos données, avant même que cela ne soit devenu une réalité !

P1chap6_-_facebook1.png

Ensuite, un graphique montre que les messages envoyés sont sensiblement plus positifs en moyenne après le début de la relation :

P1chap6_-_facebook2.png

Les deux exemples choisis ici, Target et Facebook, démontrent que le Big Data touche aussi bien le commerce que le plus intime. Cela démontre aussi que les données qui alimentent le Big Data peuvent être captées auprès des utilisateurs sans que ceux-ci n’en aient la moindre idée : la carte bancaire ou de fidélité dans le cas de Target, le compte Facebook dans le deuxième exemple, suffisent pour permettre à ces sociétés pour construire des « profils » de chaque client-utilisateur, avec des implications qui peuvent être tout à fais inattendues, surtout quand ces données sont piratées, ou revendues ou siphonnées par des services secrets.

vendredi 23 janvier 2015

Flicage-brouillon - Partie 1 chapitre 7 - l'impact de la surveillance sur la société

Il est une question à laquelle j’avoue avoir du mal à répondre : « pourquoi la surveillance de masse est-elle néfaste à la société dans son ensemble ? ».

Comme beaucoup, j’ai une réponse viscérale à cette question : je sens que la surveillance de masse est mauvaise. Elle me révolte. Mais dès qu’il s’agit d’y répondre clairement, les choses se compliquent grandement. Aussi, j’ai dû replonger dans des cours de philo et de droit pour mettre des mots sur la réponse à cette question fondamentale.

Une idée qui a presque 2000 ans

Il se trouve que le problème est présent depuis longtemps. Depuis la Rome antique en fait, avec le poète Juvénal qui écrivait dans ses satires « mais qui va garder ces gardiens » (« sed quis custodiet ipsos custodes ? »), phrase souvent utilisée pour parler des gouvernements qui surveillent les citoyens, puis qui a été étendue au problème de la surveillance de masse.

Le panoptique de Bentham

La réflexion sur la surveillance doit beaucoup au philosophe anglais Jeremy Bentham (1748-1832), inventeur du “Panoptique”, un modèle de prison circulaire avec une tour centrale où sont logés les gardiens. Depuis la tour centrale, les gardiens peuvent observer les détenus qui sont enfermés dans des cellules individuelles, sans que ceux-ci puissent savoir si on les observe. L’idée est de créer chez les prisonniers le sentiment qu’ils sont observés en permanence par les gardiens, qui savent tout sur eux, même quand les gardiens sont absents.

Il faut noter que Samuel Bentham, le propre frère de Jeremy Bentham, avait quant à lui dessiné des plans d’usines selon le même principe, pour surveiller les ouvriers et pas seulement des prisonniers.

Prison modèle à Cuba, sur le principe du panoptique

Prison modèle à Cuba, sur le principe du panoptique. Source : Wikipedia

En faisant croire aux gens qu’ils sont observés en permanence, on arrive à leur imposer une façon de se comporter

C’est le philosophe français Michel Foucault (1926-1984) qui a remis l’idée du panoptique au goût du jour avec son livre Surveiller et punir paru en 1975. Foucault étend l’idée à d’autres lieux que la prison et l’usine, comme par exemple l’école et l’hôpital. Cela fait dire au philosophe Gilles Deleuze (1925 - 1995) :

La formule abstraite du Panoptisme n’est plus « voir sans être vu », mais « imposer une conduite quelconque à une multiplicité humaine quelconque. »

Voilà, tout est dit : en faisant croire aux gens qu’ils sont observés en permanence, on arrive à leur imposer une façon de se comporter.

La vision de Glenn Greenwald et de Bruce Schneier

Glenn Greenwald et Bruce Schneier ont grandement influencé ma façon de penser sur ce sujet. Plutôt que de paraphraser leurs discours respectifs, je propose de traduire quelques extraits que voici.

Je laisse la parole à Glenn Greenwald, l’un des journalistes ayant permis les révélations Snowden, dans un discours fait à la conférence TED d’octobre 2014 :

Nous tous êtres humains, même ceux qui font semblant de ne pas s’intéresser à la vie privée, comprenons instinctivement à quel point elle est importante. Il est vrai qu’en tant qu’êtres humains, chacun de nous est un animal social, ce qui veut dire que nous avons besoin de faire savoir à d’autres ce que nous faisons, pensons et disons, et c’est pourquoi nous publions des informations en ligne.

Mais il est tout aussi important pour être un être humain libre et heureux d’avoir un endroit où l’on peut se soustraire au regard et au jugement des autres. Il y a une raison pour laquelle nous cherchons tous cet endroit, c’est que nous tous, et pas seulement les terroristes et les criminels, avons des choses à cacher. Il y a toutes sortes de choses que nous faisons et pensons et que nous partageons avec notre médecin, notre avocat, notre psychologue, notre conjoint ou notre meilleur ami, choses qui nous humilieraient terriblement si le reste du monde venait à les savoir. De ce fait, pour chaque chose que nous faisons ou pensons, nous prenons la décision de la partager ou non avec notre entourage ou en ligne. Certains peuvent nier verbalement l’importance de la vie privée, mais le fait est que leurs actions prouvent le contraire.

Il y a une raison pour laquelle l’intimité est si importante pour tous et de façon instinctive (…) : quand nous sommes surveillés, écoutés, notre comportement change du tout au tout. Le nombre de comportements possibles est sévèrement réduit quand nous pensons être surveillé. C’est un fait reconnu dans toutes les disciplines, des sciences sociales à la religion en passant par la littérature. Il y a des dizaines d’études psychologiques qui prouvent que quand quelqu’un pense qu’il est surveillé, son comportement change est devient bien plus conforme à la norme sociale. La honte est un puissant élément motivant parce qu’on veut y échapper, et c’est pourquoi les gens se sachant observés prennent des décisions qui ne sont pas issues de leur propre liberté de choix, mais liées aux attentes que les autres ont pour eux et aux exigences de conformité de la société.

Une société dans laquelle les gens peuvent être surveillés à tout moment est une société qui pousse à la conformité, l’obéissance et la soumission, et c’est pourquoi tous les tyrans recherchent un tel système. À l’inverse, et c’est plus important encore, c’est uniquement dans le cadre de la vie privée, de l’intimité, la possibilité d’aller quelque part où nous pouvons penser, raisonner, interagir et penser sans le jugement ni le regard des autres, que nous pouvons explorer, être créatifs et exprimer notre dissidence. C’est pourquoi, si nous acceptons de vivre au sein d’une société dans laquelle nous sommes surveillés en permanence, nous acceptons de fait que l’essence de la liberté humaine soit complètement bridée.

Glenn Greenwald ajoute :

la surveillance de masse crée une prison dans l’esprit qui est bien plus subtile mais bien plus efficace pour favoriser la conformité aux normes sociales, bien plus effective que la force physique ne pourra jamais l’être.

Je laisse la conclusion à Bruce Schneier, un écrivain, cryptologue et expert en sécurité reconnu, dans un billet qui date déjà de 2006 :

Combien d’entre nous ont fait une pause pendant une conversation depuis le 11 septembre 2001, soudainement conscient que nous pourrions être écoutés ? C’était probablement lors d’une conversation téléphonique, ou un échange d’email ou par messagerie instantanée, ou peut-être une discussion dans un endroit public. Peut-être parlions-nous de terrorisme, de politique ou d’Islam. Nous nous arrêtons brusquement, inquiets l’espace d’un instant que nos mots soient repris sortis de leur contexte. Puis nous rions de notre paranoïa et continuons la conversation. Mais notre comportement a changé et nos mots ont été subtilement altérés.

C’est la perte de la liberté que nous risquons quand notre vie privée nous est retirée. C’est la vie dans l’ex-Allemagne de l’Est ou la vie dans l’Irak de Saddam Hussein. Et c’est notre avenir si nous permettons l’intrusion de la surveillance dans nos vies privées.

On considère trop souvent que le débat porte sur le choix entre sécurité à vie privée. Mais le véritable choix, c’est la liberté par rapport au contrôle. La tyrannie, qu’elle vienne d’une attaque étrangère physique ou d’une scrutation permanente du pouvoir de l’État, c’est toujours la tyrannie. La liberté exige la sécurité sans intrusion. La surveillance policière est la définition même d’un État policier. C’est pour cela que nous devons défendre la vie privée même si nous n’avons rien à cacher.

samedi 24 janvier 2015

Flicage-brouillon - Partie 1 chapitre 8 - loi et vie privée

Comprenant que la vie privée est un besoin fondamental pour être libre, les politiques et les législateurs n’ont eu de cesse que de souligner son importance avant de l’inscrire dans la loi. Voici un rapide tour d’horizon de ces textes, avant de voir comment la vie privée est essentielle pour que le citoyen puisse avoir confiance dans les institutions.

Déclaration Universelle des Droits de l’Homme

En 1948, à la sortie de la 2eme guerre mondiale, l’assemblée générale des Nations Unis adopte un texte sans réelle portée juridique, la Déclaration Universelle des Droits de l’Homme.

Article 12. : Nul ne sera l’objet d’immixtions arbitraires dans sa vie privée, sa famille, son domicile ou sa correspondance, ni d’atteintes à son honneur et à sa réputation. Toute personne a droit à la protection de la loi contre de telles immixtions ou de telles atteintes.

La Convention européenne de sauvegarde des droits de l’Homme et des libertés

La Convention européenne de sauvegarde des droits de l’Homme et des libertés, représente un progrès sensible en terme de force du texte, dans la mesure où c’est un traité international signé par les États membres du Conseil de l’Europe. Signée le 4 novembre 1950, elle est entrée en vigueur le 3 septembre 1953.

Article 8 : toute personne a le droit au respect de sa vie privée.

La Charte des droits fondamentaux de l’Union Européenne

Cette charte n’a pas eu au départ de valeur juridique forte. votée en décembre 2000, il aura fallu attendre le traité de Lisbonne en 2007 pour lui donner une valeur juridiquement contraignante dans les 27 états membres de l’Union Européenne.

article 7 : toute personne a droit au respect de sa vie privée et familiale, de son domicile et de ses communications.

article 8 : toute personne a droit à la protection des données à caractère personnel la concernant. Ces données doivent être traitées loyalement, à des fins déterminées et sur la base du consentement de la personne concernée ou en vertu d’un autre fondement légitime prévu par la loi. Toute personne a le droit d’accéder aux données collectées la concernant et d’en obtenir la rectification.

Les CNIL européennes

Enfin, en décembre 2014, l’ensemble des CNILs européennes (la CNIL française et ses homologues européennes), sous le nom de « groupe de l’article 29 » publiait une déclaration très claire sur la protection de la vie privée : http://www.cnil.fr/linstitution/international/g29/edgf14/

Article 6 : La surveillance secrète, massive et indiscriminée de personnes en Europe (…) n’est pas conforme aux Traités et législation européens. Elle est inacceptable sur le plan éthique.

Article 7 : L’accès à des données à caractère personnel aux fins de sécurité n’est pas acceptable dans une société démocratique dès lors qu’il est massif et sans condition.

Le cas des USA

Aux USA, c’est le 4e amendement de la constitution, annoncé en 1792, qui protège la vie privée. Bien sûr nulle mention de numérique ou de données personnelles dans ce document ! Un peu moins d’un siècle plus tard, en 1890, deux juristes américains publiaient un article fondateur, the Right to Privacy. Mais ce n’est qu’en 1967, avec la jurisprudence Katz v. United Stated, que la notion de vie privée a été évoquée en rapport avec le 4eme amendement.

La confiance du citoyen dans les institutions

Pavel Mayer, membre historique du Parti Pirate allemand, explique mieux que je ne pourrais le faire pourquoi le non-respect de la vie privée est toxique pour la démocratie :

la surveillance a des effets néfastes. Les citoyens croient à la liberté. Lorsqu’ils apprennent qu’ils ont été espionnés, alors ils perdent foi dans la société et dans les politiques. Et bientôt ils risquent d’oublier que les politiques sont élus par les citoyens, et sont au service des citoyens. Mais globalement, les deux sont liés. Avec Snowden, on a compris que quand une société collecte des données sur un individu, ces dernières peuvent être récupérées sans mal par les services secrets.

Cette réflexion est partagée par Daniel Solove, juriste américain et l’un des spécialistes mondiaux de la vie privée, pour qui l’érosion de la vie privée a des conséquences qui ressemblent plus au Procès de Franz Kafka qu’à 1984 de George Orwell. George Orwell, dans 1984, démontre comment une surveillance permanente empêche toute liberté, toute créativité et pousse tout le monde au conformisme dans un genre de prison mentale.

Dans Le Procès, Franz Kafka raconte l’histoire d’un certain « Joseph K » dont la vie est bouleversée par un procès sans que l’accusé ne soit mis au courant du motif pour lequel il est jugé.

Pour Daniel Solove, c’est le manque de transparence de l’utilisation qui est faite de nos données qui pose un problème. Les données affectent les relations de pouvoir entre le citoyen et l’État. Ces relations sont frustrantes pour l’individu car elles créent chez lui un sentiment de totale impuissance et de faiblesse. Par ailleurs, ces relations affectent les relations qu’entretiennent les gens avec les institutions qui prennent des décisions importantes pour eux.

L’approche de Solove, focalisée sur l’État, qui fait la loi et sur l’importance de comprendre ce que l’État décide pour le citoyen, peut être confrontée à celle de Lawrence Lessig. Ce dernier, comme nous le verrons un peu plus tard, considère qu’en cette ère numérique, le code est la nouvelle loi : « le code, c’est la loi » (Code is Law).

Aujourd’hui, ce sont donc les grands acteurs commerciaux qui contrôlent le code et donc nos données qui décident pour nous, utilisateurs, ce que nous avons le droit de faire. Comment puis-je avoir confiance dans les sociétés commerciales qui me fournissent des services, si je ne comprends pas comment elles prennent des décisions me concernant ? Comment vais-je réagir face à Facebook qui cache certains messages de mes amis et m’en montre d’autres sans que je sache pourquoi ? Comment vais-réagir face à une mutuelle d’assurance qui refuse de m’assurer ou augmente ma cotisation parce qu’elle pense que je consomme trop de pizzas, de bières et de café mais pas assez de légumes verts ?

- page 2 de 7 -