Série - flicage-brouillon

Fil des billets

mercredi 21 janvier 2015

Flicage-brouillon - Partie 1 chapitre 5 - la surveillance des États

Il y a quelques années, je discutais de surveillance des citoyens avec un fonctionnaire de police français. Il m’expliquait en substance que les citoyens craignaient les services de renseignements (renseignements généraux, DST, devenus DCRI puis DGSI). Il m’affirmait qu’en fait ces services en savent beaucoup moins sur chacun de nous que les grands services en lignes et réseaux sociaux que sont Google, Facebook ou encore Amazon et Apple. En effet, il est bien plus efficace de collecter les informations que les gens partagent volontairement que d’essayer d’espionner les gens en question.

Qu’à cela ne tienne, pour augmenter l’efficacité des services de renseignements, il suffirait juste qu’ils espionnent les réseaux sociaux ! Cela pourrait être une boutade, mais c’est malheureusement la triste réalité. On s’en doutait depuis une quinzaine d’années avec l’affaire Echelon à la fin des années 1990.

C’est en juin 2013 que le grand public a commencé à comprendre l’ampleur de la surveillance généralisée avec les révélations d’un lanceur d’alertes américain, Edward Snowden, qui a travaillé successivement pour différents services secrets américains : la CIA (Central Intelligence Agency, agents secrets américains sur le sol étranger) puis la NSA (National Security Agency) en tant qu’informaticien sous-traitant.

Edward Snowden s’est réfugié à Hong-Kong, emportant avec lui des centaines de milliers de documents classés secret défense de la NSA portant sur les programmes de surveillance d’Internet et des outils de communication par l’agence américaine. Il a invité deux journalistes, Laura Poitras et Glenn Greenwald, à qui il a remis ses documents. Les deux journalistes ont ensuite analysé et publié les documents d’Edward Snowden. Glenn Greenwald en a d’ailleurs fait un livre passionnant, « Nulle part où se cacher », paru en mai 2014 et Laura Poitras a sorti en novembre 2014 un documentaire largement récompensé, « Citizenfour ».

Les révélations de Snowden sont telles qu’il faudrait plusieurs livres pour tout décrire, aussi vais-je me contenter de ne décrire que quelques programmes d’espionnage de la NSA et de ses alliés, dont le GCHQ anglais :

Nom de code
Cible
Surveillance
Muscular
Yahoo et Google via les câbles en fibre optique entre les centres de données
Contenu des emails des utilisateurs : texte, audio, vidéo et méta-données (heure, émetteur, destinataires, sujet) associées.
XKeyScore
« collecte quasi-systématique des activités de tout utilisateur sur Internet » dans plusieurs dizaines de pays, dont la majeure partie des pays européens, le Brésil, la Russie, l’Inde et la Chine. 700 serveurs sont répartis sur plus de 150 sites.
Comportement et données des utilisateurs.
  • Activité sur les réseaux sociaux (dont Facebook), y compris pour lire les messages privés.
  • Historique des sites visités
  • Mots clés utilisés sur les moteurs de recherche
  • Contenu des formulaires remplis par l’utilisateur, y compris les mots de passe.
BullRun
Systèmes de chiffrement dans le monde
Toute communication chiffrée et donc considérée comme confidentielle.
OpticNerve
Webcam des utilisateurs de Yahoo Messenger
Capture toute les 5 secondes d’une image issue de la Webcam des utilisateurs alors qu’ils communiquent via le logiciel Yahoo Messenger.
Tempora
Plus de 200 câbles Internet sous-marins
Tout le trafic Internet est surveillé conjointement par GCHQ (UK) et la NSA (USA).

Ce tableau n’est qu’un tout petit extrait des programmes de surveillance de la NSA révélés par Edward Snowden, parmi les 446 programmes relevés par le site NSA-Observer.net.

Quand on les analyse, on remarque que les attaques de la NSA sur l’informatique mondiale se focalisent sur un certain nombre de points vulnérables : les câbles sous-marins, quelques très grands services utilisés par des centaines de millions d’utilisateurs. Ces services commerciaux (Facebook, Yahoo, Google, Apple, Microsoft, etc.) collectent des données auprès des utilisateurs et il suffit alors à la NSA d’aller récupérer ces données directement auprès de ces sociétés, avec ou sans leur consentement. Ces grandes sociétés sont de fait complices des services d’espionnage américains, probablement à leur corps défendant, soit parce que l’arsenal juridique les oblige à répondre aux demandes des services secrets, soit parce qu’ils sont espionnés par ces même services.

jeudi 22 janvier 2015

Flicage-brouillon - Partie 1 chapitre 6 - Big Data, grosses responsabilités

On entend souvent parler de « big data » sans toujours bien cerner de quoi il s’agit. En français, on devrait utiliser le terme de mégadonnées. Ce sont des ensembles de données gigantesques comme en collectent par exemple Twitter (7 téraoctets par jour) et Facebook (10 téraoctets). Rappelons qu’un téraoctet est l’équivalent de 1 000 milliards de caractères. Sachant que si on numérisait la Library of Congress, la plus grande bibliothèque du monde, on obtiendrait 18,75 téraoctets de données. Autrement dit, chaque jour, Twitter et Facebook produisent à peu près autant de données que ce que contient la plus grande bibliothèque du monde, à 10 % près. Les données de Facebook et de Twitter sont les données que produisent ou échangent les utilisateurs.

On a ici affaire à un véritable océan de données qu’il est possible d’explorer pour y trouver des informations particulièrement intéressantes. Les navigateurs des données sont appelés en anglais « Data scientists », genre de mathématiciens et statisticiens dont le métier est de comprendre le sens de ces données pour les valoriser.

Comme tout cela peut sembler bien abstrait, voici un exemple tiré d’un contexte bien plus terre à terre, celui des supermarchés.

Dans une interview de début 2012, un Data Scientist américain employé de la chaînes de grands magasins Target, racontait une anecdote amusante sur son métier :

Un homme passablement en colère entre dans un supermarché Target près de Minneapolis (Minnesota, USA) et exige de parler au directeur : « Ma fille a reçu votre prospectus par la poste », dit il. «Elle est encore au lycée, et vous lui envoyez des coupons de réduction pour des vêtements pour bébés et des berceaux ? Mais vous voulez l’encourager à tomber enceinte à son âge ?»

Le directeur tombe des nues. Il regarde le prospectus, qui porte bien le nom de la jeune cliente et contient des publicités pour des vêtements de femme enceinte, de quoi équiper une chambre de bébé et moultes photos de bébés souriants. Très ennuyé, le directeur présente platement ses excuses et prévoit de rappeler le client un peu plus tard (aux États-Unis, la notion de service du client va beaucoup plus loin qu’en France).

Quelques jours plus tard, le directeur appelle donc son client, mais le père de la lycéenne semble très décontenancé : « j’ai eu une conversation avec ma fille et… il s’avère qu’il s’est passé des choses pendant que j’avais le dos tourné… Voilà… Elle va accoucher au mois d’août. Je me dois de vous présenter des excuses ! »

Le rapport avec la Big Data ? Il est direct : la jeune fille, soit parce qu’elle payait avec une carte de paiement, soit avec une carte de fidélité, avait laissé un historique d’achats. Et les mathématiciens de Target ont remarqué que les achats de certains produits étaient corrélés avec une grossesse. Les lotions sans parfums en grands flacons (surtout au début du 2e trimestre de grossesse), les suppléments alimentaires à base de calcium, zinc et magnésium (à partir de la 20e semaine de grossesse) et, juste avant l’accouchement, les grands sacs de coton hydrophile et de lingettes, sont autant de signaux que les statisticiens ont retenus et recherchent dans l’océan de données que nous alimentons sans le savoir.

Un autre exemple, tiré du très officiel blog Facebook Data Science, sur un sujet où on n’attend guère les mathématiciens : le moment où l’on tombe amoureux.

Pour la St Valentin 2014, Facebook a en effet publié un long billet expliquant ce qu’ils peuvent observer entre deux utilisateurs qui tombent amoureux et entament une relation sentimentale. Pour cela, Facebook a sélectionné les gens qui ont indiqué « avoir une relation » associé avec une date d’anniversaire pour cette relation. On observe ainsi que pendant la période de séduction, il y a de plus en plus d’interactions (messages échangés) entre les futurs partenaires via Facebook, mais que quelques jours avant de commencer la relation, le nombre de messages chute brusquement… pour ne pas remonter. Les mathématiciens de Facebook estiment que c’est dû au fait que les utilisateurs passent plus de temps ensemble dans le monde réel. Cela fait que Facebook est donc capable de prédire avec qui nous sommes en train de tomber amoureux, rien qu’avec nos données, avant même que cela ne soit devenu une réalité !

P1chap6_-_facebook1.png

Ensuite, un graphique montre que les messages envoyés sont sensiblement plus positifs en moyenne après le début de la relation :

P1chap6_-_facebook2.png

Les deux exemples choisis ici, Target et Facebook, démontrent que le Big Data touche aussi bien le commerce que le plus intime. Cela démontre aussi que les données qui alimentent le Big Data peuvent être captées auprès des utilisateurs sans que ceux-ci n’en aient la moindre idée : la carte bancaire ou de fidélité dans le cas de Target, le compte Facebook dans le deuxième exemple, suffisent pour permettre à ces sociétés pour construire des « profils » de chaque client-utilisateur, avec des implications qui peuvent être tout à fais inattendues, surtout quand ces données sont piratées, ou revendues ou siphonnées par des services secrets.

vendredi 23 janvier 2015

Flicage-brouillon - Partie 1 chapitre 7 - l'impact de la surveillance sur la société

Il est une question à laquelle j’avoue avoir du mal à répondre : « pourquoi la surveillance de masse est-elle néfaste à la société dans son ensemble ? ».

Comme beaucoup, j’ai une réponse viscérale à cette question : je sens que la surveillance de masse est mauvaise. Elle me révolte. Mais dès qu’il s’agit d’y répondre clairement, les choses se compliquent grandement. Aussi, j’ai dû replonger dans des cours de philo et de droit pour mettre des mots sur la réponse à cette question fondamentale.

Une idée qui a presque 2000 ans

Il se trouve que le problème est présent depuis longtemps. Depuis la Rome antique en fait, avec le poète Juvénal qui écrivait dans ses satires « mais qui va garder ces gardiens » (« sed quis custodiet ipsos custodes ? »), phrase souvent utilisée pour parler des gouvernements qui surveillent les citoyens, puis qui a été étendue au problème de la surveillance de masse.

Le panoptique de Bentham

La réflexion sur la surveillance doit beaucoup au philosophe anglais Jeremy Bentham (1748-1832), inventeur du “Panoptique”, un modèle de prison circulaire avec une tour centrale où sont logés les gardiens. Depuis la tour centrale, les gardiens peuvent observer les détenus qui sont enfermés dans des cellules individuelles, sans que ceux-ci puissent savoir si on les observe. L’idée est de créer chez les prisonniers le sentiment qu’ils sont observés en permanence par les gardiens, qui savent tout sur eux, même quand les gardiens sont absents.

Il faut noter que Samuel Bentham, le propre frère de Jeremy Bentham, avait quant à lui dessiné des plans d’usines selon le même principe, pour surveiller les ouvriers et pas seulement des prisonniers.

Prison modèle à Cuba, sur le principe du panoptique

Prison modèle à Cuba, sur le principe du panoptique. Source : Wikipedia

En faisant croire aux gens qu’ils sont observés en permanence, on arrive à leur imposer une façon de se comporter

C’est le philosophe français Michel Foucault (1926-1984) qui a remis l’idée du panoptique au goût du jour avec son livre Surveiller et punir paru en 1975. Foucault étend l’idée à d’autres lieux que la prison et l’usine, comme par exemple l’école et l’hôpital. Cela fait dire au philosophe Gilles Deleuze (1925 - 1995) :

La formule abstraite du Panoptisme n’est plus « voir sans être vu », mais « imposer une conduite quelconque à une multiplicité humaine quelconque. »

Voilà, tout est dit : en faisant croire aux gens qu’ils sont observés en permanence, on arrive à leur imposer une façon de se comporter.

La vision de Glenn Greenwald et de Bruce Schneier

Glenn Greenwald et Bruce Schneier ont grandement influencé ma façon de penser sur ce sujet. Plutôt que de paraphraser leurs discours respectifs, je propose de traduire quelques extraits que voici.

Je laisse la parole à Glenn Greenwald, l’un des journalistes ayant permis les révélations Snowden, dans un discours fait à la conférence TED d’octobre 2014 :

Nous tous êtres humains, même ceux qui font semblant de ne pas s’intéresser à la vie privée, comprenons instinctivement à quel point elle est importante. Il est vrai qu’en tant qu’êtres humains, chacun de nous est un animal social, ce qui veut dire que nous avons besoin de faire savoir à d’autres ce que nous faisons, pensons et disons, et c’est pourquoi nous publions des informations en ligne.

Mais il est tout aussi important pour être un être humain libre et heureux d’avoir un endroit où l’on peut se soustraire au regard et au jugement des autres. Il y a une raison pour laquelle nous cherchons tous cet endroit, c’est que nous tous, et pas seulement les terroristes et les criminels, avons des choses à cacher. Il y a toutes sortes de choses que nous faisons et pensons et que nous partageons avec notre médecin, notre avocat, notre psychologue, notre conjoint ou notre meilleur ami, choses qui nous humilieraient terriblement si le reste du monde venait à les savoir. De ce fait, pour chaque chose que nous faisons ou pensons, nous prenons la décision de la partager ou non avec notre entourage ou en ligne. Certains peuvent nier verbalement l’importance de la vie privée, mais le fait est que leurs actions prouvent le contraire.

Il y a une raison pour laquelle l’intimité est si importante pour tous et de façon instinctive (…) : quand nous sommes surveillés, écoutés, notre comportement change du tout au tout. Le nombre de comportements possibles est sévèrement réduit quand nous pensons être surveillé. C’est un fait reconnu dans toutes les disciplines, des sciences sociales à la religion en passant par la littérature. Il y a des dizaines d’études psychologiques qui prouvent que quand quelqu’un pense qu’il est surveillé, son comportement change est devient bien plus conforme à la norme sociale. La honte est un puissant élément motivant parce qu’on veut y échapper, et c’est pourquoi les gens se sachant observés prennent des décisions qui ne sont pas issues de leur propre liberté de choix, mais liées aux attentes que les autres ont pour eux et aux exigences de conformité de la société.

Une société dans laquelle les gens peuvent être surveillés à tout moment est une société qui pousse à la conformité, l’obéissance et la soumission, et c’est pourquoi tous les tyrans recherchent un tel système. À l’inverse, et c’est plus important encore, c’est uniquement dans le cadre de la vie privée, de l’intimité, la possibilité d’aller quelque part où nous pouvons penser, raisonner, interagir et penser sans le jugement ni le regard des autres, que nous pouvons explorer, être créatifs et exprimer notre dissidence. C’est pourquoi, si nous acceptons de vivre au sein d’une société dans laquelle nous sommes surveillés en permanence, nous acceptons de fait que l’essence de la liberté humaine soit complètement bridée.

Glenn Greenwald ajoute :

la surveillance de masse crée une prison dans l’esprit qui est bien plus subtile mais bien plus efficace pour favoriser la conformité aux normes sociales, bien plus effective que la force physique ne pourra jamais l’être.

Je laisse la conclusion à Bruce Schneier, un écrivain, cryptologue et expert en sécurité reconnu, dans un billet qui date déjà de 2006 :

Combien d’entre nous ont fait une pause pendant une conversation depuis le 11 septembre 2001, soudainement conscient que nous pourrions être écoutés ? C’était probablement lors d’une conversation téléphonique, ou un échange d’email ou par messagerie instantanée, ou peut-être une discussion dans un endroit public. Peut-être parlions-nous de terrorisme, de politique ou d’Islam. Nous nous arrêtons brusquement, inquiets l’espace d’un instant que nos mots soient repris sortis de leur contexte. Puis nous rions de notre paranoïa et continuons la conversation. Mais notre comportement a changé et nos mots ont été subtilement altérés.

C’est la perte de la liberté que nous risquons quand notre vie privée nous est retirée. C’est la vie dans l’ex-Allemagne de l’Est ou la vie dans l’Irak de Saddam Hussein. Et c’est notre avenir si nous permettons l’intrusion de la surveillance dans nos vies privées.

On considère trop souvent que le débat porte sur le choix entre sécurité à vie privée. Mais le véritable choix, c’est la liberté par rapport au contrôle. La tyrannie, qu’elle vienne d’une attaque étrangère physique ou d’une scrutation permanente du pouvoir de l’État, c’est toujours la tyrannie. La liberté exige la sécurité sans intrusion. La surveillance policière est la définition même d’un État policier. C’est pour cela que nous devons défendre la vie privée même si nous n’avons rien à cacher.

- page 3 de 12 -