Louis Derrac

Éducation et culture numérique

    • Licenciée par le géant californien des réseaux sociaux, l’experte en analyse de données explique au « Monde » que les équipes du réseau social ne traitent pas assez efficacement les problèmes de manipulation politique.

      En septembre 2020, le site BuzzFeed révélait un document interne publié par une employée de Facebook qui venait alors d’être licenciée. Dans ce texte, Sophie Zhang, une data scientist (spécialiste des données) diplômée de l’université du Michigan et de Princeton, qui travaillait depuis plus de deux ans pour le géant californien, jugeait sévèrement le réseau social, estimant qu’il ne luttait pas assez efficacement contre les opérations de manipulation politique dans le monde entier.

      Sept mois plus tard, Sophie Zhang, qui ne souhaitait initialement pas parler à la presse, a pris la parole publiquement, dans une série d’articles publiés dans le Guardian. Le quotidien britannique a détaillé plusieurs cas dans lesquels Facebook avait tardé ou échoué à agir, lorsque des responsables politiques, au Honduras, en Azerbaïdjan ou en Inde, créaient des faux comptes ou des fausses pages sur le réseau social pour mener des campagnes politiques ou de désinformation.

      Une « nouvelle recrue de la police municipale »

      Arrivée chez Facebook en 2018, Sophie Zhang, que Le Monde a aussi pu interroger mercredi 21 avril, a travaillé jusqu’en 2020 chez Facebook dans l’équipe chargée du « fake engagement ». Le réseau social traque et combat en effet toutes les utilisations frauduleuses de ses plates-formes (Facebook, Instagram, WhatsApp, Messenger, etc.) : par exemple, la création de faux comptes ou de fausses pages, l’achat de « J’aime », ou la publication de faux commentaires en masse.

      « La grande majorité [de cette activité] n’est pas politique », explique Sophie Zhang, dont le travail principal était de traquer les fraudes classiques : un particulier qui achète des faux « J’aime » pour ses propres publications ou une petite entreprise, par exemple.

      Le sujet est sensible depuis les élections américaines de 2016

      La manipulation politique, comme notamment l’utilisation de faux comptes pour faire artificiellement gonfler les publications d’un candidat à une élection, ou publier de faux commentaires à des fins de propagande, sont surveillées de plus près par le réseau social. Le sujet est sensible depuis les élections américaines de 2016, et l’utilisation frauduleuse de la plate-forme par des soutiens de Donald Trump, ou des manipulateurs venus de Russie.

      Les manipulations politiques sont, depuis, traitées chez Facebook par des équipes distinctes, tout comme les opérations frauduleuses les plus sophistiquées, que le réseau social nomme « comportement inauthentique coordonné » (coordinated inauthentic behavior, ou CIB), qui sont surveillées par une équipe spécifique.

      Des manipulations traitées tardivement ou ignorées

      La spécialiste des données ne faisait pas partie de l’équipe recherchant les « comportements inauthentiques coordonnés », mais se voyait plutôt comme « l’équivalent d’une nouvelle recrue de la police municipale d’un petit village » en traquant des fraudes de bas niveau. Sur son temps libre, elle a cependant commencé à découvrir des faux comptes et des fausses pages Facebook qui étaient, dans certains pays, utilisés à des fins politiques, et elle s’est mise à signaler ses découvertes aux équipes de responsables.

      Moins d’un an après son arrivée, en août 2018, Sophie Zhang a découvert que le gouvernement du Honduras utilisait des fausses pages Facebook pour augmenter le nombre de « J’aime » et de réactions sur la page du président Juan Orlando Hernandez. Une utilisation frauduleuse « grossière », « sans même essayer de le cacher ».

      Elle a alors essayé de signaler cette situation à sa hiérarchie. « Dès le départ, j’ai essayé continuellement d’attirer l’attention sur ce problème, explique l’ex-employée. Un des responsables de l’équipe pour l’Amérique latine nous a dit que ce n’était pas surprenant parce que les équipes du gouvernement du Honduras lui avaient déjà dit qu’ils menaient une ferme à trolls pour le président. »

      « La dynamique chez Facebook à ce moment précis était celle-ci : tout le monde était d’accord pour dire que c’était un problème, mais personne ne s’accordait la solution et la personne qui devait s’en charger. »

      Il a finalement fallu neuf mois au réseau social pour agir contre cette opération de manipulation politique après l’alerte donnée par Sophie Zhang.

      La spécialiste des données ne s’est pas arrêtée là et a continué à traquer, en plus de son travail quotidien, les manipulations politiques sur le réseau social. Elle a découvert des activités suspectes et des réseaux potentiels dans de multiples pays, dont l’Azerbaïdjan, les Philippines, ou encore l’Afghanistan.

      Mais elle estime s’être régulièrement heurtée à la bureaucratie de Facebook. Par exemple, elle a découvert en Azerbaidjan une utilisation massive et frauduleuse de fausses pages par le gouvernement :

      « Il leur a fallu plus d’un an pour prendre des mesures, raconte-t-elle. Ils ont fait tomber le réseau frauduleux après mon départ, simplement parce que j’avais fait suffisamment de bruit avant de partir. »

      Pendant ses deux ans chez Facebook, Sophie Zhang a toutefois alerté, en interne, le danger que le réseau social faisait courir aux citoyens des pays concernés en n’agissant pas, ou trop lentement. Ce faisant, elle a tenté d’en parler à des échelons plus hauts dans la hiérarchie.

      « J’ai même personnellement briefé un vice-président de l’entreprise au printemps 2019. J’étais une employée de bas niveau, un cran au-dessus d’une nouvelle recrue sortie de l’université, dans la hiérarchie. C’est comme si un sergent de l’armée française faisait un briefing à Emmanuel Macron. A chaque fois on me disait que ce que j’avais trouvé était très inquiétant, mais que ce n’était peut-être pas la priorité, que nos ressources étaient limitées. »Retour ligne automatique
      « Le prix à payer pour la société, la démocratie »

      Pourquoi cet immobilisme ? Selon l’ex-employée, Facebook renvoie à un manque de ressources humaines pour traiter la masse de dossiers suspects et les enquêtes nécessaires à établir les responsables d’une fraude. Dans un contexte où la bureaucratie interne de l’entreprise californienne, qui compte des dizaines de milliers d’employés dans le monde, est gérée depuis le siège de Facebook, à Menlo Park, pour les dossiers les plus sensibles.

      Ces opérations peuvent prendre des mois et des mois de travail

      Quand « Facebook annonce publiquement ses actions contre des “comportements inauthentiques coordonnés”, cela crée une dynamique dans laquelle l’entreprise veut être absolument certaine de dénoncer les vrais responsables », explique Sophie Zhang. Ces opérations peuvent prendre des mois et des mois de travail, et ralentir la mise en œuvre de mesures concrètes contre les réseaux de faux comptes concernés. « Ces enquêtes demandent du temps pour appréhender pleinement l’étendue des activités frauduleuses » , confirme un porte-parole de l’entreprise, interrogé par Le Monde suite aux informations fournies par Sophie Zhang.

      L’ancienne employée va plus loin : selon elle, les manipulations politiques dans le monde entier ne sont pas réellement une priorité pour Facebook. « L’essentiel de leur travail était fait en réaction à des articles dans la presse américaine, ou par exemple suite à des signalements d’agences gouvernementales ou d’organisations non gouvernementales », explique-t-elle, se définissant comme étant « à l’époque, (…) la principale personne recherchant activement » des réseaux de faux comptes à visée politique.

      « Au bout du compte, Facebook est une entreprise, et son objectif est de gagner de l’argent. (…) Quand des manipulations politiques ont lieu sur Facebook, le prix n’est pas payé par Facebook, il est payé par la société au sens large, par les gouvernements, par la démocratie. Mais ça n’affectera pas le réseau social. Et donc Facebook ne se concentrera que sur les situations qui présentent un risque pour son image. »Retour ligne automatique
      Facebook en « profond désaccord »

      Interrogé, Facebook a répondu être « en profond désaccord avec la description que fait Mme Zhang de nos priorités et de nos efforts pour lutter contre l’utilisation abusive de notre plate-forme. (…) Nous cherchons très activement ces abus dans le monde entier et disposons d’équipes spécialisées concentrées sur ce problème, ce qui transparaît dans les rapports mensuels que nous publions, et qui montrent que plus de cent opérations de “comportement inauthentique coordonné” ont été traitées dans le monde entier », a expliqué au Monde un porte-parole de l’entreprise californienne.

      Le 15 avril, le « Guardian » publiait une enquête montrant que Facebook n’a pas pris de mesures contre certains comptes suspects en Inde

      La transparence et la réalité des mesures prises pour contrer la manipulation politique sur les réseaux sociaux gérés par Facebook restent un sujet sensible, scruté par les autorités et les médias du monde entier. Le 15 avril, le Guardian publiait encore une enquête montrant que Facebook n’a pas pris de mesures contre certains comptes suspects en Inde, après avoir découvert qu’ils étaient liés à un élu du parti au pouvoir. Des informations que Facebook a niées fermement, affirmant ne pas avoir trouvé de preuve de lien direct entre le réseau concerné et l’élu politique en question, et assurant avoir pris des mesures contre ces faux comptes.

      « L’entreprise a progressivement élargi son équipe avec le temps, et dans [la lutte contre les manipulations politiques], ils sont devenus un peu meilleurs, reconnaît aujourd’hui Sophie Zhang, tout en émettant des doutes. Je ne pense pas que Facebook ait apporté des changements dans ce domaine spécifique après mon départ, même si je ne peux pas être à 100 % affirmative. Quand je suis partie, j’ai publié mon mémorandum sur le forum interne en espérant que cela leur mettrait la pression pour changer les choses. »

      Si elle a depuis choisi de s’exprimer dans la presse, c’est suite au constat d’échec de cette stratégie, et avec la volonté de mettre une pression supplémentaire sur l’image publique de l’entreprise. « Je fais cela parce que toutes les autres solutions ont échoué. Je force Facebook à résoudre le problème en utilisant le seul moyen qu’ils semblent respecter » , conclut-elle.