Exploitation des données, manipulation de l’opinion, culte du secret… La trahison des GAFA
►https://www.lemonde.fr/m-le-mag/article/2020/12/18/exploitation-des-donnees-manipulation-de-l-opinion-culte-du-secret-la-trahis
Il y a encore quelques années, Mark Zuckerberg était considéré comme un génie, Google comme l’une des entreprises les plus cool au monde… et puis la confiance s’est perdue. L’avidité des géants de la tech semble avoir eu raison des valeurs des pionniers du numérique : liberté, innovation et progrès.
Deux jours d’audience de presque cinq heures chacune, pas loin de six cents questions, une centaine de membres du Congrès. Et face à eux : Mark Zuckerberg, le puissant PDG de Facebook, costume et cravate bleus, visage gris. Nous sommes le 10 avril 2018 et le prodige des nouvelles technologies, 33 ans, troisième fortune mondiale, témoigne pour la première fois devant les élus américains. Ce ne sera pas la dernière.
« Mon équipe reviendra vers vous pour des détails supplémentaires », martèle-t-il à seize reprises en guise de réponse aux interrogations minutées des démocrates et des républicains. Elles sont pourtant simples : les données personnelles récoltées par Facebook ont-elles été transmises à des entreprises tierces ? Ces données étaient-elles protégées par les serveurs de l’entreprise ? Ou encore quelle fut la réaction de l’entreprise face aux comptes diffusant des « fake news », notamment sur la vie politique américaine ? Imperturbable, Mark Zuckerberg conserve une voix monotone et une expression neutre. Comme s’il était habitué à être questionné de la sorte.
A vrai dire, le jeune patron a été formé en urgence par un ancien conseiller spécial du président George W. Bush, sous la pression du scandale Cambridge Analytica. Soit l’utilisation illégale des données personnelles d’environ 87 millions d’utilisateurs de Facebook par cette entreprise britannique financée par le businessman ultraconservateur Robert Mercer, et cofondée par Steve Bannon, ancien stratège du président américain Donald Trump. Tout ça dans le but de favoriser l’élection de ce dernier, en novembre 2016 – une méthode visiblement efficace.
Au micro, le sénateur du Dakota du Sud John Thune résume l’atmosphère au Capitole : « Dans le passé, beaucoup de mes collègues, des deux côtés de l’allée [majorité et opposition, des deux côtés de l’hémicycle au Sénat], étaient prêts à laisser les entreprises technologiques faire l’effort de s’autoréguler. » Pause. « Cela pourrait changer. » L’image est emblématique : Mark Zuckerberg garde les mains posées sur le large bureau noir, face à des dizaines d’appareils photo, comme s’il craignait d’être englouti par ce haut lieu du pouvoir américain. Il se raccroche aux origines « modestes » de son entreprise, créée dans un « dortoir » de l’université Harvard en 2004, et concède : « Nous avons fait des erreurs et nous essayons d’en tirer des conclusions. » Comme un premier aveu de faiblesse.Retour ligne automatique
La Silicon Valley tremble
Il y en aura d’autres. Au-delà du plus célèbre réseau social, scruté de plus en plus intensément aux Etats-Unis comme dans l’Union Européenne, c’est la Silicon Valley tout entière qui tremble. La crise est sans précédent. A tel point que, le 16 décembre 2018, l’influent Financial Times dévoile un « mot de l’année » inédit et directement adressé à l’industrie la plus riche de l’histoire : techlash. Contraction de tech et backlash (« contrecoup », en VF), il désigne l’animosité croissante d’une large part de la population envers les plus grandes entreprises technologiques mondiales et leur pouvoir intimidant.
« Même la femme au foyer de 50 ans originaire du Minnesota intéresse Cambridge Analytica. Nous sommes tous victimes de la surveillance généralisée. » Christopher Wylie, lanceur d’alerte
L’année suivante, un sondage du Pew Research Center confirme l’intuition du média financier : la part d’Américains persuadés que la technologie produit un impact positif sur la société est passée à seulement 50 % en 2019, contre 71 % en 2015. « A mesure que les grandes entreprises technologiques se sont hissées au top du capitalisme mondial, les contestations sont apparues », constate Sébastien Broca, sociologue à l’université Paris-VIII.
Difficile d’en vouloir à l’opinion : en quelques années à peine, ces innovations, vendues comme révolutionnaires et consacrées au bien commun, ont accompagné l’élection de Donald Trump et sa rhétorique raciste et rétrograde ; Google a discrètement cherché à développer un moteur de recherche censuré, le projet « Dragonfly », fait sur mesure pour respecter les exigences du gouvernement chinois ; Amazon a nié toutes les avancées du droit du travail pour maintenir la cadence dans ses immenses entrepôts nécessaires à la vente en ligne.
Les exemples ne manquent pas. « Le techlash est le résultat prévisible pour une industrie incapable de se gouverner elle-même », conclut le Financial Times. Depuis, les mêmes questions ne cessent de hanter les cercles de pouvoir, les médias et les plates-formes de discussions, tous réseaux sociaux confondus : où est passée l’utopie ? Comment la Silicon Valley a-t-elle pu devenir cette inquiétante machine dont on aurait visiblement perdu le contrôle ? Peut-on encore l’empêcher de menacer nos libertés, nos vies privées, et peut-être même la démocratie ?Retour ligne automatique
Le coup de grâce Cambridge Analytica
Sa puissance, visiblement sans limites, est déjà devenue « inquiétante », selon les termes de plusieurs personnes interrogées pour cet article. Pour une industrie de la tech déjà en plein doute existentiel, les révélations sur les pratiques de l’entreprise Cambridge Analytica font office de coup de grâce. En 2018, l’ancien consultant Christopher Wylie, qui a travaillé pour cette entreprise britannique spécialisée dans le conseil en communication et l’analyse de données, transfère des disques durs de documents à plusieurs journalistes du quotidien anglais The Guardian, toutes employées dans la rubrique « Arts et culture ».
« Il n’y avait pas un seul journaliste tech sur cette histoire, raconte le lanceur d’alerte via Zoom, il fallait des gens, en l’occurrence uniquement des femmes, qui ne faisaient pas partie de ce petit monde masculin pour pointer ses failles. » Elles sont béantes : un outil dédié à la lutte contre la radicalisation aurait été tordu pour devenir un vaste projet de manipulation des données permettant d’influer sur plusieurs élections démocratiques. Cambridge Analytica serait ainsi devenu un outil de « guerre psychologique », pointe Christopher Wylie.
L’impact médiatique de cette série d’articles est à la hauteur des informations rendues publiques. Le trentenaire, installé à Londres, se lance dans une « tournée d’audiences parlementaires », s’exprime sur tous les plateaux de télévision disponibles, devient le visage – cheveux de couleurs variées, lunettes branchées – de la débâcle de la tech. Il précise : « Pour la première fois, tout le monde a compris qu’il pouvait être une cible, même la femme au foyer de 50 ans originaire du Minnesota intéresse Cambridge Analytica. Nous sommes tous victimes de la surveillance généralisée. » Avec, comme dommage collatéral, les idéaux fondateurs de la Silicon Valley.Retour ligne automatique
Des nerds devenus les rois du monde
Cupertino, Californie, 1984. Jean-Louis Gassée est attablé au Good Earth, un café du centre-ville aujourd’hui disparu pour cause de gentrification. C’est l’heure du petit-déjeuner. Le premier d’une nouvelle vie. Le Français de 40 ans vient d’être nommé directeur de la division recherche et développement chez Apple, les cool kids de l’ordinateur personnel – un Macintosh, comme ils ont appelé leur révolution estampillée d’une pomme croquée. Mais, pour l’instant, Jean-Louis Gassée regarde le ciel et laisse son esprit vagabonder dans le big sky country.
« La tech était sexy, c’était le futur et c’était forcément génial ! Je crois qu’il y a eu un gros manque de responsabilité de la part de ces leaders politiques qui n’ont pas prêté attention aux signes avant-coureurs. » Un ancien grand patron de la tech
« Je me disais, ça y est, je suis arrivé, rejoue-t-il aujourd’hui par téléphone depuis la Côte ouest, c’est l’endroit où j’avais toujours voulu aller. » Depuis son arrivée chez Hewlett-Packard, et sa branche française, en 1968, le cadre n’a jamais cessé de rêver des Etats-Unis. Là-bas, il entrevoit le « sentiment des possibilités » et une culture de l’entreprenariat plus aboutie qu’à Paris. « Il n’y avait pas que le fric qui comptait ! Je voulais y aller pour faire ce qui n’existait pas avant, pour innover ! », sourit l’ancien businessman, 76 ans aujourd’hui. En l’espace de deux décennies, il a vu se lancer des dizaines de start-up, et certaines sont devenues, depuis, des empires.
La saga emblématique de cet âge d’or reste peut-être celle de Google, symbole de la méritocratie en vogue au cœur de cette Silicon Valley encore tâtonnante. La preuve : Larry Page et Sergey Brin sont les « deux meilleurs ingénieurs » de l’université Stanford et ils ont une « idée toute simple et très belle », assure l’entrepreneur. Ils souhaitent ranger les pages Internet en les classant selon leur mérite. Jean-Louis Gassée : « Ils ont construit un algorithme, mis sur pied quelques serveurs et c’est devenu ce qu’on sait. »
Hors de cette bulle de nerds devenus les rois du monde, on loue aussi la vision de cette jeune génération fraîchement débarquée dans les affaires, prête à tout gagner, autant qu’à « contribuer au bien de l’humanité ». Les médias érigent Steve Jobs, et plus tard Mark Zuckerberg ou Jeff Bezos, au rang de nouvelles figures du cool et de la réussite à l’américaine. Le grand public est conquis. Et les décideurs politiques leur ouvrent bientôt grand les portes. Toutes les portes.
Snowden sonne l’alarme
Les années Obama sont le théâtre d’une véritable love story entre la tech et la Maison Blanche. A partir de 2008, les pontes de Google ont organisé près d’« un rendez-vous par semaine » avec le président, selon un ancien patron d’une grande entreprise canadienne. A en croire les archives répertoriées pendant les deux mandats de Barack Obama, près de quatre cents de ces rendez-vous ont bien eu lieu dans la plus haute sphère du pouvoir politique.
Assez pour que de nombreux hauts fonctionnaires poursuivent leur carrière dans les conseils d’administration des mastodontes de la Silicon Valley. Et vice versa. Un feu vert symbolique pour tout un corps de métier. Cet ancien grand nom de l’innovation canadienne confirme : « La tech était sexy, c’était le futur et c’était forcément génial ! Je crois qu’il y a eu un gros manque de responsabilité de la part de ces leaders politiques qui n’ont pas prêté attention aux signes avant-coureurs. Ces signaux étaient pourtant là. »
Le plus flagrant se manifeste en 2013. C’est un cataclysme. Le jeune informaticien Edward Snowden dévoile un vaste programme de surveillance de masse pilotée par la NSA (National Security Agency). Les services de renseignement ont puisé directement des données sur les plateformes Internet et dans les entreprises de leur propre pays, sans autorisation ni contrôle. Adolescent dans les années 1990, Snowden avait cru aux interventions des pionniers de la tech, détaille-t-il dans son autobiographie. « Il raconte comment, à 14 ans, il pouvait parler à des scientifiques renommés à l’autre bout du monde, explique le sociologue Sébastien Broca. Mais, pour lui, il y a eu trahison de cette utopie initiale. »
C’est ainsi qu’il justifie son geste radical et pour lequel il sera prêt à vivre en exil au nom de la protection de nos données privées. Dans ce programme, décrit comme « orwellien » par la justice fédérale américaine, les grandes entreprises mises en cause ont souvent été considérées comme victimes plutôt que complices. Malgré leur participation évidente à certaines de ces manœuvres.
Le péché originel
A la même époque, le 17 juin 2014, Facebook et la prestigieuse université Cornell publient un article scientifique intitulé « La preuve expérimentale de la contagion émotionnelle à grande échelle à travers les réseaux sociaux », ou comment manipuler les sentiments des utilisateurs des réseaux sociaux grâce à des publicités ciblées. Comme une conclusion logique, l’année suivante, Google abandonne sans bruit son slogan historique, le célèbre « Don’t be evil » (« ne faites pas le mal »).
Mais pour Tim O’Reilly, pionnier légendaire de la Silicon Valley, le ver était dans le fruit bien avant les révélations de Snowden : « Le 8 février 1996, la section 230 a été adoptée dans la loi américaine, qui permet aux plateformes Internet de ne pas être responsables des publications sur leurs sites, détaille l’entrepreneur, donc on a arrêté de modérer le contenu correctement. »
En parallèle, un autre verrou saute : la monétisation des données. Oublié l’utopie de start-up tournées vers le bien commun. A l’aube des années 2000, les nouvelles compagnies commencent à songer en termes de rentabilité et Google se met à vendre ses données au plus offrant. La pratique sera bientôt généralisée et des milliards de dollars de profits suivront.
Et l’on découvre que les GAFA sont des entreprises capitalistes comme les autres, voire pire que les autres. Pour Tim O’Reilly, la tech s’inscrit dans la logique ultralibérale définie par l’économiste Milton Friedman. Dans une tribune publiée dans le New York Times Magazine le 13 septembre 1970, le futur Prix Nobel écrivait : « La responsabilité sociale des entreprises est de générer du profit. » Tim O’Reilly y voit le péché originel, le fruit défendu dans lequel ont croqué les GAFA. Jusqu’à ce que le paradis fantasmé ne devienne un enfer.
La fronde des employés
Le 1er novembre 2018, à 11 heures du matin, environ 20 000 employés de Google quittent leur poste de travail, sans un regard pour les open spaces bientôt déserts. Dublin, Chicago, Zurich ou Berlin, presque aucun bureau n’échappe à la « plus grande grève de l’histoire du droit du travail moderne », selon Ben Tarnoff, auteur du livre d’entretiens Voices from the Valley (2020, non traduit), organisée simultanément dans cinquante villes. Les employés modèles protestent contre les parachutes dorés offerts à plusieurs cadres dirigeants accusés de harcèlement sexuel – notamment Andy Rubin, créateur de la technologie Android, parti avec 90 millions de dollars.
Cette « révolte de la tech » dans le plus grand moteur de recherche du monde avait débuté plus tôt dans l’année, contre le « Projet Maven » – un contrat noué avec le Pentagone pour améliorer le programme de drones américains à l’aide de l’intelligence artificielle. « Ces sujets sont devenus très importants au cours des deux dernières années, raconte Evan Greer, directeur adjoint de Fight for the Future, un organisme à but non lucratif militant pour la défense des droits des usagers du numérique. Et ils interrogent plus largement le but de toute cette technologie. »
« Beaucoup d’entreprises se sont associées à des boîtes dont le seul but est de briser toute tentative de création de syndicat. » Ben Tarnoff, employé de la Silicon Valley
Conscients de leur pouvoir immense, les employés de ces entreprises s’associent aux mouvements nationaux et internationaux, de Black Lives Matter aux différents cercles féministes impliqués dans la lutte contre le harcèlement et le viol depuis les révélations de #metoo en 2017. « Toutes ces actions ne viennent pas de nulle part, elles reposent sur une dynamique plus globale dans la société », souligne Evan Greer.
Résultat, toute la « Vallée » est bientôt rythmée par les levées de boucliers : des employés pressent Microsoft d’abandonner ses liens et son projet à 10 milliards de dollars avec l’armée américaine ; en pleine administration Trump, l’entreprise Salesforce est pointée du doigt pour son partenariat avec les douanes américaines ; Amazon doit, pour la première fois, organiser des négociations avec les employés de ses hangars de tri. Alors, tout est en train de s’arranger ? Pas vraiment.Retour ligne automatique
Représailles et surveillance
« On dirait que c’est de nouveau le XIXe siècle », s’amuse Ben Tarnoff, comme pour tenir l’épuisement à distance. Par là, l’employé de la Silicon Valley fait référence aux « représailles agressives » tristement devenues la norme sous le soleil de la Californie. Dans les plus grandes entreprises, plusieurs leaders de ces mouvements spontanés ont été licenciés dans la foulée de leurs prises de parole publiques.
En novembre 2020, le site d’information américain Motherboard révèle qu’Amazon a signé un généreux contrat avec l’entreprise Pinkerton, leader historique des agences anti-syndicats et spécialisée dans l’espionnage des employés prêts à sortir du rang. « Beaucoup d’entreprises se sont associées à des boîtes dont le seul but est de briser toute tentative de création de syndicat », précise Ben Tarnoff.
Pour ne prendre aucun risque, les moyens de surveillance développés dans la Silicon Valley sont régulièrement utilisés en interne – même chez Google, l’une des entreprises les plus « libres » : les téléphones professionnels sont mis sur écoute, les serveurs internes prévus pour les échanges entre services sont rendus accessibles au management et des accords de confidentialité impitoyables sont imposés à certains employés. Le pire ? Tout ça fonctionne. Depuis l’année 2018, le nombre de manifestations publiques ou privées a drastiquement diminué. La routine semble avoir repris ses droits. Ben Tarnoff : « Après la frustration et la colère de voir leurs équipes se rebeller, beaucoup de cadres dirigeants ont adopté un discours réactionnaire. »Retour ligne automatique
Les « réformateurs de la tech »
D’autres ont pris le chemin inverse, renoncé à leurs salaires à six chiffres, leurs titres ronflants et leurs portefeuilles de stock-options, pour se lancer dans la mêlée. C’est le cas de Jim Balsillie, ancien PDG de l’entreprise RIM et créateur du célèbre BlackBerry, devenu en quelques années une figure centrale d’un jeune mouvement de « réformateurs de la tech ». Soit d’anciens cadres haut placés et chief executive officers (CEO) qui ont vu la bête de l’intérieur, le désastre potentiel et ont décidé de ne pas rester les bras ballants. « Je ne pensais pas que la tech deviendrait si toxique », regrette le multimilliardaire.
Ses actions contre le projet de « smart city » pilotée par Google à Toronto, la ville où il a fait ses études, aux côtés d’associations locales, ses travaux avec le milliardaire hongrois George Soros pour le Forum économique mondial de Davos ou la création de plusieurs think tanks ont fait de lui un véritable « activiste », comme l’a résumé Shoshana Zuboff, influente autrice de L’Age du capitalisme de surveillance (Zulma, 2020). Aux côtés de puissantes personnalités de la Silicon Valley, comme Roger McNamee, ancien mentor de Mark Zuckerberg et investisseur star de Californie, ou Tristan Harris, ancien cadre de Google, il pointe la cupidité des nouveaux pontes de l’innovation, emportés par leur hubris et leurs rêves de monopole, encouragés par des succès tonitruants ou leurs réactions violentes face à la moindre tentative de contrôle.
Jim Balsillie rappelle : « Dans l’histoire, le travail des enfants, l’esclavage et les déchets toxiques ont été bannis. Nous avons toujours imposé des règles pour contrôler le capitalisme, afin que le bien-être de la société reste l’objectif final. » L’entrepreneur aimerait bien que cela continue. Fin novembre 2020, 132 patrons, souvent jeunes, de sociétés de nouvelles technologies basées au Canada ont transmis une lettre ouverte au premier ministre Justin Trudeau qui, tel Obama il y a quelques années, semble sous le charme de la tech. Exigeant des garde-fous, ils l’ont invité à se montrer « responsable sur la question des données » pour favoriser la « construction de la nation », surtout dans une période de crise. « Il faut réguler, pointe le créateur du BlackBerry, c’est une question de démocratie. »
La riposte des Etats
En 2019, aux Etats-Unis, la Federal Trade Commission (FTC) a infligé une amende record de 5 milliards de dollars – la plus importante de l’histoire du pays – à Facebook, pour non-respect de la vie privée. Dans l’Union européenne, 8,25 milliards d’euros ont été demandés à Google pour abus de position dominante de 2017 à 2019, a tranché la commissaire à la concurrence Margrethe Vestager, qui a aussi permis l’avènement du règlement général sur la protection des données (RGPD), première base juridique solide pour contrer les GAFA.
« Dans les cercles politiques, tout le monde sait désormais que ces entreprises ne sont pas forcément là pour agir dans l’intérêt de tous », précise Damian Collins, député conservateur au Parlement britannique. Grâce au soutien des idéalistes de la tech, et à son rôle au sein du Real Facebook Oversight Board – un groupe indépendant pour le contrôle des activités du réseau social –, l’homme politique a prévu de passer à la vitesse supérieure : des régulations contraignantes et internationales. « Ces entreprises sont présentes partout et nous sommes limités dans nos décisions nationales, justifie le membre du Parlement, donc nous avons par exemple instauré un grand comité international avec des parlementaires en Europe et dans le monde. »
L’idée est en cours depuis deux ans déjà, et les premières avancées, des deux côtés de l’Atlantique, commencent à surgir, malgré l’absence presque totale de collaboration des GAFA. Le 9 décembre, la FTC et 48 Etats américains ont accusé Facebook d’avoir bafoué les lois anti-trust en rachetant des concurrents pour s’assurer un contrôle total de plusieurs marchés. Le 19 décembre, c’est Google qui a fait l’objet d’une troisième plainte en deux mois. Une coalition de 38 Etats a lancé des poursuites contre le géant de l’Internet là aussi pour pratiques anticoncurrentielles.
Quant à l’Union européenne, elle a dévoilé, le 15 décembre, un plan d’attaque en deux volets : un Digital Service Acte (DSA) pour la régulation des contenus, et le Digital Market Act (DMA) afin de préserver la concurrence dans le numérique. Affaire à suivre. Gageons que les protestations – et les pressions – des géants du numérique seront à la hauteur des ambitions des législateurs.
Habituellement, les premières « questions difficiles » posées, le dialogue se rompt très vite. « J’ai demandé à Facebook, dans un rendez-vous privé, de vérifier combien et quelles publicités avaient été achetées par des comptes russes pendant la campagne pour le Brexit », se souvient Damian Collins, lui-même en faveur du maintien dans l’UE. Les équipes de Zuckerberg proposent alors de vérifier des preuves que le parlementaire apporterait, sans avoir accès aux serveurs de l’entreprise. Difficile de faire plus, assurent-ils. « Puis ils ont ajouté qu’ils ne regarderaient pas et ne me donneraient pas l’information », poursuit le parlementaire britannique.
Le poids des étudiants
Pour rester optimiste, le milieu de l’année 2020 a déjà apporté une (petite) victoire. Pendant l’été, la grande entreprise de données Palantir Technologies, cofondée par Peter Thiel, un des seuls soutiens de Donald Trump dans la tech, a dû quitter Palo Alto. Et la Silicon Valley tout entière. Direction Denver, dans le Colorado, où l’entreprise a installé ses nouveaux locaux, prête à continuer à collaborer avec l’Immigration and Customs Enforcement (ICE) pour « optimiser » les renvois de réfugiés illégaux, présents sur le territoire américain, comme ce fut le cas durant toute l’administration Trump.
Qu’est-ce qui a poussé la grande entreprise loin de la Côte ouest ? « Les étudiants », sourit Ben Tarnoff. Plusieurs milliers de jeunes, organisés dans seize universités différentes, dont Stanford, qui jouxte Palo Alto. Armés de pancartes désignant Palantir comme « social evil », ils ont réussi à faire ployer l’une des entreprises les plus mystérieuses et les plus puissantes du monde moderne. « Ce sont eux qui ont le pouvoir, précise l’auteur de Voices from the Valley. Cette boîte, comme beaucoup d’autres, recrute principalement à Stanford ou au MIT, et d’un coup ils ne pouvaient plus recruter. »
La première victoire d’une longue série ? Cette stratégie a été appliquée dans d’autres cas, pour chambouler des géants comme Amazon. Sans succès. Ces entreprises et nos vies n’ont pas fini d’être intimement liées. Le sociologue Sébastien Broca raconte : « Dans le New York Times, il y a quelque temps, un consultant en nouvelles technologies a dit quelque chose que je n’arrive pas à oublier. Il expliquait que le nirvana vanté par la Silicon Valley avait du plomb dans l’aile, mais que nous, en tant que consommateurs, nous ne cessions de voter pour ces entreprises. »
Après l’annonce du départ de Palantir, les étudiants de Stanford ont célébré leur victoire sur Instagram, Facebook ou TikTok. Puis, le soir même, certains ont probablement regardé une série Netflix, commandé un plat sur Uber Eats ou se sont offert un cadeau sur Amazon. Il fallait bien fêter ça.
#Apple #Google #CambridgeAnalytica/Emerdata #NSA #Amazon #Facebook #GoogleSearch #algorithme #Dragonfly #consommation #manipulation #consentement #domination #BigData #GAFAM #GigEconomy #PRISM #syndicat #travail (...)
