Comment le capitalisme de surveillance “transforme notre intimité en matière première”
▻https://www.telerama.fr/idees/comment-le-capitalisme-de-surveillance-transforme-notre-intimite-en-matiere
… et pourquoi il faut lutter contre. Dans “L’Âge du capitalisme de surveillance”, enfin traduit, Shoshana Zuboff, professeure émérite à la Harvard Business School, sonne l’alerte contre les géants du numérique qui nous dépossèdent de nos vies pour mieux les soumettre au marché.
Au temps du tube cathodique, Jacques Ellul, l’un des grands penseurs de l’aliénation contemporaine, se posait déjà la seule question qui vaille vraiment à propos du pouvoir de la technique : « Une des illusions qu’on cherche à développer dans l’homme moderne, c’est de lui faire croire [qu’elle] le rend plus libre. […] Libre de quoi ? » À l’heure des réseaux sociaux et de la toute-puissance technologique, Shoshana Zuboff, professeure émérite à la prestigieuse Harvard Business School, prend le relais. Et sonne l’alerte. Nous sommes dépossédés de nos propres vies dans des proportions « indéchiffrables pour le cerveau humain ». Pire, plus nos spoliateurs en savent sur nous, moins nous en savons sur eux.
Dans L’Âge du capitalisme de surveillance, un pavé de plus de huit cents pages sorti début 2019 aux États-Unis et enfin traduit en français (aux éditions Zulma), l’universitaire décrit minutieusement une société dystopique – mais bien réelle – dans laquelle les Google, Facebook et consorts capturent sans vergogne notre « surplus comportemental », raffinant le moindre atome de nos intimités numérisées pour leur seul profit. « C’est une double agression, contre notre autonomie et contre la démocratie », s’inquiète-t-elle, en livrant ce qui s’apparente à un opportun manuel de résistance.
Celui-ci est d’autant plus notable qu’il n’émane pas d’une dangereuse radicale, bien au contraire : à la fin des années 1990, Shoshana Zuboff, prise dans une crise identitaire, a quitté son campus pour partir vivre dans une ferme. À l’époque, persuadée de faire partie du problème plus que de la solution, elle fait face à un choix : « Trouver un nouveau champ de recherche, ou chausser de nouvelles lunettes. » Ainsi a mûri sa charge – à mort – contre les tenants de ce « capitalisme renégat » qui nous traque tous, en permanence. Vous n’avez rien à cacher ? « Alors, vous n’existez pas. »
Vous avez popularisé le terme « capitalisme de surveillance » depuis quelques années. Comment fonctionne-t-il ?
L’effrayante spécificité du capitalisme de surveillance, c’est qu’il capture l’expérience personnelle pour la soumettre aux impératifs du marché. On pourrait même parler d’un marché de l’avenir humain. Ce capitalisme dévoyé transforme notre intimité en matière première qui, raffinée sous la forme de données, alimente une chaîne d’approvisionnement complexe. Dans ces usines d’un nouveau genre, on ne fabrique plus des produits mais des prédictions, individuelles et collectives. Ces conjectures, tirées de nos vies, émanent de nous, mais ne nous appartiennent pas. Elles nous concernent, mais ne nous reviennent pas.
De la même manière que Ford aurait révolutionné le capitalisme en 1913, avec sa chaîne de production, vous posez le postulat que Google a inventé le capitalisme de surveillance au tournant du millénaire. Dans quelles circonstances ?
Je situe sa naissance dans la Silicon Valley pendant l’éclatement de la bulle Internet, entre 2000 et 2001. À l’époque, de jeunes gens très intelligents dirigent des entreprises prometteuses, à l’intérieur desquelles ils inventent toutes sortes de services en ligne. Problème : ils ne gagnent pas d’argent. Là où le capitalisme industriel a réussi à transformer les ressources naturelles en énergie, les fleurons de cette nouvelle économie se révèlent incapables de répéter l’opération. Par conséquent, les investisseurs se retirent, et ils commencent à faire faillite les uns après les autres. Dans ce tableau, Google est perçu comme une pépite, mais même chez eux, il y a urgence.
À vous écouter, ils n’étaient pas très doués pour le capitalisme !
Jusqu’à ce qu’ils n’aient plus le choix, Sergey Brin et Larry Page, les fondateurs de Google, étaient publiquement opposés à la publicité ciblée. Quand ils ont commencé à regarder de plus près les données stockées sur leurs serveurs, des historiques de recherche, des miettes, des restes, ils ont réalisé qu’ils avaient à disposition un gisement gigantesque. C’est à ce moment-là qu’ils ont décidé d’exploiter notre surplus comportemental, que je nomme ainsi car il dépasse largement leurs besoins réels.
“Au lieu de l’âge de l’information dont nous rêvions, fondé sur le partage de la connaissance permis par Internet, nous sommes renvoyés à un système féodal dans lequel des entreprises gigantesques peuvent influencer et contrôler nos comportements.”
On touche ici une différence fondamentale. Le capitalisme industriel était une division du travail ; le capitalisme de surveillance, écrivez-vous, est une division de la connaissance. C’est-à-dire ?
Il nous a fallu des décennies pour mesurer les conséquences du capitalisme industriel, pour déterminer par exemple que la dépendance aux énergies fossiles accélérait le réchauffement climatique. Aujourd’hui, nous sommes capables d’identifier les répercussions négatives du capitalisme de surveillance, à savoir la production secrète, effroyablement asymétrique, de savoir. C’est son effet le plus profond et le plus pernicieux, et il est indissociable d’un événement : le 11 Septembre. Au Capitole, juste avant que les tours jumelles s’effondrent, les parlementaires discutaient des contours d’une législation destinée à protéger la vie privée.
En l’espace de quelques heures, George W. Bush a déclaré la « guerre contre la terreur », nous sommes entrés dans l’ère de l’information totale et dans une quête de certitudes. « Puisque nous n’avons pas su connecter les points, nous avons besoin de tous les points de tout le monde », ont dit les services de renseignement. Le département de la Défense, la CIA ou la NSA œuvrant sous les auspices de la Constitution américaine et obéissant à l’État de droit, il a fallu trouver une solution. Puisque Google et consorts n’étaient pas soumis aux mêmes contraintes, les autorités ont décidé de les laisser amasser richesse et pouvoir, afin qu’ils se chargent de connecter les points. Ainsi s’est forgée la symbiose entre la sphère publique et la sphère privée, entre la sphère du marché et celle du gouvernement.
Pendant vingt ans, nous avons ensuite été aveuglés par notre optimisme sur le pouvoir libérateur de la technologie. Au lieu de l’âge de l’information dont nous rêvions, fondé sur le partage de la connaissance permis par Internet, nous sommes renvoyés à un système féodal dans lequel des entreprises gigantesques peuvent influencer et contrôler nos comportements. C’est une double agression, contre notre autonomie et contre la démocratie.
Le pouvoir que vous décrivez est aussi immense qu’effrayant. Mais est-il vraiment effectif ?
En 2001, Larry Page, le patron de Google, se référait à la capacité de calcul de ses serveurs en parlant de « [leur] intelligence artificielle ». Aujourd’hui, quand Google utilise cette expression, il s’agit d’un pouvoir sans commune mesure avec ces premières déclarations. Avec le capital qu’elles possèdent, ces entreprises visent le long terme. Pour entraîner son intelligence artificielle, Facebook ingère des trillions (milliards de milliards) de données chaque jour, afin de produire 6 millions de prédictions sur nos comportements par seconde. C’est une échelle inimaginable, indéchiffrable pour le cerveau humain.
Pendant très longtemps, nous n’avions pas conscience de ce qui se jouait en arrière-plan. Puis le scandale Cambridge Analytica [du nom de cette officine britannique spécialisée dans le conseil politique qui a siphonné 87 millions de comptes Facebook au profit des campagnes du Brexit et de Donald Trump, ndlr] en 2018 a ouvert les yeux de l’opinion publique.
“En 2016, le camp républicain a eu recours au micro-ciblage psychologique pour manipuler des comportements numériques qui ont des effets dans le monde réel. C’est ça le gagne-pain du capitalisme de surveillance.”
Un récent rapport des autorités britanniques a tout de même montré que Cambridge Analytica a très largement survendu ses compétences…
Mais personne ne peut nier que la campagne de Trump en 2016 a utilisé la technologie publicitaire de Facebook plus efficacement que quiconque. Le camp républicain a eu recours au micro-ciblage psychologique pour manipuler des comportements numériques qui ont des effets dans le monde réel. C’est ça le gagne-pain du capitalisme de surveillance.
Vous estimez que le capitalisme de surveillance est « tyrannique », mais qu’il ne requiert « ni le fouet du despote, ni les camps ou les goulags du totalitarisme ». Avec l’omniprésence de nos smartphones, nos applications intrusives, nos objets connectés qui mouchardent, nous sommes devenus les agents consentants de notre propre enfermement. Plus que la manipulation cognitive, n’est-ce pas la plus grande victoire du phénomène que vous décrivez ?
Nous nous sommes enchaînés nous-mêmes et c’est une intolérable tragédie. Dans nos sociétés libérales contemporaines, nous ne sommes pas éduqués à nous opposer au progrès technologique. Face à la dictature de l’inévitabilité, nous avons pourtant cruellement besoin d’alternatives et d’apprentissage citoyen. C’est d’autant plus problématique que les réseaux sociaux ont été inventés par des adolescents. Nous savons que ce moment de la vie désigne un soi inachevé.
On construit sa personnalité et son libre-arbitre en se confrontant à l’altérité, au questionnement, à la dissonance. Or ces plateformes ne renvoient pas à des questionnements intérieurs – « Qui suis-je ? » – mais à des logiques de groupe. Des légions de pré-adolescents et de jeunes adultes sont profondément investis dans une machinerie conçue par d’autres adolescents et sont coincés dans un monde où ils sont constamment jugés par les autres. On parle souvent d’une économie de l’attention [qui consiste, dans la surabondance d’informations, à capter l’attention du public pour la valoriser économiquement, ndlr], mais c’est une confusion trompeuse. L’attention n’est que l’effet d’une cause, et cette cause, c’est un impératif économique qui demande une implication permanente.
Craignez-vous que la pandémie, pendant laquelle nos vies se déroulent massivement en ligne, n’accélère cette dynamique ?
À cause du coronavirus, l’Unesco estime que près de 300 millions d’enfants n’ont pas pu aller à l’école. C’est un chiffre sans précédent. Dans le même temps, Classroom, la plateforme d’apprentissage de Google à destination des enseignants, a multiplié par deux le nombre d’utilisateurs. Contrairement à ce que pensent les dirigeants des géants du numérique, cette consolidation n’est pas liée à un soudain afflux d’amour.
Au contraire, deux enquêtes réalisées cet été montrent un renforcement du techlash (contraction de technology et backlash, ce mot-valise désigne le retour de bâton subi par les oligopoles de la Silicon Valley depuis deux ou trois ans, NDLR). La première dévoile que 75 % des Américains accordent plus d’importance à leurs données personnelles qu’au service offert par les plateformes ; 77 % pensent que ces entreprises ont trop de pouvoir ; 84 % ne leur font pas confiance. Dans la seconde, on apprend que la seule industrie moins populaire que Mark Zuckerberg est celle du tabac. Ces chiffres démontrent une véritable rupture entre le public et les Gafam, Facebook en particulier.
“Je suis impressionnée par notre capacité collective à nous rassembler malgré l’isolement dans lequel nous sommes maintenus. C’est un premier pas et, désormais, il faut réussir à amener cette énergie dans l’arène politique.”
Ce qui rend le moment aussi intéressant qu’incertain : sous le règne du capitalisme traditionnel, les classes populaires ont su s’unir pour défendre leurs droits en s’organisant en syndicats, en faisant grève, etc. Et face au capitalisme de surveillance ?
Jusqu’à présent, nous n’étions que des utilisateurs, le terme dont nous affublent les plateformes. Une terminologie qui annonce notre anonymat interchangeable. En janvier 2019, j’ai quitté mon domicile pour trois semaines de tournée promotionnelle. Au bout du compte, j’ai voyagé pendant quatorze mois. Partout où je suis allée, aux États-Unis et en Europe, j’ai demandé aux gens de résumer en un seul mot pourquoi ils venaient à ma rencontre. En les compilant, j’ai réalisé qu’ils étaient récurrents et formaient un champ lexical parfaitement cohérent : liberté, anxiété, démocratie, manipulation, contrôle, résistance, colère, rébellion, action, invasion, peur, vie privée, vol, droits, autonomie, constitution, pouvoir, justice.
Je suis impressionnée par notre capacité collective à nous rassembler malgré l’isolement dans lequel nous sommes maintenus. C’est un premier pas et, désormais, il faut réussir à amener cette énergie dans l’arène politique. Nous allons devoir inventer de nouveaux modes d’organisation, qui seront probablement différents des institutions du XXe siècle. Je pense par exemple au Real Facebook Oversight Board, lancé au mois de septembre et dans lequel je siège avec vingt-cinq autres membres de la société civile [ce collectif a été créé afin de surveiller l’Oversight Board officiel, « cour suprême » du réseau social chargée d’arbitrer les différends liés aux contenus, ndlr].
Des armes anciennes pourraient toutefois être efficaces, comme les lois antitrust. Pensez-vous qu’il faille démanteler Facebook ou Google ?
Ce n’est qu’une partie de la solution. Ces lois ont été conçues pour répondre à d’autres situations. Une entreprise comme Amazon était une impitoyable capitaliste avant de devenir une impitoyable capitaliste de surveillance. Autour de 2015, son patron, Jeff Bezos, a commencé à prendre conscience des incroyables revenus générés par les dividendes de la surveillance, et il s’est mis à réfléchir à un moyen d’embrasser ce modèle, en plus des pratiques dont il était déjà coutumier, qu’il s’agisse d’exploiter sa main-d’œuvre ou d’éliminer la concurrence.
On pourrait dire la même chose de Facebook ou de Google. Il est vital que nous mesurions l’ampleur exacte du problème que nous tentons de résoudre. Quand les dirigeants de ces entreprises sont auditionnés au Congrès américain, il est surtout question d’invasion de la vie privée, de géolocalisation clandestine, du risque de désinformation. Ces interrogations montrent bien qu’il ne s’agit pas seulement de démanteler des monopoles. En Europe, le Règlement général sur la protection des données [entré en vigueur en mai 2018, ndlr] montre à la fois la voie et qu’il est bien trop tôt pour sabrer le champagne.
Vous parlez d’un « capitalisme renégat » comme s’il était accidentel. Cela signifie-t-il qu’il peut être réformé ?
Le capitalisme possède cette propriété que l’historien Fernand Braudel nommait « la longue durée ». Il faut l’analyser à travers ce prisme, en prenant en compte les spécificités de son époque, en l’occurrence le numérique. Je le nomme renégat car il renie certains aspects du capitalisme de longue durée, indispensables à sa durabilité, particulièrement l’idée d’offre et de demande. Même si Marx ou Schumpeter [le théoricien de la fameuse destruction créatrice, ndlr] ne partagent évidemment pas la même vision sur ses effets, le capitalisme, aussi violent et inégalitaire soit-il, a appris à améliorer les sociétés, en renforçant par exemple les classes moyennes.
“Le capitalisme de surveillance ne s’intéresse ni à la réciprocité de l’offre et de la demande, ni à la résolution des problèmes que rencontrent les individus. Comme la financiarisation, c’est une forme entièrement parasite, et il n’y a rien à en sauver.”
Le capitalisme de surveillance s’éloigne de ce modèle en ce sens qu’il détourne la technologie de notre époque à des seules fins d’accumulation. Il ne s’intéresse ni à la réciprocité de l’offre et de la demande, ni à la résolution des problèmes que rencontrent les individus. Comme la financiarisation, c’est une forme entièrement parasite, et il n’y a rien à en sauver. Je ne pense pas qu’on puisse dire la même chose du capitalisme industriel, qui a su en partie épouser les formes d’une société démocratique.
Pour conclure sur une note plus personnelle et universelle, vous militez pour un droit au sanctuaire. Que répondez-vous à ceux, nombreux, qui prétendent qu’ils n’ont rien à cacher ?
Si vous n’avez rien à cacher, vous n’existez pas. C’est une intoxication dangereuse. Cela revient à vous laisser détrousser de votre vie privée, à abandonner toute solitude et à ouvrir votre intimité à n’importe laquelle de ces entreprises. Dire que vous n’avez rien à cacher, c’est accepter votre condition d’utilisateur vide, uniquement défini par le rapport qu’il entretient avec les technologies qu’il utilise.
#Alphabet #Google #DoD #NSA #CIA #algorithme #bénéfices #BigData #surveillance #microtargeting
