Shoshana Zuboff : « Nous avons besoin de nouveaux droits pour sortir du capitalisme de surveillance » | AOC media

/shoshana-zuboff-nous-avons-besoin-de-no

  • Shoshana Zuboff : « Nous avons besoin de nouveaux droits pour sortir du capitalisme de surveillance »
    https://aoc.media/entretien/2020/10/23/shoshana-zuboff-nous-avons-besoin-de-nouveaux-droits-pour-sortir-du-capitalis

    Sociologue et professeure émérite à la Harvard Business School, Shoshana Zuboff s’est intéressée à l’économie des big data. Alors que son dernier livre paraît en français, elle expose ici les rouages du « capitalisme de surveillance », dernier stade du capitalisme à l’ère numérique, marqué par la transformation de nos données personnelles en produits marchands. Un phénomène inquiétant qui devrait nous conduire à définir au plus vite un droit qui garantisse à chacun la souveraineté sur son expérience personnelle.

    Shoshana Zuboff enseigne à la Harvard Business School depuis 1981. Elle a publié en 1988 une analyse des transformations du travail dans In the Age of the Smart Machine : The Future of Work and Power. En 2019, elle fait paraître un livre déjà traduit en une vingtaine de langues, qui a d’ores et déjà un impact considérable sur les analyses de l’économie des big data et des plateformes, et qui vient de paraître en français aux éditions Zulma sous le titre L’âge du capitalisme de surveillance. Le combat pour un avenir humain face aux nouvelles frontières du pouvoir. Elle présente ici quelques points fondamentaux de l’appareil théorique proposé par son ouvrage, en même temps qu’elle discute des revendications politiques sur lesquelles il débouche. YC.

    Comment inscrivez-vous l’économie actuelle des big data et de la surveillance dans les développements du capitalisme ?Retour ligne automatique
    Il y a un modèle de longue durée que suit le capitalisme et qu’a décrit Karl Polanyi dans La Grande Transformation dans une analyse restée célèbre. Ce modèle est en fait très complexe. Il implique que le capitalisme évolue et se développe en prenant des objets qui existent en dehors de la dynamique du marché, et en les insérant dans cette dynamique du marché, en les transformant en objets qui peuvent être vendus et achetés. C’est ce que Polanyi appelait des marchandises fictionnelles. Le capitalisme industriel a fait cela en visant la nature, une nature qui vivait innocemment sa propre vie. Les prairies, les rivières et les forêts se sont trouvées intégrées à la dynamique du marché et transformées en sources de matières premières, en sources d’énergie, en biens fonciers et immobiliers, en choses qui pouvaient être vendues et achetées. Au cours de cette marchandisation, nous perdons la trace de la nature comme nature, et nous ne pouvons plus la percevoir que sous sa forme marchande. En parlant de « marchandises fictionnelles », Polanyi attirait l’attention sur le fait que la nature n’est pas en elle-même une marchandise, qu’elle n’est pas née marchandise : elle est devenue marchandise à cause du capitalisme.Retour ligne automatique
    Avançons maintenant, très rapidement, vers le XXIe siècle, le siècle du numérique. Nous sommes dans la Silicon Valley, parmi les start-up, en l’an 2000 ou 2001. Il s’y produit ce qu’on appelle « l’effondrement de la bulle Internet » : le marché se rend compte que toutes ces petites start-up ont été surévaluées. Les investisseurs se retirent et beaucoup de start-up font faillite. Cela s’explique en partie par le fait qu’elles n’ont pas trouvé de moyen de monétiser leurs activités. Elles sont sur Internet, elles ont des clients et elles offrent des produits et des services, mais elles ne gagnent pas d’argent : elles n’ont pas trouvé leur marchandise fictionnelle. Pendant un moment, ça a été la panique dans la Silicon Valley. Quelle sera la « marchandise fictionnelle » de la nouvelle économie, qui pourra être vendue et achetée, qui produira ex nihilo des revenus et du profit ? Personne, personne ne savait. Personne ne comprenait. Personne n’avait la réponse.

    C’est là le tournant de la nouvelle forme de capitalisme que vous appelez le « capitalisme de surveillance » ?Retour ligne automatique
    Exactement, et voilà comment s’est opéré ce tournant. La réponse – et c’est Larry Page qui l’a formulée en 2001, je crois, pour Google – c’était ce qu’on a appelé « les données personnelles ». Mais plus précisément, c’était l’expérience humaine personnelle. À un moment donné, on a compris que l’expérience humaine personnelle était le nouveau bois vierge, la nouvelle forêt, la nouvelle prairie inexploitées – pouvant être monétisée et transformée en marchandise fictionnelle. Une nouvelle source de matière première qui pouvait être revendiquée unilatéralement et qui pouvait être introduite dans la dynamique du marché. Donc, à la place de la nature, c’était la nature humaine : notre expérience personnelle. Et par là-même, ce qui s’est passé, c’est qu’on a considéré l’expérience humaine personnelle comme une matière première disponible, traduite en données comportementales par les processus informatiques de ces entreprises.Retour ligne automatique
    L’important est de comprendre que ces données comportementales étaient alors implicitement définies comme confidentielles. Elles étaient à nous sans même qu’on pense qu’elles pouvaient être appropriées par autrui. Eh bien, elles se sont trouvées transférées, déplacées dans ce que je considère comme une nouvelle « chaîne d’approvisionnement ». Chaque interface avec des entreprises comme Google, chaque interface activée par Internet s’est fait intégrer dans une chaîne d’approvisionnement. Et maintenant, on a des réseaux de chaînes d’approvisionnement complexes, qui commencent avec la recherche et la navigation en ligne, mais qui s’étendent désormais à toute activité en ligne.Retour ligne automatique
    Les données comportementales prétendument confidentielles, qui circulent dans les chaînes d’approvisionnement, où vont-elles ? Eh bien, comme toutes les matières premières, elles vont dans une usine. Mais c’est une usine de l’ère numérique, nommée « intelligence artificielle », « apprentissage machine » ou « apprentissage automatique ». Et ce qui se passe dans cette nouvelle forme d’usine, c’est la même chose que ce qui se passe dans toutes les usines : on fabrique des produits. Sauf que dans le cas présent, ce sont des produits informatiques.

    Quelle est la spécificité de ces produits mis en circulation par le capitalisme de surveillance ? Qu’est-ce donc qui s’y vend ?Retour ligne automatique
    Pendant des années, quand j’essayais de comprendre les fondements du capitalisme de surveillance, ses mécanismes fondamentaux, je regardais toute la journée des vidéos de gens comme Eric Schmidt ou Larry Page – les dirigeants de Google – en train de donner une conférence, de discuter avec des développeurs, de prononcer des discours ou de parler de leurs résultats financiers. Et cela m’a fasciné d’entendre si souvent Eric Schmidt répéter : « Vous savez, nous ne vendrons jamais vos informations personnelles ». Je m’asseyais à mon bureau et je pensais : pourquoi ne le fait-on pas arrêter, ou dénoncer, pour avoir tout simplement menti aux gens ? Je veux dire : comment peut-il affirmer « nous ne vendrons jamais vos informations personnelles », alors que c’est précisément ce qu’ils font ?Retour ligne automatique
    Mais peu à peu, je me suis plutôt efforcée de répondre à la question suivante, qui est un peu différente : comment se fait-il que ce que répétait Eric Schmidt est finalement vrai ? J’ai décidé de supposer qu’il n’a pas le culot de mentir à tout le monde encore et encore. Et c’est ainsi que j’ai pu comprendre le surplus comportemental. C’est cela que monétise le capitalisme de surveillance. Car il s’avère que ce qui se trouve dans ces chaînes d’approvisionnement ne se limite pas aux « informations personnelles », que je donne sciemment à Google, Facebook, Amazon, Microsoft, Twitter ou autre. Ces informations personnelles que je donne sciemment en échange de services gratuits ne représentent qu’une infime partie des informations qu’ils ont sur moi. Leur modèle repose sur le fait que, bien au-delà de ces seules informations personnelles, ils passent en revue chacune des empreintes que je laisse dans le monde numérique, chaque trace que je laisse de mon activité sur Internet, où que ce soit. Ils extraient toutes ces traces et les analysent pour leurs signaux prédictifs.Retour ligne automatique
    L’important est qu’ils ont découvert très tôt – et on peut le voir dans leurs demandes de brevet – qu’ils pouvaient rechercher des informations personnelles sur l’ensemble de l’Internet, où que l’on soit. Et ils pouvaient rassembler toutes ces informations, et, à partir de ces données, les scientifiques disent être capables d’induire ou de déduire des informations vous concernant et que vous n’aviez jamais eu l’intention ni la conscience de divulguer : votre orientation politique, votre personnalité, votre orientation sexuelle, etc.

    C’est tout ceci qui constitue « le surplus comportemental » qui est la nouvelle matière première exploitée par le capitalisme numérique ?Retour ligne automatique
    Oui, et un an plus tard, lorsque Facebook est apparu, la collecte d’informations ne s’est pas cantonnée à ce que vous dites dans un post. Elle s’est rapidement étendue au fait que vous y utilisez des points d’exclamation, ou des puces. Ce n’est pas seulement les photos de votre visage qui vous taguent, c’est l’analyse des muscles de votre visage pour déceler les micro-expressions, parce que celles-ci trahissent vos émotions et que vos émotions prédisent fortement votre comportement. Et puis c’est la saturation des couleurs des photos, pas seulement le contenu des photos. Toutes ces données, ce sont des surplus comportementaux, qui donnent des informations. En tant qu’utilisateurs, nous ne pouvons pas les identifier, et nous n’avons aucune idée de la manière dont ils sont extraits.Retour ligne automatique
    Je résume : ce qui entre dans les tuyaux du capitalisme de surveillance, ce qui arrive dans ses nouvelles usines, c’est en partie des informations que nous avons sciemment données (les « données personnelles »), mais ce sont surtout ces énormes flux de surplus comportementaux qu’ils nous soustraient. Cela a commencé avec nos traces laissées en ligne, mais maintenant, cela s’étend à tous nos comportements, à tous nos déplacements, c’est le fondement de la révolution de la mobilité. En effet, si le smartphone a été inventé, c’est parce que le smartphone est devenu la mule du surplus comportemental. Chaque application que l’on installe sur son téléphone transmet le surplus comportemental – en même temps que les informations que vous avez données à l’application – dans ces « agrégateurs », dans leurs chaînes d’approvisionnement : la localisation du microphone, la caméra, les contacts, tout cela.

    Vous distinguez clairement le cas restreint des « données personnelles » des masses bien plus larges de ce que vous appelez « surplus comportemental ». Je me demande si une distinction similaire pourrait se faire entre le cas restreint de ce qu’on appelle habituellement « l’attention » et ces masses bien plus importantes que vous appelez « expérience humaine personnelle ». Cela remettrait dans une perspective très différente, et très suggestive, ce qu’on appelle « l’économie de l’attention ».Retour ligne automatique
    Oui, je pense en fait que le langage de « l’économie de l’attention » a empêché le grand public de comprendre ces phénomènes, et que c’est un concept malavisé. Pour être honnête, lorsque j’écrivais ma thèse de doctorat à Harvard en psychologie sociale dans la deuxième moitié des années 1970, on faisait notre travail de recherche et puis, dans mon département, il fallait rédiger deux études d’envergure dans ce que vous aviez choisi comme domaines de spécialité – deux articles dans les domaines de spécialité. Et j’ai choisi l’histoire du travail comme l’un de mes domaines de spécialité. J’ai écrit mon mémoire sur ce que j’ai appelé L’interaction sociale et l’histoire du travail, avec pour sous-titre L’organisation sociale de l’attention. Je commençais par parler des éthologues qui étudiaient le comportement du regard, le comportement du regard des primates en petits groupes. J’ai réinvesti ces études dans mon travail sur l’invention de l’organisation de l’usine et le contrôle de l’attention.Retour ligne automatique
    Et j’ai toujours tenu à définir l’économie de l’attention comme ce que nous faisons maintenant, dans cet entretien par Zoom : c’est une affaire de regard, souvent à plusieurs. Par exemple, nous regardons l’écran, notre attention se concentre sur l’écran – notre attention visuelle. C’est bien entendu un phénomène réel, à l’évidence – et ce n’est pas une bonne chose que nous regardions des écrans toute la journée… Mais encore faut-il mettre cela en parallèle avec une logique économique. Et c’est là que l’on fait erreur. Le fait que notre attention soit sollicitée par l’écran est un effet, non une cause. Et c’est là que l’idée d’économie de l’attention s’effondre. Le fait que notre attention soit hypnotisée, les phénomènes dit d’addiction, tous ces phénomènes sont les effets d’une cause, tout comme la désinformation. Notre vulnérabilité à la désinformation est un effet d’une cause.Retour ligne automatique
    Or la cause de ces effets est la logique économique que j’appelle le capitalisme de surveillance, avec ses lois d’airain et ses impératifs économiques. Et l’effet, c’est que le surplus comportemental est maximisé par une plus grande mobilisation de l’attention. Ainsi, le surplus comportemental – la maximisation de l’extraction du surplus comportemental – est un impératif économique. Les économies d’échelle sont un impératif économique.Retour ligne automatique
    La mobilisation de l’attention est seulement un moyen d’atteindre cet objectif. Ici aussi, en réfléchissant au surplus comportemental plutôt qu’à l’économie de l’attention, on s’aperçoit que d’énormes volumes de surplus comportementaux sont extraits à notre insu, sans que nous en ayons conscience et, surtout, sans que nous y prêtions attention. Et c’est pourquoi j’appelle cela « capitalisme de surveillance » : c’est parce que cela doit se produire d’une manière qui nous est cachée pour être efficace. Si nous le savions, nous y résisterions.

    Vous venez de mentionner les « économies d’échelle » et, dans le livre, vous passez de ce concept assez familier aux « économies de gamme » (economies of scope) et aux « économies d’actions ». De quoi s’agit-il dans ces deux derniers cas ?Retour ligne automatique
    Le principe est que la dynamique du capitalisme de surveillance est orientée vers la collecte de la totalité des données, parce que la totalité des données mène à une certitude parfaite. On a vu que le capitalisme de surveillance avait mis en place des usines de calcul, traitant le surplus comportemental, pour en tirer quoi ? Des produits de prédiction (predictive products). Ces produits de prédiction sont vendus sur des marchés à terme comportementaux (behavioral futures markets). Je les ai aussi appelés « marchés à terme humains » (human futures markets) parce que ce sont des marchés qui négocient des contrats à terme humains, tout comme nous avons des marchés pour négocier des contrats à terme sur la poitrine de porc ou sur le pétrole ou sur le blé. Alors, qu’est-ce qui se vend sur ces marchés à terme humains ? Eh bien, en gros, on vend de la certitude. C’est à cela que les programmes de prédiction aspirent : des résultats fiables pour vendre de la certitude. Quelles sont donc les dynamiques concurrentielles si vous vendez de la certitude, si vous concurrencez l’incertitude ?Retour ligne automatique
    Tout d’abord, vous avez besoin de beaucoup de données, parce que l’I.A. s’améliore avec l’échelle. Plus les algorithmes ont de données, meilleurs ils sont. Ensuite, il faut de l’envergure, toute une large gamme de données diverses entre elles, parce qu’il faut du volume mais aussi de la variété. Ces deux aspects sont en fin de compte assez faciles à comprendre. C’est effrayant de comprendre ce qu’est vraiment la variété et ce qu’est le volume de tout cela, parce que c’est tellement vaste. Mais on voit quelles sont les économies d’échelles (en extension) et de gamme (en diversité).Retour ligne automatique
    Les économies d’action nous font sortir de la métaphore du web et des écrans, pour nous faire entrer dans le monde, à savoir nos maisons, nos voitures, nos villages, nos villes, nos parcs, nos restaurants, nos cafés, etc. Il est de plus en plus difficile d’y échapper à la surveillance.Retour ligne automatique
    La concurrence pour la certitude devient un domaine toujours plus intrusif. Elle apprend à influencer notre comportement, non seulement à observer mais à intervenir activement dans le cours de nos vies ordinaires et à les régler en s’y insinuant de diverses manières – indices subliminaux, nudges, dynamiques de comparaison sociale artificielles, microciblages psychologiques, gamification, récompenses et punitions en temps réel. Tout cela, ce sont des techniques, des mécanismes utilisés sur le web et en dehors du web, dans le monde physique, pour influencer notre comportement, pour pousser notre comportement dans une certaine direction. Cela maximise la certitude, cela maximise les résultats attendus des prédictions et devient donc plus lucratif dans la compétition pour la certitude. Il s’agit donc d’un tout nouveau domaine, qui relève d’économies d’actions.

    On pourrait vous objecter que ces dispositifs d’influence ne datent pas des années 2000, mais remontent à bien plus loin.Retour ligne automatique
    Les gens me disent en effet souvent : « Nous avons de la publicité persuasive depuis le milieu du XIXe siècle. Il n’y a rien de nouveau là-dedans ». Ce genre de choses me rend folle, parce que c’est la rengaine « plus ça change, plus c’est la même chose ». Mais non, ce n’est pas « la même chose » ! Il faut être attentif aux circonstances matérielles toujours changeantes dans lesquelles la vie humaine se déploie. Et ces circonstances matérielles produisent un changement qualitatif, et pas seulement quantitatif, dans les conditions d’existence. Il est très dangereux de dire « Oh, ce n’est que de la persuasion ». Nous disposons maintenant d’une infrastructure numérique ubiquitaire qui imprègne nos vies en ligne et nos vies dans le monde réel. Et cette infrastructure omniprésente peut être mobilisée pour influencer notre comportement, nos attitudes, nos pensées, nos sentiments. Et cela est absolument sans précédent.Retour ligne automatique
    C’est pourquoi je parle de la naissance d’un pouvoir instrumentarien, en essayant d’expliquer pourquoi nous ne le comprenons pas et combien il est essentiel pour nous de le comprendre. Parce que c’est une nouvelle forme de pouvoir et qu’il s’inscrit dans nos sociétés, dans nos vies et dans notre politique. En effet, ces économies d’action, la capacité à l’échelle d’utiliser ces mécanismes – indices subliminaux, dynamiques de comparaison artificielles, microciblages psychologiques, etc. –, d’utiliser ces mécanismes et de les réorienter à des fins politiques, c’est précisément ce que nous avons vu avec Cambridge Analytica. Cela a fait peur à tout le monde. C’est ce que nous avons vu se produire – nous le savons à présent – lors de la campagne de Trump en 2016, et cela a peut-être fait la différence lors de l’élection de Trump en 2016. C’est cela, les mécanismes et les méthodes inventés par le capitalisme de surveillance et la compétition pour la certitude, réquisitionnés par des agents politiques, axés sur des objectifs politiques, qui pourraient bien être responsables de la présidence de Trump.

    Outre les usages politiques des technologies de surveillance, j’aimerais revenir brièvement sur la nature du capitalisme dont il est question ici. Quel est son lien avec les développements récents de la finance, et avec ce que des analystes comme Randy Martin ont appelé « la financiarisation de la vie quotidienne ».Retour ligne automatique
    S’il n’y avait pas eu de financiarisation, je ne suis pas sûre que le capitalisme de surveillance aurait pu voir le jour. La financiarisation a grandement participé à insinuer dans la mentalité humaine l’idée selon laquelle le capitalisme tournerait moins autour de la vente de biens et de services que sur des activités complètement dérivées – sur des sortes de produits dérivés, des valeurs plus abstraites, dérivées de vrais produits et services. En effet, c’est à ce moment-là que les entreprises ont commencé à gagner de l’argent non plus sur leurs produits, mais sur le financement de leurs produits. Les entreprises ont commencé à gagner de l’argent non plus grâce à leurs services, mais grâce à leurs investissements de portefeuille dans des produits financiers – ce qu’elles pouvaient se permettre grâce au capital généré par leurs services. Voilà comment la financiarisation nous a appris à penser la capitalisation comme étant intrinsèquement parasitaire et dérivée.Retour ligne automatique
    Le capitalisme de surveillance va plus loin dans cette voie. Toute la logique d’accumulation – la richesse s’accumulant effectivement dans le capitalisme de surveillance – est entièrement dérivée, entièrement parasitaire. Cela commence par un surplus comportemental arraché à notre expérience. Notre expérience, en tant que telle, n’a aucun intérêt pour le capitalisme de surveillance. Guérir ma maladie, cela n’a aucun intérêt. Les capitalistes de surveillance veulent juste savoir ce que je cherche sur le web au jour le jour. M’aider à obtenir un prêt hypothécaire équitable, cela n’a aucun intérêt. Ils veulent seulement savoir le travail que j’ai fait pour essayer d’obtenir un prêt hypothécaire. Qu’est-ce que j’ai cherché ? Et comment cela se combine-t-il à mes données démographiques, à mon crédit et à mes achats ? Ils font tout cela en créant des profils sur moi. Mais personne ne revient en arrière pour dire : « Hé, laissez-moi vraiment vous aider à obtenir un prêt hypothécaire honnête pour vous et votre famille. » Cela n’a absolument aucun intérêt pour eux. C’est pourquoi je parle de surplus comportementaux « arrachés » : ce qui reste derrière, c’est la carcasse de nos vies présentes. C’est comme prendre l’ivoire d’un éléphant. Ce qui reste, c’est moi et ma vie avec tous mes problèmes et mes difficultés.Retour ligne automatique
    Quand Henry Ford a inventé le modèle T, il essayait en fait de résoudre des problèmes de la vie réelle de vraies personnes (des gens qui voulaient une voiture au prix qu’ils étaient en mesure de payer – des agriculteurs et des commerçants). Certes, Henry Ford était une personne horrible : il était antisémite et misogyne, et il était détestable à bien des égards. Mais le capitalisme industriel fondé sur la production de masse s’est étendu dans le monde entier parce qu’il résout les problèmes réels de gens réels. C’est ce dont Schumpeter a fait l’éloge.Retour ligne automatique
    À présent, le secteur de la Tech reprend une expression de Schumpeter, celle de « destruction créative », et s’en sert comme insigne d’honneur pour son activité parasitaire. Alors qu’en fait Schumpeter ne parlait pas seulement de « destruction créative ». Schumpeter parlait de mutations économiques qui, selon sa propre théorie, profitent à tout le monde, donc augmentent la classe moyenne, augmentent la prospérité des gens ordinaires : c’est ce qui définit la mutation économique dans son esprit. Or ce n’est pas du tout ce qu’a fait le capitalisme de surveillance – dont le modèle de profit est parasitaire en ne s’intéressant qu’aux produits dérivés de nos expériences personnelles.

    Que dites-vous aux défenseurs de Google qui pourraient dire : « OK, Google extrait mon surplus comportemental pour profiter de ses produits dérivés, mais il me rend aussi un service réel : lorsque je fais une recherche, je peux trouver quelque chose facilement. Henry Ford a produit des voitures et Google produit une capacité d’accès à des informations pertinentes sur l’énorme quantité de données sur Internet » ?Retour ligne automatique
    Henry Ford a produit des voitures – et maintenant nous avons le réchauffement climatique ! Autrement dit : nous avons des externalités. Cela aurait pu être différent, mais nous devons maintenant faire face à ces externalités. Tout ce que nous avons sera remis en question pour compenser ces externalités. Maintenant, pour être juste envers Ford, il n’avait aucune idée de tout cela, nous n’avions pas la science du climat, donc il ne l’a pas fait exprès.Retour ligne automatique
    Google nous permet de faire des recherches Internet et c’est formidable, mais cela s’accompagne aussi d’externalités. Cependant, contrairement à Henry Ford, nous savons maintenant identifier ces externalités. Nous connaissons les externalités provenant de concentrations de connaissances sans précédent, provoquant des concentrations de pouvoir sans précédent – générant un pouvoir que j’appelle « instrumentarien ». Nous connaissons les objectifs visant à remplacer la démocratie par une gouvernance informatique, par une gouvernance algorithmique. Nous avons déjà bien vu cela, dans de nombreux cas, et ce n’est qu’un début. Nous connaissons les objectifs de la modification des comportements. Nous voyons les effets de la désinformation, nous voyons les effets de l’addiction. Nous en voyons les effets chez nos enfants : diminution de l’identité, de la capacité de jugement moral indépendant. Nous sommes face à ce chaos. Dans mon pays, en ce moment, le chaos dans lequel nous nous trouvons à l’approche de cette élection très importante est dû à 100 % aux externalités du capitalisme de surveillance.Retour ligne automatique
    Ma réponse à cela est donc : faisons des recherches sur Internet, et utilisons les réseaux sociaux, faisons-le, faisons appel à la technologie numérique – mais faisons-le sans les externalités du capitalisme de surveillance. Utilisons la technologie numérique d’une manière qui réponde réellement à nos problèmes, qui subvienne aux besoins des gens et qui réponde aux véritables besoins sociaux. Pas cette activité parasitaire dans laquelle toutes ces prédictions qui sortent des usines de calcul sont centrées sur moi, mais pas pour moi. Elles sont vendues à un groupe restreint d’entreprises clientes qui parient sur mon comportement futur afin d’améliorer leurs revenus et leurs profits.Retour ligne automatique
    Vous avez donc ces marchés qui profitent de mes problèmes et qui parient sur mon avenir. Vous avez les entreprises de la Tech, les capitalistes de la surveillance qui profitent de ma vie sans y contribuer. Et vous avez les investisseurs qui bénéficient de la capitalisation boursière, la capitalisation boursière construite sur ces opérations parasitaires, fondamentalement illégitimes. Il y a donc un groupe restreint de personnes qui s’enrichissent, et le reste d’entre nous qui observe cette concentration croissante de connaissances, de richesses et de pouvoir, en se disant « Mais qu’est-ce qui se passe ici ? Et nous, alors ? »

    Comment nous émanciper de ce pouvoir instrumentarien et extractiviste, qui profite de l’exploitation de nos expériences personnelles en générant des externalités funestes ? Autrement dit, quel agenda politique émane de votre analyse du capitalisme de surveillance ?Retour ligne automatique
    Il semble parfois n’y avoir aucun espoir, mais ce n’est pas le cas. La première chose à savoir, c’est que le capitalisme de surveillance n’a que vingt ans. La démocratie est plus ancienne. La raison pour laquelle le capitalisme de surveillance a connu un tel succès depuis vingt ans est qu’il n’y a pratiquement pas eu de loi pour lui faire obstacle. À la marge, un peu ici et là, dans quelques pays, le RGPD (règlement général sur la protection des données) a pu être un vague obstacle, comme certains ont pu le penser : mais c’est juste un début, et certainement pas une fin. Nous n’avons donc pas vraiment eu de loi pour faire obstacle au capitalisme de surveillance. Si nous avions vraiment pris des mesures en ce sens ces vingt dernières années et que nous étions toujours dans cette situation, je serais beaucoup plus pessimiste. Mais ce n’est pas le cas.Retour ligne automatique
    Mon point de vue est le suivant : qu’il s’agisse de l’antitrust ou du RGPD, nous n’avons pas encore le type de lois et de paradigmes de réglementation (de chartes, des droits et de structures institutionnelles) dont nous avons besoin pour rendre cet avenir numérique compatible avec la démocratie. Et cela veut dire que nous n’avons pas les outils, les outils juridiques dont nous avons besoin pour suspendre et interdire les mécanismes clés du capitalisme de surveillance. Il est donc essentiel de comprendre ces mécanismes, car, une fois qu’on les a compris, la perspective de les suspendre et de les interdire n’est pas aussi écrasante.Retour ligne automatique
    Par exemple, j’ai soutenu que les marchés qui font le commerce de l’avenir humain (markets that trade in human futures) devraient être illégaux. Les marchés qui font le commerce d’organes humains sont illégaux. Les marchés qui font le commerce d’êtres humains sont illégaux. Et ils sont illégaux parce que nous savons qu’ils entraînent indubitablement des conséquences néfastes, dangereuses et antidémocratiques. Ils entraînent indubitablement des préjudices qui sont intolérables pour une société démocratique. Et je soutiens que les marchés, le commerce de l’avenir humain, entraînent également des dommages qui sont intolérables pour la démocratie. Nous pouvons donc rendre ces marchés illégaux.Retour ligne automatique
    Et si nous le faisons, nous supprimons complètement les incitations financières. Nous éliminons de toute cette sphère ce que j’appelle le « dividende de la surveillance », ce dividende parasitaire. Et nous disons alors : « Donnez-nous la technologie numérique, mais donnez-nous la technologie numérique sous une forme qui nous respecte, qui respecte notre droit de revendiquer la souveraineté sur notre propre expérience personnelle ».Retour ligne automatique
    Du côté de la demande, donc, nous avons ces marchés à terme où il y a des incitations financières qui créent une demande pour les produits de prédiction. Du côté de la demande, il y a donc un moyen d’intervenir et de changer réellement la dynamique. Et si nous le faisions, cela ouvrirait instantanément le paysage concurrentiel à une véritable innovation. Pour tous les gens qui sont là – car il y en a littéralement des centaines dans ma boîte de réception chaque semaine qui ont des idées sur la façon dont nous devrions faire de la recherche et sur la façon dont nous devrions utiliser la technologie numérique pour résoudre toutes sortes de problèmes sans le capitalisme de surveillance –, nous pouvons facilement imaginer le numérique sans le capitalisme de surveillance. En revanche, nous ne pouvons pas imaginer le capitalisme de surveillance sans le numérique. La suspension de ces incitations financières ouvre donc la voie à une nouvelle ère d’innovation numérique. Tant mieux.

    Voilà pour ce qui concerne le côté de la demande. Comment peut-on agir du côté de l’offre ?Retour ligne automatique
    Le côté de l’offre, c’est celui où l’expérience humaine personnelle est considérée comme matière première gratuite, dont on cherche à extraire des surplus comportementaux. Cette activité que l’on appelle capitalisme de surveillance est conçue pour être secrète, pour nous maintenir dans l’ignorance. Si vous la décrivez à n’importe quel enfant de huit ans, il répondra : « Mais c’est du vol ! » Et il aura raison. Le système actuel est un permis de voler. Les capitalistes de surveillance ont eu le droit de voler, tout l’édifice est construit sur une base illégitime, à savoir nous prendre sans demander. Donc, du côté de l’offre, nous devons définir de nouveaux droits, que j’appelle des droits épistémiques.Retour ligne automatique
    Depuis que j’ai publié le livre, j’ai beaucoup écrit sur l’égalité épistémique, sur les droits épistémiques, et sur la justice épistémique. Les questions principales sont : Qui sait ? Qui décide ? Qui décide qui sait ? Qui décide qui décide ? Ce sont des questions de connaissances, d’autorité et de pouvoir.Retour ligne automatique
    Avant le pouvoir instrumentarien, on considérait comme un droit élémentaire le fait que je sois le seul à connaître mon expérience personnelle – et peut-être que je la partage avec un ami, ou avec ma famille, ou avec mon partenaire, mais c’est moi qui décidais. Je savais et je décidais. Et il n’y avait pas vraiment matière à contestation à ce sujet, car la vie humaine était ainsi faite. Les humains ont une vie limitée dans le temps : on mourait, parfois nos vies étaient traduites en histoire ou en mythe, et puis plus tard il restait des photos et des lettres… Le fait de savoir quand décider qui sait ou ne sait pas ne devait pas être codifié en un droit juridique formel.Retour ligne automatique
    Mais maintenant, c’est le cas. Les droits sont codifiés dans l’histoire, tout comme le droit à la liberté d’expression a été codifié dans l’histoire. Je veux dire que quiconque est né sans handicap particulier peut parler. Si vous êtes en bonne santé d’un point de vue physiologique, vous pouvez parler. Vous n’avez pas besoin d’un droit à la parole, pas plus que vous n’avez besoin d’un droit de vous lever et de vous asseoir (tant que vous êtes en bonne santé). Mais à un certain moment de l’histoire de l’humanité, à cause de la pression politique, de la nature changeante de la société et nos conditions d’existence, nous avons dû codifier un droit à la liberté d’expression. Et nous l’avons fait.Retour ligne automatique
    Maintenant, au XXIe siècle, nous devons définir un droit qui garantisse à chacun la souveraineté sur son expérience personnelle – à savoir : je connais et je décide qui connaît mon expérience personnelle. Si je veux que mon expérience personnelle soit traduite en données, et si je veux donner ces données à un groupe qui travaille sur une forme particulière de cancer, ou à un groupe qui cherche à trouver des solutions contre la pauvreté dans mon quartier ou dans ma communauté, ce sont des décisions que je prends.

    C’est là, pour vous, le défi principal de notre époque ?Retour ligne automatique
    Tout à fait. Du côté de l’offre, nous avons besoin d’un nouveau droit. Du côté de la demande, nous avons besoin de nouvelles lois et de nouveaux paradigmes de réglementation. Et ces mesures ne sont pas difficiles à mettre en place. Ne pas les mettre en place, ce serait comme si nous étions arrivés à la fin du XXe siècle et qu’il n’y avait pas de lois sur le travail des enfants ; ou bien qu’il n’y avait pas de droit d’adhérer à un syndicat ou de négocier collectivement ; pas de droit de grève ; pas d’institutions qui encadrent les institutions démocratiques, qui encadrent la sécurité des salariés, leurs salaires ; pas d’institutions qui encadrent la sécurité de nos aliments, de nos médicaments, de nos bâtiments, de notre environnement ; pas de filets de sécurité en matière de santé, de retraite et de vieillissement. Imaginez que l’on ait vécu au XXe siècle sans rien de tout cela. Le XXe siècle aurait été un siècle de ténèbres, de souffrance, d’oligarchie, de servitude.Retour ligne automatique
    C’est là où nous en sommes aujourd’hui. Nous nous dirigeons vers un avenir numérique sans les protections dont nous avons besoin. Et mon argument est que, Dieu merci, ce n’est pas la fin du XXIe siècle. C’est encore le début. Nombre de ces protections dont nous disposions au XXe siècle ne sont pas apparues avant la troisième et la quatrième décennie. Je suis donc convaincue à présent que cette décennie, la troisième décennie du XXIe siècle, doit être le moment où nous nous attelons à ce travail. Parce qu’une décennie de plus sans protection et sans trouver une nouvelle voie pour l’avenir deviendra très, très difficile – et, j’en ai bien peur, beaucoup plus violente que ce à quoi nous sommes confrontés aujourd’hui.Retour ligne automatique
    Voici donc mon appel à agir pour les législateurs, pour les citoyens, pour tous ceux qui se soucient de l’avenir de la démocratie : nous devons élaborer un modèle d’avenir numérique qui soit conforme à nos aspirations en tant que démocraties libérales. Et nous n’avons pas encore fait ce travail.

    Shoshana Zuboff, L’Âge du capitalisme de surveillance, traduit de l’anglais par Bee Formentelli et Anne-Sylvie Homassel, éditions Zulma, 2020.

    Traduit de l’anglais par Clément Duclos.

    L’enregistrement audio de cet entretien en anglais est disponible en podcast sur le site de l’EUR ArTeC.

    Yves Citton

    Professeur de littérature et médias, Université Paris 8 Vincennes-Saint-Denis, co-directeur de la revue Multitudes

    #Google #Microsoft #Amazon #Facebook #Twitter #algorithme #smartphone #technologisme #[fr]Règlement_Général_sur_la_Protection_des_Données_(RGPD)[en]General_Data_Protection_Regulation_(GDPR)[nl]General_Data_Protection_Regulation_(GDPR) #émotions #législation #addiction (...)

    ##[fr]Règlement_Général_sur_la_Protection_des_Données__RGPD_[en]General_Data_Protection_Regulation__GDPR_[nl]General_Data_Protection_Regulation__GDPR_ ##bénéfices ##BigData ##comportement ##GAFAM ##surveillance