« La capacité de penser de façon autonome, voire de penser tout court, est en péril »

/la-capacite-de-penser-de-facon-autonome

  • « La capacité de penser de façon autonome, voire de penser tout court, est en péril »
    https://www.lemonde.fr/idees/article/2019/08/20/la-capacite-de-penser-de-facon-autonome-voire-de-penser-tout-court-est-en-pe

    Contre l’aliénation nouvelle que représente la manipulation des données par des algorithmes mis au service des grandes entreprises et des Etats, l’économiste Pierre Dockès en appelle, dans une tribune au « Monde », à une « insurrection civique ».

    Tribune. Les grandes vagues de changement technique ont toutes suscité des réactions de rejet pouvant aller jusqu’à la révolte. Le Moyen Age rejetait les innovations estimées maléfiques. La révolution industrielle provoqua les révoltes luddistes [luddisme : mouvement opposé au machinisme au début de la révolution industrielle]. L’avènement de la grande industrie faisait de l’usine un « bagne mitigé » et de la société une « mégamachine ».

    Pourtant la technologie n’est pas, en elle-même, responsable des maux dont on l’accable. Les luddistes s’en prenaient aux machines, mais leurs conséquences négatives s’expliquaient par leur mise en œuvre sous des rapports sociaux spécifiques. Les techniques ne sont cependant pas « innocentes » puisqu’elles ont été configurées dans un certain schéma social.

    Il en va de même aujourd’hui : l’être humain est menacé d’une #expropriation majeure de ses « capabilités » (pour reprendre les termes de l’économiste indien Amartya Sen, prix Nobel d’économie 1998), ses libertés substantielles. Pour la philosophe Simone Weil (1909-1943), « la société la moins mauvaise est celle où le commun des hommes a les plus grandes possibilités de contrôle sur l’ensemble de la vie collective et possède le plus d’indépendance » (Réflexions sur les causes de la liberté et de l’oppression sociale, 1934, Simone Weil, Gallimard, 1999). Elle valorise ainsi la vie rude du pêcheur ou celle de l’artisan médiéval car ce sont des vies « d’homme libre ». C’est sous cet angle de l’aliénation qu’il faut juger la révolution numérique, et pas seulement comme une énième révolution industrielle.

    Manipulation des #comportements
    Aux deux processus historiques majeurs reconnus par l’économiste Max Weber (1864-1920) – la formation du capital par l’expropriation des petits producteurs autonomes de leurs moyens de production (repris de Marx), et la formation de l’Etat comme détenteur du monopole de la violence légitime (dans Politik als Beruf, 1919) – s’ajoute aujourd’hui une troisième phase appuyée sur les vagues précédentes.

    Nos données privées captées, agrégées par le croisement des dossiers et revendues, permettent la manipulation des comportements, une publicité et une propagande ciblées. Les smartphones, les objets connectés (que la 5G va permettre de centupler) sont autant d’espions. Les safe cities capables de suivre précisément les déplacements de chacun et de repérer le moindre comportement « anormal » se multiplient. La monnaie privatisée va permettre une mainmise approfondie sur nos données vitales.

    Cela peut aller jusqu’à l’assujettissement par un Etat-parti totalitaire, comme dans la Chine de Xi Jinping. La reconnaissance faciale y est omniprésente, le système de notation généralisée par le « crédit social » y tient compte des « données de connexion » – soit les relations amicales (d’où les stratégies d’évitement d’« amis » mal notés) – et la sphère privée y a pratiquement disparu. Déjà une forme molle de ce système orwellien se développe dans les pays occidentaux.
    Article réservé à nos abonnés Lire aussi « Il semble illusoire de contrôler a priori les outils d’intelligence artificielle car leurs conséquences sont quasi imprévisibles »

    Cette aliénation rencontre et forge nos désirs, pour mieux les conformer aux intérêts dominants. Les humains influencés consommeront bientôt les produits qu’un algorithme désignera à partir de leurs données personnelles. L’algorithme choisira, commandera et payera pour eux, avec leur assentiment exprès, voire tacite. Beaucoup apprécient déjà que la captation de leurs données permette un formatage publicitaire personnalisé et la safe city satisfait leur désir de sécurité.

    Retrouver l’esprit libertaire
    L’imperceptible et progressif avènement d’une société de surveillance, la perte d’autonomie économique et politique et la disparition de la vie privée ne sont comparativement qu’une petite gêne, une légère démangeaison pour l’individu, tant les bénéfices techniques sont grands ! Mais la capacité même de penser de façon autonome, voire de penser tout court, est en péril.

    Sans même parler du transhumanisme, se façonne ainsi le « dernier homme », celui décrit par Nietzsche dans Ainsi parlait Zarathoustra, si méprisable qu’il ne se méprise même plus, celui que les foules d’antan et certains réseaux sociaux d’aujourd’hui réclament sous l’œil bienveillant des puissants. Comme nous l’expliquons dans La Nouvelle Résistance. Face à la violence technologique (Eyrolles, 2019), écrit avec Jean-Hervé Lorenzi et Mickaël Berrebi, il faut un sursaut démocratique. Ce combat pour l’être humain est à la hauteur de celui pour la planète – d’ailleurs les raisons profondes en sont les mêmes.

    La soi-disant autorégulation des #GAFA [Google Amazon, Facebook, Apple] est un faux-semblant, mais l’espoir de leur régulation par les Etats ne vaut guère mieux. Les Etats sont dépendants, complices ou même parfois responsables. Aux Etats-Unis, Donald Trump brandit des menaces de rétorsions en défense des GAFA pour empêcher une modeste tentative de leur faire payer des impôts. Et en Chine, l’Etat a la mainmise sur les entreprises comme Alibaba qui lui permettent d’exercer son contrôle social.

    On ne peut finalement compter que sur une insurrection civique, sur les résistances individuelles et collectives qui se développent déjà, non pas contre la révolution technologique en elle-même, mais en inventant de nouvelles techniques, de nouvelles configurations, de nouveaux usages plus sobres, en rejetant les pratiques aliénantes afin de retrouver l’esprit libertaire qui caractérisait les débuts d’Internet.

    Pierre Dockès est l’auteur de Le Capitalisme et ses rythmes, quatre siècles en perspective. Tome II : Splendeurs et misère de la croissance (Classiques Garnier, 2019) et, avec Jean-Hervé Lorenzi et Mickaël Berrebi, de La Nouvelle Résistance. Face à la violence technologique (Eyrolles, 2019).

    #algorithmes #données #data

    • non pas contre la révolution technologique en elle-même

      Tout est là : surtout ne pas s’opposer à quoi que ce soit, et moins encore à la divinité tutélaire des sociétés capitalistes et industrielles, la technologie. Il suffit de "subvertir les usages" comme on dit chez #Multitudes.

      Une forme caractéristique de #pseudo_critique (#critique_techno).

      Dans La Nouvelle Résistance , p.115 (fin du chapitre “Un monde de résistances”) on peut lire ceci :

      La vraie résistance consistera à rendre tous les hommes et toutes les femmes, quelque soit leur catégorie socio-professionnelle, quelque soit leur formation initiale, capables de s’adapter rapidement aux évolutions technologiques, et cela à plusieurs reprises dans leur vie professionnelle.

      Résister, c’est s’adapter. (apologie de la #soumission)
      La liberté, c’est l’esclavage.
      L’ignorance, c’est la force.
      La guerre, c’est la paix.

      Ce #Pierre_Dockès, c’est #Orwell !

      @colporteur @kamo