#deep_earnings

Deep earnings | Bulletin des bibliothèques de France
►https://bbf.enssib.fr/critiques/deep-earnings_70991

https://cfeditions.com/deep-earnings/ressources/couv_deep-earnings_grand.jpg

Deep earnings
Éric Guichard
Pablo Jensen
Deep earnings : le néolibéralisme au cœur des réseaux de neurones
Caen, C & F éditions, 2021
Collection « Interventions »
ISBN 978-2-37662-023-5

Dans Deep earnings, allusion directe au deep learning, expression savante pour l’intelligence artificielle (IA), mais aussi aux « gains profonds » du capitalisme numérique, Pablo Jensen fait un retour sur la genèse des réseaux de neurones à l’origine de l’IA.

Donnons quelques éléments de contexte, que rappelle l’auteur. Après avoir élucidé divers problèmes liés à la gravitation et aux planètes, puis à l’infiniment petit (les atomes d’un gaz), la physique espère, dans les années 1950, élucider les questions de la « complexité organisée » qui renvoient à la structure de nos sociétés (coutumes, marchés) ou de nos êtres (biologie, etc.). Cet espoir s’est partiellement réalisé : la branche des « systèmes complexes » existe aujourd’hui, Pablo Jensen en est l’un des spécialistes à l’École normale supérieure (ENS) de Lyon. Elle aborde des sujets variés : de la vulcanologie à la cancérologie, en passant par l’influence des réseaux sociaux sur nos choix électoraux, ou la prévision de l’évolution de la Covid-19.

Ces « systèmes complexes », historiquement au carrefour des mathématiques, de la physique et de l’informatique, abordent des thématiques auparavant réservées à la sociologie ou aux sciences « semi-exactes ». Leurs représentants développent une épistémologie féconde, y compris pour les sciences sociales : on ne peut plus les taxer de techniciens sourds au social et à la culture.

La démarche de Jensen en témoigne : il explicite l’articulation historique entre une idéologie et les débuts d’une discipline aux ramifications industrielles – et capitalistes – conséquentes, au moment où les réseaux et les ordinateurs formatent nos vies et dévoilent nos intimités. Il apparaît que l’inventeur du perceptron (Rosenblatt), à l’origine des « réseaux de neurones » et du deep learning, a été inspiré par Friedrich Hayek (1899-1992), prix Nobel d’économie et chantre des politiques de Thatcher, Reagan ou Pinochet.
L’IA, inopérante dans le monde ordinaire du quotidien

Est-ce une preuve que la science et la technique sont le fruit de l’idéologie, comme l’a affirmé Jürgen Habermas ? Pablo Jensen, plus subtil que le philosophe de Francfort, évite ce raccourci. Il rappelle l’histoire du perceptron, vulgarise intelligemment le fonctionnement des réseaux de neurones, et montre les limites de l’IA : éventuellement utile dans le monde stable du laboratoire, elle est efficace dans les mondes cadrés (le jeu d’échecs) mais inopérante dans le monde ordinaire de notre quotidien. Ce dernier, nous montre Pablo Jensen, résiste à la modélisation, en partie du fait qu’il est peuplé de rhétorique, de métaphores et d’heuristiques non calculables.

Autrement dit, l’IA ne va pas régenter la totalité du monde. Ce qui ne nous empêche pas de profiter de ses avancées pour reconfigurer ce monde, notamment aux temps du réchauffement climatique, nous rappelle l’auteur.

Et ce n’est pas parce qu’une intuition profondément mécaniste et biologique comme celle de Friedrich Hayek a pu servir à la fois une nouvelle approche scientifique, comme celle des réseaux de neurones, et une idéologie, comme celle de l’autonomie des marchés économiques et de son caractère supposé fécond, qu’il faille à jamais imaginer une dépendance du premier terme au second. Certes, cette corrélation est maintenue par la redondance médiatique orchestrée, pourrait-on dire par les ayatollahs du libéralisme (pour reprendre une formule de Joseph Stieglitz, autre prix Nobel d’économie), mais nous avons tout à fait les moyens de ne pas les suivre et de savoir distinguer science et idéologie, même si l’une et l’autre ont été mûries par un même terreau, nous dirait Michel Foucault.

Ainsi, Pablo Jensen décorrèle le lien génétique entre IA et néo-libéralisme pour montrer les limites de ce dernier, qui, malgré quelques qualités (la planification ne peut pas tout), promeut un monde sans alternative, où le paradis est décrit comme un équivalent de la fin de l’État. Il nous rappelle aussi que les sociétés peuvent changer les règles qui les gouvernent, même si Friedrich Hayek prétend que c’est impossible du fait qu’elles dépassent l’entendement des individus qui voudraient les changer.

On pourrait reprocher à Jensen son optimisme et une critique rapide du lien entre pensée et calcul, si bien décrit par Gilles-Gaston Granger, qui rappelle que si le second est bien présent dans la première, il ne la circonscrit pas. Cela n’empêche pas l’auteur de montrer précisément les limites pratiques et théoriques du néolibéralisme et la fécondité de la pensée critique, dès qu’elle s’alimente de savoirs et de faits précis.

Un livre important, donc, qui articule pédagogiquement l’histoire des sciences, la philosophie politique et l’épistémologie : il aborde à la fois les origines et les développements actuels de l’IA ; il se frotte à la question de la légitimité du néolibéralisme, qui nous gouverne depuis presque un demi-siècle ; il bouscule nos préjugés épistémologiques, souvent dépendants de ce que nous avons appris de la notion de science à l’université. Deep earnings mérite d’être largement connu.

Et l’on remerciera l’éditeur – rare sinon unique spécialiste de la pensée critique du numérique – d’avoir permis à l’auteur de compléter chaque chapitre d’instructives notes et références.
Référence bibliographique

Éric GUICHARD, «  Pablo Jensen, Deep earnings  », Bulletin des bibliothèques de France (BBF), 10 janvier 2023.
En ligne : ►https://bbf.enssib.fr/critiques/deep-earnings_70991

#Deep_Earnings #Pablo_Jensen

Deep Earnings, par Nour Aucomte (Le Monde diplomatique, février 2022)
▻https://www.monde-diplomatique.fr/2022/02/AUCOMTE/64363

https://www.monde-diplomatique.fr/IMG/jpg/deep.jpg

Le physicien Pablo Jensen explique de façon limpide en quoi politique, informatique, algorithmes (fort peu neutres) et marché relèvent d’une vision commune de la société. L’avènement de l’économie néolibérale dans les années 1980 coïncide avec le développement de ce qu’on appelle abusivement l’intelligence artificielle. Un « réseau de neurones artificiels » est une « reproduction » du fonctionnement synaptique humain appliquée à l’informatique, utilisée par toutes les technologies « intelligentes » et sur tous les supports capables d’apprendre de leurs interactions. La logique néolibérale est elle aussi en mesure de s’adapter : en laissant à l’individu la possibilité de se tromper et d’ajuster sa trajectoire, mais toujours dans le cadre du marché. « L’idée est d’utiliser l’individu pour le mettre au service du système. » Chacun fait partie d’un ensemble constitué d’autres individus en interaction, dont l’objectif est l’achèvement d’une tâche commune : la consommation. On ne s’étonnera pas, dès lors, que Friedrich von Hayek, père du néolibéralisme, ait été considéré comme une source d’inspiration par Frank Rosenblatt, l’inventeur des réseaux de neurones.

Nour Aucomte

#Pablo_Jensen #Deep_earnings

Deep Learning, libéralisme et contrôle social – Mondes Sociaux
▻https://sms.hypotheses.org/27637

https://sms.hypotheses.org/files/2021/06/Bandeau-Mondes-Sociaux4.png

Depuis quelques années, les réseaux de neurones et les applications de deep learning qu’ils rendent possibles sont devenus nos béquilles, nos ombres, nos espions. Au cœur de l’intelligence artificielle, ils reconnaissent notre voix, nos amis dans les albums photos, détectent le piratage de notre carte bleue et conduiront bientôt nos voitures. Comment fonctionnent ces algorithmes magiques ? Une analyse de leur histoire et de leurs fondements montre leur connexion avec les théories économiques néo-libérales.

Article de présentation de son livre par Pablo Jensen lui-même.

#Pablo_Jensen #Deep_earnings

Les activités humaines ne sont pas solubles dans les modélisations | Entre les lignes entre les mots
►https://entreleslignesentrelesmots.blog/2021/06/16/les-activites-humaines-ne-sont-pas-solubles-dans-les-mo

https://entreleslignesentrelesmots.files.wordpress.com/2021/06/couv_deep-earnings_grand.jpg

Un physicien, spécialiste des systèmes complexes, nous rappelle l’impossibilité « de mettre les sociétés humaines en équation »

En introduction, Pablo Jensen aborde les réseaux de neurones, les applications de deep learning, les algorithmes, l’« intelligence artificielle ». L’auteur questionne « Comment fonctionnent ces algorithmes magiques ? Comment a-t-on pu créer de l’intelligence à partir de transistors, au fonctionnement aussi stupides que des interrupteurs ? »

Pour comprendre la logique de ces réseaux, il revient sur l’article « fondateur en ce domaine » du psychologue Frank Rosenblatt. Surprise, ce chercheur cite comme source d’inspiration Friedrich Hayek qui obtiendra en 1974 le prix de la Banque de Suède, mal-nommé « pris Nobel d’économie ».

Le livre est composé de six textes. La lectrice et le lecteur n’ont pas besoin de connaissances approfondis dans les domaines abordés. L’auteur use d’un langage courant, donne des explications très pédagogiques et illustre ces propos par des exemples.

L’auteur souligne que l’intelligence est incarnée, que les capacités des ordinateurs sont abusivement appelés « intelligence artificielle », que le dressage est différent de l’apprentissage, « enrichit la palette de comportements disponibles et comporte des « conversations » », que nous sommes un corps (nous n’« avons » pas un corps). Il aborde la pensée abstraite, les représentations symboliques, ce qui donne sens à ce que nous vivons. Les réseaux de neurones ne sont quant-à eux pas incarnés et demeurent fondamentalement différents de l’intelligence humaine et leur pouvoir de nuisance « provient plutôt de leur scrupuleuse obéissance »…

Au postulat de certains que les réseaux et le marché peuvent contrôler un monde complexe, l’auteur oppose la prise en compte du marché « comme outil de coordination économique utile »et le long terme d’objectifs « transcendant l’optimisation du profit immédiat ». Il nous rappelle que « le modernisme entraîne une concentration de pouvoir et de richesse qui engendre inégalités et corruption ». Il propose de « débrancher la machine moderniste », de prendre soin « des enchevêtrements locaux nécessaires à la création de vie et de valeur », de développer le mouvement des « communs comme alternative au marché et au plan pour apprivoiser le monde sans l’épuiser ».

#Pablo_Jensen #Deep_earnings

Intelligence artificielle et grand capital, même combat, d’après Pablo Jensen
▻https://www.lemonde.fr/sciences/article/2021/06/10/intelligence-artificielle-et-grand-capital-meme-combat-d-apres-pablo-jensen_

https://img.lemde.fr/2021/06/03/80/0/800/400/1440/720/60/0/dd26922_911809928-couv-deep-earnings-grand.jpg

Dans « Deep Earnings », le physicien français décèle un lien inattendu entre les réseaux de neurones connectés et le néolibéralisme. Et en vient à proposer une nouvelle organisation politique, exempte de leurs défauts.

Par David Larousserie
Publié aujourd’hui à 06h30

Voici un livre court et stimulant, qui repose qui plus est sur une belle surprise. Le physicien Pablo Jensen tire un fil inattendu pour relier l’une des innovations techniques majeures de ces dernières années à l’une des théories économiques ayant le plus imprimé sa marque dans nos sociétés. A savoir les réseaux de neurones artificiels, ou apprentissage profond, et le néolibéralisme. En une centaine de pages, l’auteur, après avoir défini ces deux concepts, expose des analogies fécondes entre eux. Et les trouvant tous les deux limités, il esquisse des pistes tant scientifiques que politiques pour en corriger les défauts.

A l’origine de ce rapprochement inattendu, il y a la sixième référence bibliographique d’un article paru en 1958 sous la plume de Frank Rosenblatt, décrivant le premier réseau de neurones artificiels, le Perceptron. La note pointe vers un livre de 1952 de psychologie théorique d’un futur Nobel d’économie, l’Autrichien Friedrich Hayek, considéré comme un des penseurs du néolibéralisme, qui met l’accent sur la concurrence et le marché.

Quels rapports entre les deux ? En fait, Hayek cherchait à décrire l’émergence de nos sensations avec des lois physiques. Il voulait aussi comprendre comment un ordre peut émerger de tant de cerveaux différents. Et c’est assez proche de ce que réalise un algorithme d’intelligence artificielle, tel que le Perceptron ou ses successeurs : il se construit en ajustant ses millions de paramètres de manière à répondre parfaitement à une série de questions.

Ordre spontané

Cela rejoint la vision que développe Hayek des sociétés et de l’économie. Les neurones sont les agents d’un marché. L’architecture neuronale correspond à l’organisation de ce marché. Les « stimuli » sur les neurones sont les prix. Finalement, sans fixer de règles générales individuelles, il émerge dans les deux cas une réponse ou un prix qui correspond aux objectifs généraux fixés. Un ordre spontané a surgi sans que personne puisse vraiment l’anticiper et, surtout, ne puisse l’expliciter.

Néanmoins, cela comporte quelques défauts. Par exemple, l’IA résout des questions complexes, mais n’aide pas toujours à comprendre pourquoi telle réponse est advenue, apportant finalement peu de connaissances sur le monde qu’elle décrit. Politiquement, le néolibéralisme apparaît « autoritaire » puisqu’il évacue la question centrale des objectifs généraux des marchés et soumet donc les individus à des lois qui leur échappent.

En conclusion, Pablo Jensen, qui avait déjà décrit les difficultés à mathématiser les individus dans Pourquoi la société ne se laisse pas mettre en équations (Seuil, 2018), ose proposer une organisation politique n’ayant pas les défauts du néolibéralisme ou des IA. Un soupçon de « planification » pour disposer de règles. Une pincée de « marché » pour se sortir de situations complexes. Un brin de « communs » pour des organisations aux objectifs débattus collectivement. Et beaucoup d’intelligence pour imbriquer et relier ces trois « outils » ensemble. Facile.

« Deep Earnings », de Pablo Jensen (C & F éditions, 98 pages, 15 euros).
David Larousserie

#Pablo_Jensen #Deep_earnings

L’intelligence artificielle est-elle néolibérale ?
▻https://www.nouvelobs.com/idees/20210527.OBS44531/l-intelligence-artificielle-est-elle-neoliberale.html

https://focus.nouvelobs.com/2019/07/23/35/0/960/480/1200/630/60/0/51859f4_H-0dIVavdk8YiD0gIZ3YUoAJ.jpg

Par Xavier de La Porte

Lorsque, au sortir de la Deuxième Guerre mondiale, on s’est mis à penser que les ordinateurs allaient changer le monde, beaucoup ont rêvé de reproduire artificiellement le fonctionnement du cerveau humain. Parmi eux, certains ont eu une idée : il suffisait de remplacer les neurones par des micro-transistors, de les assembler en une architecture adéquate, de créer des boucles de rétroaction qui fassent en sorte que le système évolue selon ses résultats, et le tour était joué. Le « réseau de neurones » était né.

#Pablo_Jensen #Deep_earnings

Friedrich Hayek, les neurones et le libéralisme autoritaire | Mediapart
▻https://www.mediapart.fr/journal/culture-idees/070521/friedrich-hayek-les-neurones-et-le-liberalisme-autoritaire?onglet=full

https://static.mediapart.fr/etmagine/og/journal/files/2021/05/06/334px-perceptron-svg.png

En s’intéressant au « perceptron » et à la vision du cerveau développée par l’économiste Friedrich Hayek, le physicien Pablo Jensen met en lumière un pan du néolibéralisme autoritaire, guidé par un parallèle avec les « réseaux de neurones ».

Même si « depuis quelques années, les réseaux de neurones et les applications de deep learning qu’ils rendent possibles sont devenus nos béquilles, nos ombres, nos espions », le propos de Pablo Jensen n’est pas ici de démystifier, une nouvelle fois, les promesses parfois fantaisistes de l’intelligence artificielle (IA).

Il s’agit de saisir pourquoi Rosenblatt cite comme source majeure d’inspiration un économiste pas encore nobélisé, Friedrich Hayek, l’un des principaux théoriciens du néolibéralisme. Et si, en retour, les réseaux de neurones ont servi de fondement théorique et pratique à la vision de la société et de l’économie du prix Nobel d’économie 1974. Cet objectif explique le jeu de mots qui donne le titre de l’ouvrage de Pablo Jensen, Deep earnings, sous-titré Le néolibéralisme au cœur des réseaux de neurones, que viennent de publier les éditions C&F.

Alors qu’on ne compte plus les annonces mirobolantes sur la puissance de prédiction des algorithmes, les études publiques permettant d’évaluer l’efficacité de ces approches demeurent encore très décevantes. En effet, les réseaux de neurones restent « tributaires d’un monde relativement cadré », fonctionnant dans des « univers comme les usines, ou les collections d’images » mais pas des situations plus complexes.

Pour Pablo Jensen, « la clé de ces échecs réside dans l’imprévisibilité du social, due à la variabilité des effets induits par chaque cause, selon le contexte spécifique dans lequel elles agissent ». On force en effet les « algorithmes à trouver une relation mathématique qui n’existe pas ».

L’intelligence humaine est « incarnée », au sens propre, et juge, à partir des émotions et sensations qui l’affectent, du choix des moyens pour atteindre l’objectif sans que cet objectif soit imposé de l’extérieur.

Si l’IA voulait copier l’intelligence humaine, il lui faudrait donc « un corps similaire au nôtre » et se situant dans le monde sans « représentation symbolique intermédiaire ». De ce fait, écrit Pablo Jensen, « les robots de Boston Dynamics ont beau mimer parfaitement notre manière de danser le twist, ils ne peuvent comprendre ce que la danse représente pour nous ».

Pour Hayek, notre cerveau construit une « carte du monde » spécifique qui se forme par « renforcement des connexions entre les fibres neuronales qui s’activent en même temps ». Cette carte n’est pas identique pour tous les individus, même si la réalité à laquelle ils sont confrontés est similaire, car les stimuli physiques sont filtrés et modifiés par notre cerveau.

Pour le chercheur d’origine autrichienne, « cette dispersion rend impossible la planification, qui a besoin de centraliser des connaissances explicites. Mais elle va également rendre impossibles les calculs des économistes néoclassiques, alors dominants. Au cœur de l’économie de Hayek, on ne trouve plus la rationalité, la connaissance parfaite, mais l’ignorance des agents économiques et leur besoin vital d’accéder à l’information ».

Le marché est alors là pour « dompter la société complexe », écrit Jensen. Car, pour coordonner des « êtres si fondamentalement différents », il faut des règles, qui sont pour Hayek celles engendrées spontanément par le fonctionnement du marché et des prix.

Mais l’idée de Hayek que les sociétés capitalistes seraient l’aboutissement d’un processus de sélection « naturelle » permet de donner un vernis de légitimité aux règles existantes et d’édifier des ordres sociaux efficaces mais « trop complexes pour notre entendement », dixit l’économiste. Il s’agit ainsi de bâtir une « utopie libérale » pour contrer l’utopie socialiste alors en plein essor.

Dans ce cadre, selon Hayek, le lien entre libéralisme et réseaux de neurones est profond, explique Jensen, « car les deux s’appuient sur un ordre spontané pour dompter un ordre irrémédiablement complexe », même si cette spontanéité est en réalité orientée, encadrée et instrumentalisée.

Hayek écrit en effet : « Dans les deux cas, nous avons affaire à un phénomène complexe dans lequel il faut utiliser de la connaissance extrêmement distribuée. Le point essentiel est que chaque membre (neurone, acheteur, vendeur) est induit à faire ce qui globalement est bénéfique pour le système. Chaque membre peut être utilisé pour servir des besoins qu’il ignore totalement. »

Ce parallèle entre individu et neurone, juge Jensen, « conduit à une politique autoritaire, dans laquelle les humains sont mis au service d’un projet sur lequel ils n’ont pas prise ». On est alors loin, dans ce libéralisme autoritaire, écrit le chercheur, « du libéralisme originel, qui faisait de l’individu la fondation intouchable de l’action publique ». L’individu hayékien, selon ses propres termes, devient un « homme maniable et éminemment gouvernable », que ce soit « par les signaux des marchés ou autres nudges », poursuit Jensen.

Dans son ouvrage manifeste, La Route de la servitude (PUF), Friedrich Hayek précise son propos : « C’est la soumission de l’homme aux forces impersonnelles du marché qui, dans le passé, a rendu possible le développement d’une civilisation qui sans cela n’aurait pas pu se développer ; c’est par cette soumission quotidienne que nous contribuons à construire quelque chose qui est plus grand que ce que nous pouvons comprendre. »

En ce sens, Pablo Jensen estime, après d’autres, que les prises de position antidémocratiques de Hayek et son approbation des régimes mis en place par Pinochet au Chili ou Videla en Argentine « ne sont pas des simples dérapages » mais la conséquence logique de sa vision de l’encadrement psychologique nécessaire pour coordonner le fonctionnement de l’économie et de la société.

#Pablo_Jensen #Deep_earnings #Friedrich_Hayek #Méolibéralisme #Connexionnisme