#deep_earnings

  • Deep Earnings, par Nour Aucomte (Le Monde diplomatique, février 2022)
    https://www.monde-diplomatique.fr/2022/02/AUCOMTE/64363

    Le physicien Pablo Jensen explique de façon limpide en quoi politique, informatique, algorithmes (fort peu neutres) et marché relèvent d’une vision commune de la société. L’avènement de l’économie néolibérale dans les années 1980 coïncide avec le développement de ce qu’on appelle abusivement l’intelligence artificielle. Un « réseau de neurones artificiels » est une « reproduction » du fonctionnement synaptique humain appliquée à l’informatique, utilisée par toutes les technologies « intelligentes » et sur tous les supports capables d’apprendre de leurs interactions. La logique néolibérale est elle aussi en mesure de s’adapter : en laissant à l’individu la possibilité de se tromper et d’ajuster sa trajectoire, mais toujours dans le cadre du marché. « L’idée est d’utiliser l’individu pour le mettre au service du système. » Chacun fait partie d’un ensemble constitué d’autres individus en interaction, dont l’objectif est l’achèvement d’une tâche commune : la consommation. On ne s’étonnera pas, dès lors, que Friedrich von Hayek, père du néolibéralisme, ait été considéré comme une source d’inspiration par Frank Rosenblatt, l’inventeur des réseaux de neurones.

    Nour Aucomte

    #Pablo_Jensen #Deep_earnings

    • J’ai commencé le livre et j’en suis à la moitié... mais ce n’est pour l’instant qu’une suite d’introductions générales comme on peut en trouver sur wikipedia, et ça n’a encore rien dit, rien de particulier. Alors c’est ennuyeux et je ne sais pas si je finirai...

  • Deep Learning, libéralisme et contrôle social – Mondes Sociaux
    https://sms.hypotheses.org/27637

    Depuis quelques années, les réseaux de neurones et les applications de deep learning qu’ils rendent possibles sont devenus nos béquilles, nos ombres, nos espions. Au cœur de l’intelligence artificielle, ils reconnaissent notre voix, nos amis dans les albums photos, détectent le piratage de notre carte bleue et conduiront bientôt nos voitures. Comment fonctionnent ces algorithmes magiques ? Une analyse de leur histoire et de leurs fondements montre leur connexion avec les théories économiques néo-libérales.

    Article de présentation de son livre par Pablo Jensen lui-même.

    #Pablo_Jensen #Deep_earnings

  • Les activités humaines ne sont pas solubles dans les modélisations | Entre les lignes entre les mots
    https://entreleslignesentrelesmots.blog/2021/06/16/les-activites-humaines-ne-sont-pas-solubles-dans-les-mo

    Un physicien, spécialiste des systèmes complexes, nous rappelle l’impossibilité « de mettre les sociétés humaines en équation »

    En introduction, Pablo Jensen aborde les réseaux de neurones, les applications de deep learning, les algorithmes, l’« intelligence artificielle ». L’auteur questionne « Comment fonctionnent ces algorithmes magiques ? Comment a-t-on pu créer de l’intelligence à partir de transistors, au fonctionnement aussi stupides que des interrupteurs ? »

    Pour comprendre la logique de ces réseaux, il revient sur l’article « fondateur en ce domaine » du psychologue Frank Rosenblatt. Surprise, ce chercheur cite comme source d’inspiration Friedrich Hayek qui obtiendra en 1974 le prix de la Banque de Suède, mal-nommé « pris Nobel d’économie ».

    Le livre est composé de six textes. La lectrice et le lecteur n’ont pas besoin de connaissances approfondis dans les domaines abordés. L’auteur use d’un langage courant, donne des explications très pédagogiques et illustre ces propos par des exemples.

    L’auteur souligne que l’intelligence est incarnée, que les capacités des ordinateurs sont abusivement appelés « intelligence artificielle », que le dressage est différent de l’apprentissage, « enrichit la palette de comportements disponibles et comporte des « conversations » », que nous sommes un corps (nous n’« avons » pas un corps). Il aborde la pensée abstraite, les représentations symboliques, ce qui donne sens à ce que nous vivons. Les réseaux de neurones ne sont quant-à eux pas incarnés et demeurent fondamentalement différents de l’intelligence humaine et leur pouvoir de nuisance « provient plutôt de leur scrupuleuse obéissance »…

    Au postulat de certains que les réseaux et le marché peuvent contrôler un monde complexe, l’auteur oppose la prise en compte du marché « comme outil de coordination économique utile »et le long terme d’objectifs « transcendant l’optimisation du profit immédiat ». Il nous rappelle que « le modernisme entraîne une concentration de pouvoir et de richesse qui engendre inégalités et corruption ». Il propose de « débrancher la machine moderniste », de prendre soin « des enchevêtrements locaux nécessaires à la création de vie et de valeur », de développer le mouvement des « communs comme alternative au marché et au plan pour apprivoiser le monde sans l’épuiser ».

    #Pablo_Jensen #Deep_earnings

  • Intelligence artificielle et grand capital, même combat, d’après Pablo Jensen
    https://www.lemonde.fr/sciences/article/2021/06/10/intelligence-artificielle-et-grand-capital-meme-combat-d-apres-pablo-jensen_

    Dans « Deep Earnings », le physicien français décèle un lien inattendu entre les réseaux de neurones connectés et le néolibéralisme. Et en vient à proposer une nouvelle organisation politique, exempte de leurs défauts.

    Par David Larousserie
    Publié aujourd’hui à 06h30

    Voici un livre court et stimulant, qui repose qui plus est sur une belle surprise. Le physicien Pablo Jensen tire un fil inattendu pour relier l’une des innovations techniques majeures de ces dernières années à l’une des théories économiques ayant le plus imprimé sa marque dans nos sociétés. A savoir les réseaux de neurones artificiels, ou apprentissage profond, et le néolibéralisme. En une centaine de pages, l’auteur, après avoir défini ces deux concepts, expose des analogies fécondes entre eux. Et les trouvant tous les deux limités, il esquisse des pistes tant scientifiques que politiques pour en corriger les défauts.

    A l’origine de ce rapprochement inattendu, il y a la sixième référence bibliographique d’un article paru en 1958 sous la plume de Frank Rosenblatt, décrivant le premier réseau de neurones artificiels, le Perceptron. La note pointe vers un livre de 1952 de psychologie théorique d’un futur Nobel d’économie, l’Autrichien Friedrich Hayek, considéré comme un des penseurs du néolibéralisme, qui met l’accent sur la concurrence et le marché.

    Quels rapports entre les deux ? En fait, Hayek cherchait à décrire l’émergence de nos sensations avec des lois physiques. Il voulait aussi comprendre comment un ordre peut émerger de tant de cerveaux différents. Et c’est assez proche de ce que réalise un algorithme d’intelligence artificielle, tel que le Perceptron ou ses successeurs : il se construit en ajustant ses millions de paramètres de manière à répondre parfaitement à une série de questions.

    Ordre spontané

    Cela rejoint la vision que développe Hayek des sociétés et de l’économie. Les neurones sont les agents d’un marché. L’architecture neuronale correspond à l’organisation de ce marché. Les « stimuli » sur les neurones sont les prix. Finalement, sans fixer de règles générales individuelles, il émerge dans les deux cas une réponse ou un prix qui correspond aux objectifs généraux fixés. Un ordre spontané a surgi sans que personne puisse vraiment l’anticiper et, surtout, ne puisse l’expliciter.

    Néanmoins, cela comporte quelques défauts. Par exemple, l’IA résout des questions complexes, mais n’aide pas toujours à comprendre pourquoi telle réponse est advenue, apportant finalement peu de connaissances sur le monde qu’elle décrit. Politiquement, le néolibéralisme apparaît « autoritaire » puisqu’il évacue la question centrale des objectifs généraux des marchés et soumet donc les individus à des lois qui leur échappent.

    En conclusion, Pablo Jensen, qui avait déjà décrit les difficultés à mathématiser les individus dans Pourquoi la société ne se laisse pas mettre en équations (Seuil, 2018), ose proposer une organisation politique n’ayant pas les défauts du néolibéralisme ou des IA. Un soupçon de « planification » pour disposer de règles. Une pincée de « marché » pour se sortir de situations complexes. Un brin de « communs » pour des organisations aux objectifs débattus collectivement. Et beaucoup d’intelligence pour imbriquer et relier ces trois « outils » ensemble. Facile.

    « Deep Earnings », de Pablo Jensen (C & F éditions, 98 pages, 15 euros).
    David Larousserie

    #Pablo_Jensen #Deep_earnings

  • L’intelligence artificielle est-elle néolibérale ?
    https://www.nouvelobs.com/idees/20210527.OBS44531/l-intelligence-artificielle-est-elle-neoliberale.html

    Par Xavier de La Porte

    Lorsque, au sortir de la Deuxième Guerre mondiale, on s’est mis à penser que les ordinateurs allaient changer le monde, beaucoup ont rêvé de reproduire artificiellement le fonctionnement du cerveau humain. Parmi eux, certains ont eu une idée : il suffisait de remplacer les neurones par des micro-transistors, de les assembler en une architecture adéquate, de créer des boucles de rétroaction qui fassent en sorte que le système évolue selon ses résultats, et le tour était joué. Le « réseau de neurones » était né.

    #Pablo_Jensen #Deep_earnings

  • Friedrich Hayek, les neurones et le libéralisme autoritaire | Mediapart
    https://www.mediapart.fr/journal/culture-idees/070521/friedrich-hayek-les-neurones-et-le-liberalisme-autoritaire?onglet=full

    En s’intéressant au « perceptron » et à la vision du cerveau développée par l’économiste Friedrich Hayek, le physicien Pablo Jensen met en lumière un pan du néolibéralisme autoritaire, guidé par un parallèle avec les « réseaux de neurones ».

    Même si « depuis quelques années, les réseaux de neurones et les applications de deep learning qu’ils rendent possibles sont devenus nos béquilles, nos ombres, nos espions », le propos de Pablo Jensen n’est pas ici de démystifier, une nouvelle fois, les promesses parfois fantaisistes de l’intelligence artificielle (IA).

    Il s’agit de saisir pourquoi Rosenblatt cite comme source majeure d’inspiration un économiste pas encore nobélisé, Friedrich Hayek, l’un des principaux théoriciens du néolibéralisme. Et si, en retour, les réseaux de neurones ont servi de fondement théorique et pratique à la vision de la société et de l’économie du prix Nobel d’économie 1974. Cet objectif explique le jeu de mots qui donne le titre de l’ouvrage de Pablo Jensen, Deep earnings, sous-titré Le néolibéralisme au cœur des réseaux de neurones, que viennent de publier les éditions C&F.

    Alors qu’on ne compte plus les annonces mirobolantes sur la puissance de prédiction des algorithmes, les études publiques permettant d’évaluer l’efficacité de ces approches demeurent encore très décevantes. En effet, les réseaux de neurones restent « tributaires d’un monde relativement cadré », fonctionnant dans des « univers comme les usines, ou les collections d’images » mais pas des situations plus complexes.

    Pour Pablo Jensen, « la clé de ces échecs réside dans l’imprévisibilité du social, due à la variabilité des effets induits par chaque cause, selon le contexte spécifique dans lequel elles agissent ». On force en effet les « algorithmes à trouver une relation mathématique qui n’existe pas ».

    L’intelligence humaine est « incarnée », au sens propre, et juge, à partir des émotions et sensations qui l’affectent, du choix des moyens pour atteindre l’objectif sans que cet objectif soit imposé de l’extérieur.

    Si l’IA voulait copier l’intelligence humaine, il lui faudrait donc « un corps similaire au nôtre » et se situant dans le monde sans « représentation symbolique intermédiaire ». De ce fait, écrit Pablo Jensen, « les robots de Boston Dynamics ont beau mimer parfaitement notre manière de danser le twist, ils ne peuvent comprendre ce que la danse représente pour nous ».

    Pour Hayek, notre cerveau construit une « carte du monde » spécifique qui se forme par « renforcement des connexions entre les fibres neuronales qui s’activent en même temps ». Cette carte n’est pas identique pour tous les individus, même si la réalité à laquelle ils sont confrontés est similaire, car les stimuli physiques sont filtrés et modifiés par notre cerveau.

    Pour le chercheur d’origine autrichienne, « cette dispersion rend impossible la planification, qui a besoin de centraliser des connaissances explicites. Mais elle va également rendre impossibles les calculs des économistes néoclassiques, alors dominants. Au cœur de l’économie de Hayek, on ne trouve plus la rationalité, la connaissance parfaite, mais l’ignorance des agents économiques et leur besoin vital d’accéder à l’information ».

    Le marché est alors là pour « dompter la société complexe », écrit Jensen. Car, pour coordonner des « êtres si fondamentalement différents », il faut des règles, qui sont pour Hayek celles engendrées spontanément par le fonctionnement du marché et des prix.

    Mais l’idée de Hayek que les sociétés capitalistes seraient l’aboutissement d’un processus de sélection « naturelle » permet de donner un vernis de légitimité aux règles existantes et d’édifier des ordres sociaux efficaces mais « trop complexes pour notre entendement », dixit l’économiste. Il s’agit ainsi de bâtir une « utopie libérale » pour contrer l’utopie socialiste alors en plein essor.

    Dans ce cadre, selon Hayek, le lien entre libéralisme et réseaux de neurones est profond, explique Jensen, « car les deux s’appuient sur un ordre spontané pour dompter un ordre irrémédiablement complexe », même si cette spontanéité est en réalité orientée, encadrée et instrumentalisée.

    Hayek écrit en effet : « Dans les deux cas, nous avons affaire à un phénomène complexe dans lequel il faut utiliser de la connaissance extrêmement distribuée. Le point essentiel est que chaque membre (neurone, acheteur, vendeur) est induit à faire ce qui globalement est bénéfique pour le système. Chaque membre peut être utilisé pour servir des besoins qu’il ignore totalement. »

    Ce parallèle entre individu et neurone, juge Jensen, « conduit à une politique autoritaire, dans laquelle les humains sont mis au service d’un projet sur lequel ils n’ont pas prise ». On est alors loin, dans ce libéralisme autoritaire, écrit le chercheur, « du libéralisme originel, qui faisait de l’individu la fondation intouchable de l’action publique ». L’individu hayékien, selon ses propres termes, devient un « homme maniable et éminemment gouvernable », que ce soit « par les signaux des marchés ou autres nudges », poursuit Jensen.

    Dans son ouvrage manifeste, La Route de la servitude (PUF), Friedrich Hayek précise son propos : « C’est la soumission de l’homme aux forces impersonnelles du marché qui, dans le passé, a rendu possible le développement d’une civilisation qui sans cela n’aurait pas pu se développer ; c’est par cette soumission quotidienne que nous contribuons à construire quelque chose qui est plus grand que ce que nous pouvons comprendre. »

    En ce sens, Pablo Jensen estime, après d’autres, que les prises de position antidémocratiques de Hayek et son approbation des régimes mis en place par Pinochet au Chili ou Videla en Argentine « ne sont pas des simples dérapages » mais la conséquence logique de sa vision de l’encadrement psychologique nécessaire pour coordonner le fonctionnement de l’économie et de la société.

    #Pablo_Jensen #Deep_earnings #Friedrich_Hayek #Méolibéralisme #Connexionnisme