Recriweb

« … en deçà d’un monde qui ne sait plus nourrir que son propre cancer, retrouver les chances inconnues de la fureur » (André Breton)

  • Intelligence artificielle  : remplacer l’intelligence humaine ou la libérer  ? | Lutte de classe, le mensuel de LO
    https://mensuel.lutte-ouvriere.org/2023/05/14/intelligence-artificielle-remplacer-lintelligence-humaine-ou

    En novembre dernier, la société OpenAI a lancé ChatGPT, un programme capable d’écrire un texte sur n’importe quel sujet en imitant un être humain. Ce programme a réussi à passer l’examen final de plusieurs grandes écoles, et des livres écrits par ChatGPT sont déjà en vente. Fin mars, une brochette de scientifiques et d’ingénieurs des nouvelles technologies, dont Steve Wozniak, cofondateur d’Apple, ou Elon Musk, le patron de Tesla et SpaceX, s’alarmaient des menaces que les développements de ce qu’on appelle l’intelligence artificielle représenteraient pour l’humanité et exigeaient un moratoire. Que cachent ces cris d’alarme des capitalistes de la tech  ? Quelles perspectives cette nouvelle technologie ouvre-t-elle pour l’humanité  ?

    – Des machines ultra-perfectionnées, mais pas intelligentes
    – L’intelligence humaine, fruit de l’évolution biologique et sociale
    – Inquiétude, pessimisme et rivalités entre capitalistes
    – Un «  encadrement  » toujours au service des capitalistes
    – Maîtriser consciemment notre organisation sociale  : un combat qui reste à mener

    • Des machines ultra-perfectionnées, mais pas intelligentes

      […] Le cœur de #ChatGPT est un modèle mathématique de ce qu’est un texte ayant du sens. En s’appuyant sur des bases de données qui en contiennent des millions, il apprend à calculer la probabilité qu’un début de phrase soit suivi par tel ou tel mot. Par exemple, «  la nuit, le ciel est …  » sera plus probablement suivi par «  noir  » que par «  rouge  », parce que les mots «  ciel  » et «  nuit  » apparaissent plus souvent associés à la couleur noire. En sélectionnant des mots les uns après les autres suivant ces probabilités, il peut ainsi générer un texte entier. Plus il y a de phrases dans la base de données, plus le modèle est fin, et plus les textes générés sont réalistes.

      Cet apprentissage par la répétition est bien un des mécanismes de notre cerveau, mais il relève du dressage, pas de la compréhension. À chaque fois qu’il lit une nouvelle phrase, ChatGPT augmente la probabilité des mots correspondants, mais il ne l’a pas comprise pour autant. Même si les textes produits sont originaux, dans le sens où il ne s’agit pas de simples copier-coller de textes déjà écrits, leur contenu est implicitement programmé par la base de données sur laquelle le programme est entraîné  : c’est une machine à imiter ce qui a déjà été écrit. À la différence des machines mécaniques qui automatisent des gestes, les algorithmes d’apprentissage automatisent des processus psychiques qui se déroulent dans notre cerveau, mais ça ne les rend pas intelligents pour autant.

    • L’intelligence humaine, fruit de l’évolution biologique et sociale

      Le fonctionnement de l’intelligence humaine est plus riche que ces mécanismes de dressage. Contrairement aux algorithmes d’apprentissage automatique, elle ne se contente pas de reproduire ce qui a été fait dans le passé. La maîtrise du feu, l’agriculture, l’écriture, plus récemment la découverte de l’électricité ou des antibiotiques  : la plupart des découvertes révolutionnaires dans l’histoire de l’humanité ont été le produit de tâtonnements, de hasards, où la nécessité de s’adapter pour survivre et la curiosité gratuite jouaient une part au moins aussi importante que la recherche systématique. Les ordinateurs sont incapables de cette démarche, car la curiosité, l’instinct de survie, tout comme la foule de sentiments et d’émotions qui interviennent en permanence dans nos réflexions, ne se résument pas en quelques équations.

      Contrairement aux ordinateurs, notre intelligence n’a pas été créée  : elle est le fruit d’une évolution biologique puis sociale qui s’étend sur des millions d’années. C’est ce qui lui donne cette capacité à explorer des directions inconnues, sans objectif fixé d’avance. Notre système nerveux et notre cerveau sont malléables, les connexions entre neurones s’y font et s’y défont tout au long de la vie. Quand un geste est répété de nombreuses fois, la zone du cerveau dédiée à ce mouvement est stimulée et elle se renforce, ce qui permet de gagner en précision, en vitesse, etc. Cette plasticité cérébrale, par laquelle notre cerveau est lié à notre corps entier, a été favorisée par la sélection naturelle, car elle permet à notre organisme d’apprendre, pour s’adapter à des environnements et à des situations extrêmement différents.

      Elle est d’autant plus importante qu’une particularité essentielle de l’humanité est qu’elle ne se contente pas de s’adapter passivement à la pression de l’environnement  : elle le transforme, pour l’adapter à ses besoins. Le travail a joué un rôle déterminant dans l’apparition de la pensée, car il implique de se projeter dans le futur, de planifier ses actions en en anticipant les conséquences  : pour faire une lance qui lui permette de tuer un renne, le chasseur préhistorique devait d’abord trouver des silex adaptés, les tailler, les ajuster sur un manche, avant de vérifier si la lance obtenue lui permettrait finalement de chasser. Et cette démarche n’est pas le fruit d’un cerveau isolé, elle est sociale. Pour organiser le travail collectif, l’humanité a fait naître des langages, des concepts, qui ont largement contribué au développement d’une pensée abstraite  : l’astronomie est d’abord apparue pour permettre aux paysans égyptiens d’anticiper les crues du Nil et aux marins de se repérer en haute mer, avant que des physiciens ne cherchent à en déduire les lois de la gravitation et les mécanismes de formation du système solaire. Un corps vivant, avec ses besoins, une vie sociale, ce sont autant de choses qui manquent aux ordinateurs pour penser comme des humains.

      À mesure qu’elle domestiquait les forces de la nature, l’humanité a créé des outils de plus en plus perfectionnés. Grâce à l’irrigation et à la charrue, elle a fait surgir des champs là où il n’y avait que des déserts. En maîtrisant la puissance de la vapeur, puis du moteur à explosion, elle a construit des machines qui se meuvent par elles-mêmes. Grâce à l’électronique, il est possible de programmer une machine pour qu’elle fonctionne en autonomie pendant des années, et les algorithmes les plus récents lui permettent aujourd’hui d’améliorer automatiquement ses performances au fil du temps. Mais, quel que soit leur degré de complexité, qu’il s’agisse d’un silex taillé, d’une charrue ou d’un satellite, aucun de ces instruments ne fait ce qu’il veut, mais ce pour quoi il a été construit. Contrairement au plus puissant des ordinateurs, l’humanité se fixe ses propres buts, même quand elle n’est pas complètement consciente des moyens pour y parvenir, ou des conséquences de ses actions. C’est là que commence la véritable intelligence.