marielle 🐢

Galilée contre GPT-3 ? | Hubert Krivine 1 mars 2023
▻https://www.contretemps.eu/galilee-gpt-3-intelligence-artificielle-krivine

https://www.contretemps.eu/wp-content/uploads/FloVIumWQAAO0bZ.jpeg

Dans cet article, le physicien Hubert Krivine – auteur de nombreux ouvrages, dont L’#IA peut-elle penser ? – analyse la manière dont fonctionne #GPT-3 (Generative Pre-trained Transformer 3) et, à partir de réflexions sur les sciences modernes qu’il poursuit depuis plusieurs livres, revient sur les limites de l’intelligence artificielle.

...Ce très bref rappel des limitations de l’IA fait, venons-en à son utilisation avec GPT-3. GTP-3 est un traitement automatique de langue (TAL). Même s’il donne l’impression de répondre à des questions, il n’est pas du tout fait pour ça. Sur une base gigantesque de données, il cherche dès qu’un mot (ou une phrase) est proposée, l’occurrence la plus vraisemblable du mot suivant, puis il itère. Un peu comme votre téléphone portable le fait, mais ici sur une base de données des milliards de fois plus grande. Il a beaucoup de problèmes, mais la recherche du vrai est le cadet de ses soucis. Un exemple que je connais assez bien : qui est l’auteur de ce papier ? La réponse a été :

Hubert Krivine est un médecin, ancien militant politique et écrivain français. Il est surtout connu pour son engagement politique dans les années 60 et 70 en France, comme membre de l’Organisation communiste internationaliste (OCI) et de Lutte Ouvrière. Il a été également membre du Parti de Gauche pendant quelques années. Il est aussi connu pour son engagement en faveur de la cause palestinienne et pour ses positions controversées en matière de politique étrangère. Il a écrit plusieurs livres sur les sujets politiques et historiques. Il est aujourd’hui retraité de la politique active mais continue de s’exprimer sur des sujets qui lui tiennent à cœur.

Pour quelqu’un ignorant tout de l’affaire, la réponse, écrite en bon français, est bluffante de véracité. Mais elle est simplement fantaisiste, elle met bout à bout des mots qui peuvent « aller ensemble » qui ont été pêchés par proximité dans des textes différents. C’est une source inépuisable et automatique de fake news. Sur la même requête faite un peu plus tard (les réponses ne sont jamais les mêmes)j’apprends que je suis mort en 2020. Ce que j’ignorais…

Wikipédia fonctionne, pourrait-on dire, à rebours de cette logique. Il est le fruit de connaissances (et pas de mots) collectées, en principe vérifiées et surtout il fournit ses sources. C’était un pari audacieux dans les années 2000 que de faire fonctionner une encyclopédie sans rédacteur attitré, mais reposant sur une collaboration autodisciplinée de ses lecteurs. Pari gagné : en nombre d’erreurs il le dispute aux grandes encyclopédies, comme l’Encyclopédia Britannica ou Universalis. Et surtout il se réactualise en permanence, ce que ne peut pas faire GPT-3. On nous promet une nouvelle version GPT-4, avec correction humaine des plus gros biais. Reviendriait-on alors à une logique Wikipédia ?… On verra.

Mais quel rapport avec ce vieux Galilée cité en prologue de ce papier ? C’est qu’au lieu de chercher la vérité « dans le monde et la nature », GPT-3 ne peut que se limiter à la chercher dans « les textes » déjà produits et même pire, dans les assemblages de mots fabriqués sur leur probabilité d’occurrence piquée un peu partout. La démarche scientifique interroge certainement la littérature. Pas pour y trouver une réponse, mais pour aller au-delà. Pour questionner intelligemment la nature, en s’aidant des connaissances acquises...