Pour Geoffrey Hinton, le père fondateur de l’#IA, les progrès actuels sont « effrayants »
Mercredi, pour sa première apparition publique depuis la parution de l’article, #Geoffrey_Hinton s’est expliqué longuement sur les raisons de son départ [de #Google]. Interrogé en visioconférence lors de la conférence EmTech Digital, organisée à Boston par la « MIT Technology Review », le chercheur a indiqué avoir « très récemment changé d’avis » sur la capacité des modèles informatiques à apprendre mieux que le cerveau humain. « Plusieurs éléments m’ont amené à cette conclusion, l’un d’entre eux étant la performance de systèmes tels que #GPT-4. »
Avec seulement 1.000 milliards de connexions, ces systèmes ont, selon lui, « une sorte de sens commun sur tout, et en savent probablement mille fois plus qu’une personne, dont le cerveau a plus de 100.000 milliards de connexions. Cela veut dire que leur algorithme d’apprentissage pourrait être bien meilleur que le nôtre, et c’est effrayant ! »
D’autant que, comme ces nouvelles formes d’intelligence sont numériques, elles peuvent partager instantanément ce qu’elles ont appris, ce dont les humains sont bien incapables… Reconnaissant qu’il avait longtemps refusé de croire aux dangers existentiels posés par l’#intelligence_artificielle, et en particulier à celui d’une « prise de contrôle » de l’humanité par des machines devenues superintelligentes, Geoffrey Hinton n’hésite plus à évoquer ce scénario catastrophe. « Ces choses auront tout appris de nous, lu tous les livres de Machiavel, et si elles sont plus intelligentes que nous, elles n’auront pas de mal à nous manipuler. » Avant d’ajouter, avec un humour pince-sans-rire : « Et si on sait manipuler les gens, on peut envahir un bâtiment à Washington sans être sur place. »
Face à un tel risque, le chercheur avoue « ne pas avoir de solution simple à proposer. Mais je pense qu’il faut y réfléchir sérieusement. »
(Les Échos)