L’#IA va-t-elle nous rendre crétins ?
Les effets du recours à l’#intelligence_artificielle sur les individus suscitent l’inquiétude d’un grand nombre de scientifiques. Ils expriment la crainte qu’elle affaiblisse la capacité de chacun à #penser par soi-même.
En nous connectant à des contenus de piètre qualité ou en les générant à notre place, l’IA affaiblit notre #esprit_critique.
Baisse des résultats des tests Pisa, évaluations alarmantes des #capacités_cognitives et effondrement de la #lecture. Ces jours-ci encore, ce constat du déclin de l’#intelligence des jeunes et des adultes alarme le Financial Times. L’état de tutelle des consciences par les écrans où président des IA n’est pas étranger à l’épidémie de #solitude grandissante, affectant aussi nos facultés émotionnelles et sociales. Quel est le rôle de l’IA dans tout cela ?
L’#IA_prédictive, d’abord, optimise sans cesse nos interfaces numériques afin de nous rendre #accros. L’#économie_de_l’attention repose sur cette absorption du #temps conscient pour extraire des données et influencer les #comportements. L’ingénieur Andrej Karpathy, acteur de la Vallée du silicium, le dit sans détour : « Tiktok, c’est du crack digital qui a attaqué mon cerveau ! » L’#addiction est un fait générationnel. La moitié des adolescents aux États-Unis sont presque constamment connectés. Connectés à quoi ? La « #pourriture_cérébrale » ! Soit des contenus de piètre qualité qui détériorent les #capacités_mentales.
D’ailleurs, l’expression a été élue mot de l’année par le dictionnaire d’Oxford. Gageons qu’elle rejoigne celle de « #crétin_digital » forgée par Michel Desmurget pour caractériser la surexposition aux écrans. L’IA générative, ensuite, crée du contenu sans #effort. Dans les années 1980, le philosophe Ellul écrivait que si « vous mettez un appareil entre les mains d’un imbécile, il ne deviendra pas intelligent pour cela ». L’actualité continue de lui donner raison. Même les consultants de McKinsey sont trompés par des résultats erronés de ChatGPT. Plus ils y recourent et moins ils sont moins performants et créatifs. Allant dans le même sens, une étude de Microsoft et de l’université Carnegie démontre que l’usage des IA génératives au travail diminue l’esprit critique.
L’IA interactive, enfin, crée une relation avec l’utilisateur. L’université de Cambridge alerte sur l’essor de ces compagnons IA ouvrant la voie à la capture et la #manipulation de nos intentions. Ce n’est plus seulement l’#attention, mais l’#intention qui est l’objet de la machinerie algorithmique. Même les choix les plus ordinaires (quel film regarder ? quel cadeau offrir ?) sont délégués et toute faculté que l’on n’exerce plus finit par s’atrophier. Ces études ne sont pas anecdotiques, puisque le MIT a recensé pas moins de 777 #risques documentés scientifiquement de l’IA répartis en 23 catégories, dont la #dépendance_affective et la #perte_d’autonomie.
Le « #capitalisme_numérique colonise tous les lieux que nous dés-habitons », écrit la philosophe Rouvroy. Il en est de même de nos esprits. Le temps d’écran est la continuation du temps de travail. La destruction de nos intelligences est le corollaire de la production au sein de ce #capitalisme. Pour nous maintenir dans un défilement morbide de pourriture cérébrale devant un écran, il faut d’abord nous transformer. La fainéantise d’Oblomov a remplacé le puissant Stakhanov.
Alerte ! Après la télévision, les jeux vidéo, le rap, les réseaux sociaux numériques, voici la nouvelle innovation qui menace l’intelligence de l’humanité tout entière : l’IA. Les prophéties alarmistes réitérées à chaque nouveauté technologique, fleurissent sur la #crétinisation annoncée des masses, et encore plus sur celle d’une jeunesse déjà régulièrement qualifiée de crétine (digitale).
Selon plusieurs études récentes, l’IA séduirait la population, fascinée par les #performances de l’outil. Beaucoup de bruit pour une banale évidence : l’absence ou la fragile #éducation – ici, au numérique – nuit gravement à l’exercice d’un esprit critique. Immense boîte noire, nourrie par d’innombrables corpus de textes et d’images, bien souvent sans le consentement de leurs auteurs, l’usage de l’IA générative nous pousse à interroger notre rapport aux #sources, à l’#information, à la #propriété_intellectuelle. Elle nous rappelle combien l’éducation est la clé d’un regard distancié et critique, d’un pouvoir d’agir informé sur le monde. Mais l’IA ne porte aucune responsabilité. Aucune.
Ont une #responsabilité les professionnels de l’information qui jouent aux apprentis sorciers, se pâmant devant une IA « trop forte », s’émerveillant de ses #performances comme s’ils assistaient à une démonstration de magie. Ont une responsabilité ceux qui s’évertuent à pointer les « erreurs » commises par une IA, surpris qu’un programme conçu pour générer du contenu à partir de #modèles_statistiques « se trompe », et lui reprochant de nous attirer dans les limbes des approximations, méprises et autres faussetés. Dans les deux cas est alimenté le fantasme d’une IA autonome, quasi divine, que nous utilisons, impuissants.
Prenons le temps. Ne nous jetons pas à corps et esprits perdus dans les multiples potentialités et/ou affres de l’IA. Le procès en crétinisme évite le vrai procès, citoyen celui-ci : de quelle IA voulons-nous ? De celle qui récupère des données que nous cédons sur le Web à des industries sans éthique ? De celle qui, à l’empreinte écologique colossale, condamne un peu plus (vite) l’avenir de notre planète ? De celle à laquelle nous déléguons jusqu’à notre créativité singulière au profit de l’hégémonie d’un savoir standardisé, aseptisé et parfois, pour ne pas dire bien souvent, biaisé ? De celle que l’on utilise pour contribuer à cette accélération dénoncée par Hartmut Rosa qui nous asservit chaque jour davantage aux dogmes les plus avilissants qui soient ?
Prenons le temps. Celui de mesurer des choix, vertigineux mais aussi passionnants, qui nous reviennent. Celui de prendre nos responsabilités, individuelles et collectives, en décidant de la place que nous souhaitons accorder à une #innovation qui n’est en aucun cas toute-puissante. Celui de faire société, en exerçant notre capacité à « penser d’après nous-mêmes » selon l’intemporelle pensée de Condorcet. L’IA n’a ni cerveau ni valeurs. Nous si. À nous de jouer. Sérieusement.
►https://www.humanite.fr/en-debat/citoyennete/lia-va-t-elle-nous-rendre-cretins
via @freakonometrics
