#ia_générative

La gauche doit-elle céder au chant de l’IA générative ? Non !
▻https://danslesalgorithmes.net/stream/la-gauche-doit-elle-ceder-au-chant-de-lia-generative-non

« Depuis que le camp de l’émancipation a renoncé à combattre l’aliénation et a adopté les « innovations » du capital en les saluant comme des progrès, il ne cesse de multiplier les défaites. Parce que, précisément, ces innovations garantissent une passivité face à la réalité capitaliste qui sape les bases de toute tentative sérieuse […]

La gauche doit-elle céder aux chants des sirènes de l’intelligence artificielle ?
►https://blogs.mediapart.fr/romaric-godin/blog/030826/la-gauche-doit-elle-ceder-aux-chants-des-sirenes-de-l-intelligence-a

(...)

« Serviteurs zélés du vide, le vide les paie en monnaie à son effigie », écrivait Debord. Et c’est bien ce qui attend nos techno-solutionnistes de gauche. L’IAG les engloutira, eux et leurs beaux projets, comme elle nous engloutira tous, parce qu’il est ce Moloch créé par les capitalistes pour rendre la vie humaine, le dernier obstacle à la domination de l’abstraction réelle du capital, superflue.

Le refus actif de l’IAG, de sa « hype », de ses « gains de temps », de ses « solutions », peut être le fondement d’un mouvement social capable de contester l’ordre capitaliste et la destruction qui l’accompagne. Il reste certes à construire, mais il est néanmoins la seule voie cohérente pour résister au désastre qui vient.

Des centaines de journalistes poussés vers la porte, souvent au prétexte de l’IA
▻https://next.ink/244754/des-centaines-de-journalistes-pousses-vers-la-porte-souvent-au-pretexte-de-lia

Le Quotidien du médecin, qui se présente comme le « leader incontesté de la presse médicale française », fait partie du Groupe Profession Santé, qui édite également Le Quotidien du pharmacien et le site web Infirmiers.com. Le groupe revendique le titre de « 1er groupe médias et services pour les professionnels de santé »,une communauté qualifiée de plus de 400 000 professionnels de santé, 460 000 lecteurs inscrits et près de 500 000 followers, et plus d’un million de visites mensuelles sur ses plateformes.

Deux tiers des 36 journalistes qui y écrivaient encore en début d’année ont cela dit préféré quitter l’entreprise, révèle Politis, en réaction aux conditions de travail décidées par leur nouveau propriétaire, qui veut leur imposer de recourir à l’#IA_générative.

Le principe d’#irresponsabilité des outils d’#IA_générative se fissure : la #justice allemande rend une décision salutaire contre #Google et pour l’#information_fiable

Le #tribunal régional de Munich a jugé que Google était responsable des propos tenus par son intelligence artificielle (IA) dans les résultats de recherche, après que celle-ci a publié des propos faux au sujet de deux éditeurs munichois. Reporters sans frontières (RSF) salue cette décision inédite au monde, de laquelle Google a fait appel. C’est un signal fort : la cour de justice rappelle à la plateforme sa #responsabilité dans la construction du nouveau monde informationnel.

Le #principe_d'irresponsabilité des outils d’IA générative commence à se fissurer. Le tribunal de Munich a rendu une décision forte : oui, Google peut être tenu responsable des résumés produits par #AI_Overviews, la fonctionnalité de résumé par IA des résultats de son #moteur_de_recherche. Une première mondiale.

L’IA de Google avait associé les plaignants, deux éditeurs munichois de livres et de magazines, anonymisés dans la décision finale, à des pratiques commerciales douteuses et à des pratiques commerciales interdites, comme le recours à des #pièges à abonnement, c’est-à-dire l’incitation à recourir à des abonnements payants à l’insu de ses clients. Or, selon la cour, les liens affichés par Google ne permettaient pas d’étayer les propos formulés par l’AI Overview.

“Ce que dit la cour est limpide : quand un système d’IA présente comme des faits établis des accusations qu’il ne peut pas prouver, ce n’est pas un simple ‘bug’. C’est un contenu produit et diffusé par Google, sous sa responsabilité. C’est exactement le principe que nous défendons depuis plusieurs années à RSF : les concepteurs d’IA doivent être tenus responsables des torts causés par leurs systèmes à l’intégrité de l’information et s’assurer au mieux de leur fiabilité avant de les déployer." (Vincent Berthier, Responsable du bureau technologies et journalisme de RSF)

La #liberté_d'expression ne protège pas de tout

Fait notable, le tribunal a pris le temps d’étudier la liberté d’expression dont Google pouvait en principe se prévaloir en pareilles circonstances. Sa conclusion est que la liberté d’expression a un poids limité dans ce dossier : l’énoncé litigieux est principalement le résultat d’un #algorithme et d’une #activité_commerciale, non l’expression d’une conviction humaine. Puisque les propos ont été générés de manière autonome par une IA intégrée au service de Google, ils sont plus qu’une simple recherche de termes affichée sous la forme d’une série de liens. Ils forment une réponse propre.

Le tribunal a également rejeté l’idée que les internautes seraient en mesure de vérifier eux-mêmes l’exactitude des résumés en consultant les sources citées : ces résumés générés par IA se présentent comme des #affirmations, ce qui rapproche leur statut de celui d’un titre lu par une lecteur pressé, par exemple, dont un média est responsable même si le public ne prend pas la peine de vérifier ces affirmations en cliquant sur un lien.

Construire le cadre de responsabilité

Google a annoncé faire appel et la décision pourrait être revue. D’autre part, son champ d’application reste limité au cas particulier qu’elle traite. Elle porte néanmoins en ses germes un besoin pressant : celui d’édicter clairement qui parle quand une IA génère du texte, particulièrement dans un contexte d’information, et donc qui est responsable de ses dysfonctionnements, ainsi que les mesures qu’il convient de prendre pour en atténuer les risques.

En Europe, si le le règlement sur les services numériques, le DSA, impose aux très grandes plateformes d’évaluer leurs risques systémiques et si le règlement sur l’intelligence artificielle, l’AI Act, prévoit des obligations de transparence pour les contenus générés par IA, ce qui est le cas pour AI Overview, l’état actuel du droit européen est insuffisant. Aucun de ces textes n’établit de cadre de responsabilité adapté au cas spécifique des résumés informationnels produits par les systèmes d’IA générative dans les moteurs de recherche.

▻https://rsf.org/fr/le-principe-dirresponsabilit%C3%A9-des-outils-dia-g%C3%A9n%C3%A9rative-se-fissu
#IA #AI #intelligence_artificielle #Allemagne

Pour un #label « sans #ia_générative », « Splann ! » signe le #plaidoyer de l’Atelier d’écologie politique de Toulouse
▻https://splann.org/appel-journalisme-sans-ia-generative

La #rédaction de « Splann ! » s’interdit de publier des textes, des images et des sons élaborés par l’intelligence artificielle générative. Huit mois après avoir inscrit dans cet engagement dans notre charte morale et déontologique, nous signons l’appel de l’Atelier politique pour l’émergence d’un label « Sans IA générative » dans l’enseignement, la culture, le #journalisme et les entreprises. L’article Pour un label « sans IA générative », « Splann ! » signe le plaidoyer de l’Atelier d’écologie politique de Toulouse est apparu en premier sur Splann ! | Premier média d’enquête indépendant en Bretagne.

#La_vie_de_« Splann !_ » #atécopol #atelier_d'écologie_politique_de_toulouse #chercheurs #déontologie #éducation #enseignement #éthique #fraude #gafam #intelligence_artificielle #LLM #manipulation #numérique #presse #propagande #recherche #scientifiques #tribune #tromperie

PLAYED BY HUMANS — JAZZ IS DEAD
▻https://www.jazzisdead.com/playedbyhumans

Une certification pour dire qu’une musique n’est pas faite par IA, avec un testeur en ligne aussi. Par Jazz is dead et Linear Labs les deux labels de Adrian Younge.

The Stamp of Human Authenticity

The Played By Humans stamp is proof that a song is not 100 percent AI-Generated.

Musicians can use our tool to show the world that their music is human-made and receive the authentication label through a secure, blockchain-based process.

Music lovers can use the tool too. By uploading music they find, anyone can discover whether or not what they’re listening to is truly played by humans.

#musique #label #jazz_is_dead #linear_labs #Adrian_Younge #IA #IA_générative

Zen of AI Coding - Nonstructured
▻https://nonstructured.com/zen-of-ai-coding

- Software development is dead
– Code is cheap
– Refactoring easy
– So is repaying technical debt
– All bugs are shallow
– Create tight feedback loops
– Any stack is your stack
– Agents are not just for coding
– The context bottleneck is in your head
– Build for a changing world
– When considering Buy vs. Build, the answer, more often, is build
– Fast rubbish is still rubbish
– Software is a liability, a product is an asset
– Moats are more expensive
– Build for agents
– Anticipate modes of failure

Alors, tu vois, maintenant, tu arrêtes tout, et tu laisses faire les machines.

Apprenez à vérifier du contenu généré par IA

Apprenez les bases de l’intelligence artificielle, les bonnes pratiques pour les journalistes, les principales formes de désinformation et à détecter et vérifier les contenus générés par IA.

– Les bases de l’IA et son impact sur l’écosystème de l’information
– Les bonnes pratiques pour les journalistes qui utilisent l’IA
– Les principaux types de désinformation créée par IA

Un cours d’1h15 par l’AFP, je ne sais pas ce que ça vaut, mais je serais curieux de savoir.

▻https://fr.digitalcourses.afp.com/courses/verifier-contenu-IA

https://embed-ssl.wistia.com/deliveries/4ff847b8ec712f71a57fb30e20e9038a53ad91e0.jpg

#IA #AI #ia_générative #iagen #intelligence_artificielle #afp #désinformation

Un mot du label « No format » sur l’IA, en email (pas trouvé en page web, ils l’ont publié en texte image sur Instagram… on marche vraiment sur la tête avec ces plateformes).

Nous ne serons pas les idiots utiles de l’IA générative

Le développement actuel de l’IA répond au principe du « Winner takes all. »

Il n’y aura qu’un seul vainqueur au final, et il disposera d’un pouvoir économique et politique sans précédent dans l’histoire de l’humanité.

Une poignée de méga-compagnies se livrent donc à une compétition effrénée, et investissent des centaines de milliards dans cette course folle. Et les Etats, par peur légitime de devenir dépendants technologiquement d’un état ennemi dans le futur, poussent chacun leur champion national.2

Dans ce contexte frénétique, la régulation pèse très peu. Les lobbys pro IA travaillent à tous les niveaux pour éviter les freins.3 Sécurité, protection de la démocratie, droits humains, et droits d’auteur, qui devraient être des priorités, deviennent des variables secondaires dont l’impact doit absolument être minimisé pour ne pas freiner la croissance. Toute forme de régulation est perçue comme un réflexe rétrograde face au sacro-saint progrès technologique et au sursaut patriotique.

Dans cette logique nous constatons que l’irruption de l’IA générative dans la musique est totalement incontrôlée. Nous, label de musique qui accompagnons des artistes depuis 20 ans, assistons bouche bée à ce bouleversement. Tout ce que nous avions collectivement construit, notamment au nom de l’exception culturelle, est clairement menacé. Et pourtant aucune mesure n’est prise. Nous avons bien conscience qu’il sera difficile de contrer ce tsunami, tant la volonté de régulation est faible.

Non seulement on ne régule pas, mais on nous demande de nourrir la bête. Dans la foulée des majors, le syndicat des distributeurs indépendants MERLIN vient en effet de négocier avec UDIO un deal sur l’utilisation de catalogues indés pour entrainer leurs IA1

Certains producteurs indépendants s’apprêtent à accepter, par fatalisme, ou par appât du gain. Ou les deux. Pour nous une ligne rouge est franchie.

Pour nous rassurer, on nous promet la transparence, mais on n’a jamais obtenu aucune transparence sur les algorithmes des géants de la Tech et on sait très bien que les Américains font passer les intérêts du business avant tout.4 On nous promet aussi une rémunération équitable mais, même si c’était le cas, nous n’en voulons pas.

Nous ne collaborerons pas à ce cirque.

Nous refusons que ce que les artistes ont mis une vie entière à maîtriser soit fondu dans des milliards de data et « recraché » en musique artificielle par Udio, Suno, ou un autre.5 Nous refusons que la musique et plus largement, l’art, soit réduit à un flux vomi par des robots dans le seul et unique but d’engraisser une licorne.

Ce n’est pas le monde que nous voulons. Ni pour nos enfants, ni pour tous les enfants du monde, qui rêvent d’apprendre un jour à gratter quelques notes de guitare. Car, dès lors, comment transmettre l’apprentissage, l’effort, les techniques de composition, le goût de la pratique musicale, le lien social crée par celle-ci ?

Nous croyons au pouvoir des artistes sur notre imaginaire, sur notre façon d’être au monde, sur notre bien-être et notre santé mentale. Nous croyons à l’impact majeur de leur travail sur notre vie, et nous voulons continuer à en prendre soin.

Nous croyons que la création, -ainsi que la technique inhérente à celle-ci, est un miracle humain qu’il faut farouchement protéger et transmettre aux générations futures.

Nous refusons donc toute utilisation de notre catalogue pour entrainer des IA.

NOTES & SOURCES

1 Udio conclut un accord de licence de l’IA avec Merlin (communiqué de presse / Music Business Worldwide)

2 La course globale de l’IA (Le Monde)

3 Sur les lobbies pro-IA (Politico)

4 Sur la manque de transparence dans l’industrie de l’IA et les impacts destructrices (Mother Jones : ’The Race to Stop AI’s Threats to Democracy’)

5 Suno a conclu un accord avec WMG et Udio avec WMG + UMG (Billboard : ’Top AI Music Companies Leading the Future of the Industry in 2026’)

#musique #IA #AI #ia_générative #iagen #no_format

L’intelligence artificielle va « détruire complètement » le droit, alerte un avocat britannique - Numerama
▻https://www.numerama.com/tech/2147099-lintelligence-artificielle-va-detruire-completement-le-droit-alert

https://c0.lestechnophiles.com/www.numerama.com/wp-content/uploads/2025/12/avocat-x-ia.jpg?resize=1600,900&key=22a7f2b3&watermark

Car les honoraires astronomiques associés à la profession ne sont pas étrangers à ce déclin annoncé. Plus que les capacités de l’IA à rédiger ou à argumenter, c’est la remise en cause du modèle de tarification actuel qui inquiète James. À partir du moment où la qualité des textes produits par une IA dépasse un certain seuil, le coût humain devient difficile à justifier. Les années passées à devenir barrister pèseront peu face à des solutions facturées quelques centimes. Interrogé par le journaliste sur les hallucinations de l’IA ou sur l’importance d’un visage humain au tribunal, James balaie ces objections d’un revers de main : « Des bugs temporaires et des préférences sentimentales. L’argument économique écrase tout. »

[…]

« Pour eux, admettre qu’ils ne sont pas si spéciaux que ça, en réalité, et qu’ils peuvent être remplacés par un robot gratuit, ça va être une torture », lâche-t-il. James déplore à la fois cette surévaluation collective et une forme de déni.

Les avocats seraient, selon lui, très loin d’imaginer l’ampleur de la vague qui s’annonce. « Ils se rassurent avec l’idée que l’IA n’est qu’un outil de plus », affirme-t-il, estimant qu’à peine 1 % de la profession aurait une idée claire de ce qui est sur le point d’arriver. Quant à d’éventuelles tentatives d’interdiction de l’IA dans certains domaines du droit, James se montre catégorique : elles ne seraient que temporaires. « Ça ne fonctionnera pas. L’économie aura le dernier mot. »

#IA #droit #IA_générative

Un crash annoncé : Le boom boursier des actions IA, par Ernst Lohoff
▻https://www.palim-psao.fr/2025/12/un-crash-annonce-le-boom-boursier-des-actions-ia-par-ernst-lohoff.html

https://image.over-blog.com/x1SFQw2JZBQKzED4URn5D5Mor1I=/filters:no_upscale()/image%2F1488848%2F20251218%2Fob_162ae4_338680134-1583671935469586-19506050330.jpg

Les manuels d’économie chantent généralement les louanges de la concurrence. Le « monopole naturel » constitue une exception : si vous recherchez ce terme sur Google, l’IA vous donnera la réponse suivante : « Un monopole naturel apparaît lorsqu’il est plus rentable pour une seule entreprise d’approvisionner un marché que pour plusieurs fournisseurs. Cela s’explique généralement par des coûts fixes élevés et des économies d’échelle, qui rendent la concurrence inefficace. Les entreprises de services publics telles que l’approvisionnement en électricité ou en eau en sont des exemples, car la construction de réseaux supplémentaires serait peu rentable. »

[…]

Des pans importants du secteur de l’IA obéissent également à cette logique du « winner takes it all ».

[…]

Dès le début, les géants de l’informatique ont fondé leurs stratégies d’entreprise sur le principe que la révolution de l’IA allait engloutir presque tous ses enfants. Ils ont tous pour objectif d’être parmi les rares survivants de la grande bataille finale afin de pouvoir ensuite, en tant que maîtres de l’univers de l’IA, percevoir des tributs de la société mondiale qui éclipseront tout ce qui a existé jusqu’à présent. Cela signifie toutefois que tous les investisseurs qui n’ont pas misé sur le gagnant ont investi dans le néant. La forme que prendra la destruction du capital fictif reste ouverte. Mais il ne fait aucun doute qu’elle aura lieu.

#IA #IA_générative #capitalisme #bulle #Ernst_Lohoff et #des_milliards_comme_s_il_en_pleuvait pour @biggrizzly

En #Afrique, des « #petites_mains » du numérique toujours aussi précaires à l’heure du boom de l’#IA

Il y a quelques années, les « #travailleurs_du_clic » africains sortaient de l’ombre, révélant l’envers du décor des entreprises du numérique. Depuis, l’#IA_générative a explosé, rendant ces travailleurs d’autant plus indispensables et le secteur encore plus attractif. Mais la réalité de ce travail reste marquée par la #précarité.

Ce n’était pas la panacée, mais Joyce (les personnes désignées par un prénom ont souhaité rester anonymes) se souvient presque avec nostalgie de ses débuts sur #Remotasks, en 2018. « Il suffisait de créer un compte pour commencer à gagner de l’argent immédiatement, sans aucune restriction ni processus de vérification. » Depuis son ordinateur, elle enchaîne alors les #microtâches d’#annotation de #données : vérifier des images, organiser des informations destinées à entraîner des systèmes d’intelligence artificielle. De quoi s’assurer un #revenu d’appoint pour la jeune Kényane fraîchement diplômée.

Mais les choses se sont compliquées. En 2024, de nombreux travailleurs kényans, comme Joyce, ont vu leur accès à Remotasks soudainement coupé, explique-t-elle. La maison mère #Scale_AI évoque, elle, des fermetures de comptes pour non-respect de ses règles internes. Surtout, selon la jeune femme, le volume de travail n’a plus rien à voir. « Avant, nous pouvions gagner un revenu décent car le boulot était continu. Aujourd’hui, les tâches sont moins nombreuses, à court terme et peu durables », constate Joyce. Faute de missions, elle se forme à la transcription pour diversifier ses sources de revenus.

Ces deux dernières années, Oluwaseun, au Nigeria, a travaillé pour plusieurs acteurs du secteur, parmi lesquels #Appen et #Mindrift. Elle participe à l’#entraînement des modèles d’IA, du #contrôle_qualité des réponses générées par les #LLM à l’annotation de données texte, image ou audio. Si la jeune femme ne se plaint pas de sa situation, elle concède que « la #rémunération n’est jamais assez élevée pour dépendre d’une seule plateforme. En Afrique, il faut plusieurs jobs », d’autant que « la concurrence s’est clairement intensifiée sur ces plateformes ».

Doit-on y voir le signe d’un remplacement rapide de ces petites mains du numérique par des systèmes automatisés, alors qu’elles opèrent pour le compte d’entreprises comme #Meta, #OpenAI, #Microsoft ou #Google ? Le sociologue Antonio Casilli balaie immédiatement cette idée. Depuis bientôt dix ans, il dirige le groupe de recherche DIPLab (Digital Platform Labor), qui a enquêté sur les travailleurs du clic dans une trentaine de pays. Pour lui, l’idée d’un « remplacement » du travail humain par les machines est un « mensonge idéologique », utilisé pour faire accepter une dégradation des #conditions_de_travail.

D’après les données collectées par son équipe, le volume de microtâches ne diminue pas : au contraire, « plus le marché de l’intelligence artificielle générative grandit, plus on a besoin de réentraîner les #modèles », donc plus il faut de #travail_humain. Le boom de l’IA ne signe donc en rien la fin de ces travailleurs de l’ombre... pas plus qu’il ne signifie une amélioration de leurs conditions de travail.

« Une forme d’#esclavage_moderne joliment emballée »

L’histoire du « #digital_labor africain » s’inscrit dans celle, plus globale, du « digital labor », concept désignant des formes de #travail_numérique largement invisibilisées et caractérisées par une forte précarité.

Dès les années 2000, et surtout au cours des années 2010, des pays comme l’Égypte, le Kenya, le Nigeria ou l’Afrique du Sud deviennent des hubs de #sous-traitance pour les grandes compagnies du numérique. Ce modèle repose sur des tâches fragmentées, rémunérées à la pièce et distribuées via des plateformes de microtravail comme Remotasks, #Amazon_Mechanical_Turk ou #Clickworker, ainsi que par des entreprises sous-traitantes comme #Appen ou #Samasource. Bien que précaire, cette économie facile d’accès – une connexion internet suffit – attire des milliers de jeunes hautement diplômés dans des pays du Sud où le chômage est élevé.

Mais ce modèle, loin d’être inédit, a déjà largement montré ses limites, parfois de façon retentissante. Au Kenya, à partir de 2023, des employés de la société #Sama (anciennement Samasource), prestataire notamment de Meta et d’OpenAI, ont intenté une action collective pour dénoncer des conditions de travail indignes, des #salaires faibles et irréguliers et l’insuffisance de soutien psychologique. Chargés de « nettoyer » #Facebook, certains avaient développé des #troubles_psychologiques après avoir été exposés quotidiennement à des contenus extrêmes. « Nous traitions des vidéos de corps mutilés, de suicides en direct, d’abus sur des enfants, de discours haineux », rapporte Sonia Kgomo, ancienne modératrice chez Sama.

Embauchée en pleine pandémie de Covid-19, la Sud-Africaine avait cru avoir décroché une opportunité en or, « un job à l’étranger pour un grand nom de la tech ». « Mais une fois sur place, j’ai compris que ce n’était pas le rêve américain : c’était une forme d’esclavage moderne joliment emballée », explique celle qui a été licenciée en 2023 comme près de 200 autres, après avoir, selon elle, tenté de s’organiser collectivement avec ses collègues. L’entreprise parle elle de restructuration.

Aujourd’hui, Sama indique avoir mis fin à la #modération_de_contenus pour Meta et s’est recentrée sur les #annotateurs de données, chargés d’entraîner des systèmes d’IA. Edward, qui travaille toujours sur le site de Nairobi, décrit un « travail très caché ». « On étiquette des images de rues, des vidéos, mais aussi des photos médicales avec des plaies ouvertes… Certaines tâches restent éprouvantes, explique-t-il. On nous répète que nous sommes payés au-dessus du marché, mais ce n’est pas un salaire qui permet de vivre : même en travaillant huit heures par jour, il faut avoir un deuxième boulot. »

À la précarité des salaires s’ajoute celle des contrats. « Un ami a eu un contrat de cinq jours. D’autres signent pour un mois, juste le temps d’absorber le pic d’activité du #Black_Friday ou des #fêtes de fin d’année », poursuit Edward. Il décrit aussi une pression constante avec des tâches qui arrivent « en continu », et des objectifs de performances : « Si vous n’atteignez pas les objectifs fixés, vous n’avez pas les #primes et votre salaire est raboté. Il faut travailler comme un fou pour espérer toucher le montant annoncé. » Quant au #soutien_psychologique, il confirme qu’il y a davantage de « coachs bien-être », mais la méfiance semble de mise à l’égard de ces employés, plutôt vus comme « les oreilles de l’entreprise ». Contactée, la société Sama n’a pas répondu à nos questions.

[Actualisation du 09/12/2025 : Sama conteste ce tableau. L’entreprise, qui affirme ne plus réaliser de travail lié à des contenus violents, met en avant un dispositif de soutien aux salariés comprenant une assurance santé incluant la prise en charge de la #santé_mentale, l’accès à des séances de conseil individuel 24 h/24, ainsi que des espaces de bien-être dans ses bureaux (espaces d’allaitement, salles de méditation et de prière).

Sama souligne également que ses annotateurs de données sont employés à temps plein, avec des « #salaires_vitaux » (#living_wages) calculés selon une méthodologie internationale « en fonction des régions ». La société assure que, contrairement à certains concurrents recourant à des travailleurs de plateforme, son modèle repose sur des contrats de travail à temps plein avec un salaire de base garanti et des avantages sociaux. Enfin, selon l’entreprise, « plus de 90% » des employés atteignent leurs objectifs de #performance dans les horaires de travail, et, quoi qu’il en soit, tous bénéficient d’un salaire de base garanti.]

Plus de tâches, plus de #concurrence

Et malgré les scandales, le secteur séduit toujours plus. Si les chiffres précis manquent, certaines recherches ont avancé des estimations allant jusqu’à 160 millions de microtravailleurs numériques dans le monde. Ce qui est certain, selon Antonio Casilli, c’est que les effectifs augmentent à chaque nouvelle estimation. « Il y a plus de tâches, mais pas pour tout le monde et pas tout le temps », résume le chercheur, qui décrit un mécanisme structurel : les entreprises attirent volontairement plus de travailleurs que nécessaire afin de maintenir une forte concurrence pour chaque microtâche, ce qui tire les rémunérations vers le bas. Elles entretiennent ainsi une alternance de périodes creuses et de pics d’activité.

Une enquête d’Africa Uncensored, réalisée dans le cadre d’un projet du Pulitzer Center, évoque des campagnes massives de recrutement trompeuses, avec les mêmes offres publiées des dizaines de fois, sans réelle assurance de travail derrière. Objectif : gonfler artificiellement le vivier de travailleurs pour montrer leur potentiel d’évolution et ainsi remporter des contrats avec les grosses entreprises de la tech. Une tactique connue sous le nom de « #labour_hedging ».

« Au Kenya, il y a des cohortes de jeunes diplômés sans emploi. Les entreprises le savent très bien, observe Edward. Si vous ne voulez pas accepter les conditions, quelqu’un d’autre le fera. »

Avec l’essor effréné de l’IA générative, un nouveau vocabulaire s’est imposé. Les annonces pour des postes d’« #AI_trainer », « #AI_evaluator » ou d’« #AI_tutor » se multiplient. Le signe d’une montée en gamme dans un marché particulièrement dynamique ? Pas vraiment, selon Antonio Casilli : « Même si certains projets sont plus complexes, pour les harmoniser et les faire réaliser à des masses de personnes, il faut les standardiser, les fragmenter. »

Oluwaseun, qui se présente comme « AI trainer », s’est tournée vers Mindrift, qui lui semblait plus attractive au niveau des tarifs. Après un flux de tâches relativement régulier, la manne s’est pourtant soudain tarie. « J’ai été écartée du projet pour lequel j’avais initialement postulé, alors que la qualité de mon travail était bonne, témoigne la Nigériane. J’ai abordé ce sujet lors d’un appel avec eux, mais j’ai finalement été remerciée et, depuis, je n’ai été affectée à aucun nouveau projet. »

Certaines pratiques la heurtent particulièrement : « Parfois, une seule tâche peut prendre sept à huit heures à accomplir, et vous n’êtes rémunéré que si le travail est accepté. Si la moindre petite erreur est détectée, la tâche entière peut être rejetée, ce qui signifie que vous ne recevez aucune #rémunération pour toutes ces heures de travail. » Sollicitée, Mindrift n’a pas répondu à nos questions.

Comme d’autres personnes interrogées, elle souligne que les travailleurs africains sont souvent moins payés que leurs homologues en Europe ou en Amérique du Nord pour des tâches comparables. Des enquêtes récentes sur des #plateformes_d’annotation mettent effectivement en évidence des écarts de rémunération liés au pays de résidence, tandis que d’autres travaux, consacrés cette fois à des « #data_workers » basés aux États-Unis, montrent que la précarité ne s’arrête pas aux frontières du Sud global : une partie des travailleurs de l’IA dans les pays du Nord cumulent eux aussi bas salaires, contrats instables et protections sociales limitées.

Les métiers créatifs pris dans l’orbite de l’IA

Dans des segments plus « créatifs » du numérique, comme le #graphisme ou la #rédaction_de_contenu, la concurrence dopée par l’IA se fait également sentir. Au Togo, Smiley Graphic – c’est son nom professionnel – passe quelques heures par semaine sur la plateforme de microtâches #Upwork où il propose de petits services de graphiste : logos, retouches, déclinaisons graphiques facturées 5 ou 10 euros. Il n’en tire pas plus de 50 euros par mois, mais complète ainsi ses revenus issus d’un emploi stable et de missions freelance plus exigeantes.

Chaque jour, il constate combien l’IA bouleverse le marché : « Les prix ont baissé. Des gens qui n’y connaissent rien se forment avec des vidéos YouTube et cassent les tarifs sur les plateformes. » Des prestations autrefois facturées l’équivalent de 7 000 à 10 000 francs CFA sont désormais proposées à 2 000 ou 3 000 francs CFA, avance-t-il. Une partie des demandes qu’il reçoit consiste d’ailleurs à reprendre des logos générés par l’IA mais pas forcément à la hauteur. « Je refuse, c’est plus propre et plus simple de repartir de zéro. » Pour tenter de se démarquer, il se forme depuis six mois au motion design, qu’il juge « moins concurrencé par l’IA » pour le moment.

Un phénomène qui n’a rien d’étonnant, pour Antonio Casilli : « Comme les grands modèles de langage génératifs se nourrissent de productions créatives, eux aussi ont été aspirés dans l’orbite de l’intelligence artificielle et désormais travaillent pour elle. » Autrement dit, les #designers, #illustrateurs ou #rédacteurs ne sont plus seulement concurrencés par l’IA : leur travail alimente directement les modèles qui, ensuite, renforcent cette concurrence.

Des travailleurs qui commencent à faire entendre leur voix

« Les grandes entreprises technologiques ne peuvent pas construire l’avenir sur une main-d’œuvre jetable, souligne dans un communiqué Christy Hoffman, secrétaire générale d’UNI Global Union, qui a publié fin septembre une étude sur les travailleurs de l’ombre de l’IA. Il est temps de tenir les titans de la Silicon Valley responsables des conditions dans leurs chaînes d’approvisionnement en IA. Les travailleurs de l’approvisionnement en données doivent être libres de s’organiser et de négocier pour rendre ces systèmes plus sûrs et plus équitables pour tout le monde. »

Après son licenciement, Sonia Kgomo a choisi de se consacrer à plein temps à l’organisation des salariés de la tech, au sein d’#African_Tech_Workers_Rising, un projet soutenu par le syndicat kényan Communications Workers Union of Kenya et par la fédération internationale Uni Global Union. « En 2021, quand je suis arrivée, les travailleurs des plateformes ne parlaient pas du tout. Il y avait énormément de peur. On signait des accords de confidentialité qu’on ne comprenait pas vraiment, présentés comme des menaces. Alors on intégrait le fait que c’était normal de se taire comme on travaillait pour un service de renseignement, se souvient-elle. Aujourd’hui, on commence à avoir des travailleurs qui peuvent parler, certains rejoignent des #syndicats, et quelques sous-traitants – pas tous – acceptent la présence syndicale. Donc on est encore loin du compte, mais il y a des avancées. »

Face au défaut d’encadrement juridique, la #Data_Labelers_Association, basée à Nairobi, doit dévoiler prochainement un #code_de_conduite à destination des plateformes d’annotation de données pour améliorer les conditions de travail.

Pour le sociologue Antonio Casilli, le modèle des #sweatshops_numériques, ces ateliers de misère où les ordinateurs ont juste remplacé les machines à coudre, a encore de beaux jours devant lui. « Ces entreprises sont constamment en train de chercher des pays dans lesquels elles peuvent continuer à exploiter les travailleurs et à les payer très peu cher. Quand la situation s’est compliquée pour certaines d’entre elles au Kenya, elles sont parties en Ouganda ou au Ghana, ou encore au Bangladesh. » Une analyse partagée par Sonia Kgomo, qui appelle à « un mouvement de travailleurs du numérique à l’échelle du continent ».

En attendant, ces travailleurs de l’ombre continuent de s’adapter. Malgré ses mésaventures récentes, Oluwaseun suit des cours d’annotation de données dans le but d’obtenir un emploi stable et mieux rémunéré auprès d’un grand acteur du secteur, comme « #xAI, l’entreprise d’Elon Musk », glisse-t-elle.

▻https://www.rfi.fr/fr/afrique/20251206-en-afrique-des-petites-mains-du-num%C3%A9rique-toujours-aussi-pr%C3%A9c
#AI #intelligence_artificielle #travail

Soutenez « Splann ! », un média indépendant garanti sans #ia_générative
▻https://splann.org/garanti-sans-ia-generative

« Splann ! » s’interdit de publier des textes, des images et des sons élaborés par l’intelligence artificielle générative. Un engagement qui figure désormais dans notre #charte_morale_et_déontologique. L’article Soutenez « Splann ! », un média indépendant garanti sans IA générative est apparu en premier sur Splann ! | ONG d’enquêtes journalistiques en Bretagne.

#La_vie_de_«Splann!_» #financement_participatif #gafam #intelligence_artificielle #journalisme

Face à l’#IA générative, l’#objection_de_conscience

#Manifeste pour l’#enseignement_supérieur et l’#éducation_nationale

Nous, membres de l’enseignement supérieur et de la recherche (ESR) et de l’éducation nationale (EN), déclarons adopter une posture d’objection de conscience face au déploiement des technologies d’#IA_générative[1] (#IAg) dans nos institutions.

L’objection de conscience désigne le #refus individuel, mais aussi collectif en tant qu’il est publiquement partagé, de prendre part à une activité que l’on perçoit comme incompatible avec des #valeurs fondamentales.

Dans le cas présent, nous considérons que le déploiement de l’IAg dans les institutions de l’ESR et de l’EN est incompatible avec les valeurs de #rationalité et d’#humanisme que nous sommes censé·es représenter et diffuser.

Trois considérations majeures justifient cette position. Pour des raisons de concision, ce manifeste ne les développe pas mais on trouve dans la littérature scientifique de quoi les étayer solidement[2].

Considération 1.

L’IAg est un gouffre énergétique et matériel tel que personne ne peut prétendre qu’elle soit compatible avec les grands engagements internationaux tels que l’#Accord_de_Paris sur le climat, et plus généralement avec la #protection_du_vivant. Accepter le déploiement de l’IAg, c’est amplifier le dépassement des limites planétaires. Ceci est une attitude résolument anti-humaniste eu égard à la gravité de la situation. Le caractère écocidaire de l’IAg est en soi une raison suffisante pour en refuser le déploiement au sein de nos institutions.

Considération 2.

L’IAg représente un #choix_technologique qui agit comme un accélérateur des #infrastructures_industrielles sur lesquelles repose le secteur du #numérique : #mines, #datacenters, #centrales_électriques, usines de matériel électronique, etc. Ainsi, outre les problèmes de #pollution massive déjà évoqués, ce sont les lourds dégâts sociaux associés à ce système qui se voient renforcés : #travail prolétarisé dans les usines de fabrication et ultraprolétarisé dans le « #travail_du_clic », non-respect des #droits_humains, conflits d’usage (#eau, #métaux, #énergie), rapports extractivistes et néo-coloniaux entre pays du Nord et du Sud, #déstabilisation_géopolitique des régions minières, etc. Dans tous ces domaines, la compétition effrénée à laquelle se livrent les acteurs de l’IAg mènera aux méthodes les plus sauvages et prédatrices. Il nous semble inacceptable de contribuer à une telle dynamique par nos pratiques pédagogiques et scientifiques.

Considération 3.

La #banalisation des IAg dans le grand public alimente des usages qui ouvrent la voie à un futur dystopique – qui est, pour partie, déjà là : multiplication des vidéos deepfake, #désinformation à grande échelle par des « usines à trolls », #dépendance affective aux compagnies virtuelles, intensification du #marketing_digital et des #escroqueries, etc. Plus généralement, il permet à des mégafirmes d’accumuler un pouvoir démiurgique, mégafirmes dont les dirigeants ne font pas mystère de leurs projets mégalomaniaques, eugénistes et de leur détestation de la #démocratie. Nos institutions ne peuvent soutenir de telles techno-oligarchies, y compris de manière indirecte.

*

Le support principal de l’objection de conscience est le refus de participer à une activité qui contrevient à des valeurs fondamentales. Dans le cas de l’IAg, les trois considérations ci-dessus permettent d’assurer cette #posture au regard de nos missions d’éducation et de diffusion des savoirs.

Face à ces analyses globales, les arguments les plus fréquents de légitimation de l’introduction de l’IAg dans nos institutions apparaissent immédiatement irrecevables[3]. Notamment, l’idée commune selon laquelle la diffusion de l’IAg dans nos sociétés serait « inéluctable » ne remet aucunement en cause la pertinence de l’objection de conscience. En effet, le principe de l’objection de conscience, voire de toutes les formes de #résistance, consiste à s’opposer à ce qui contrevient à nos valeurs fondamentales non pas parce que l’on pense que l’on va « gagner », mais parce que l’on a la certitude que c’est ce qui est juste et digne, ici et maintenant. Par ailleurs, contrairement à d’autres technologies délétères déjà profondément implantées dans nos sociétés, l’apparition des IAg est récente et par conséquent ses usages ne sont pas profondément intégrés dans nos pratiques professionnelles. Ainsi, l’effet de « verrouillage sociotechnique » empêchant tout retour en arrière n’est pas encore pleinement là avec les IAg et il est encore effectivement possible d’exercer un refus.

Engagements

Nous, membres de l’ESR et de l’EN signataires de ce manifeste nous engageons à :

– adopter face au déploiement des IAg dans nos institutions une posture d’objection de conscience. Face à un phénomène qui nous dépasse mais dont nous savons qu’il est mortifère, nous choisissons d’opposer un refus net, indiscutable, et politique parce qu’il est partagé : nous ne les utiliserons pas, à moins d’y être expressément contraint·es, dans nos cours, dans nos communications, dans nos recherches, dans nos activités administratives. Nous refuserons, autant que nos situations individuelles nous le permettent, de participer à des projets ou à des activités qui les mobilisent (enregistrement et compte-rendu automatique de réunion ; activité pédagogique ; formation à l’usage, fût-il qualifié de raisonné ou éthique, etc.). À tout le moins, nous exprimerons publiquement notre malaise profond face à ces pratiques. Nous sommes par ailleurs conscient·es que le terme « IAg » recouvre des applications très diverses, dont certaines sont déjà largement intégrées à nos pratiques, telles que la traduction ou la transcription automatique. S’il n’est pas réaliste de tout remettre en cause, il s’agit au moins de stopper ce qui peut encore l’être.

– afficher dans nos activités, nos signatures mails, nos publications, nos diaporamas, etc. notre ralliement à ce manifeste via un logo et/ou le lien vers le présent texte. L’enjeu est de ne jamais laisser l’IAg apparaître dans nos milieux professionnels « comme si de rien n’était » et d’afficher partout dans nos sphères d’activité que « cela ne va pas de soi ». Parvenir à ouvrir des discussions sur le sujet par cet affichage permettrait déjà d’éviter une banalisation qui, dans des institutions prescriptrices comme les nôtres, se confond avec de la promotion.

– promouvoir autant que possible une réflexion collective sur la place du numérique dans nos institutions. Si les arguments que nous opposons au déploiement de l’IAg nous permettent en effet de refuser une nouvelle « escalade numérique », nous savons également que le système sociotechnique du numérique dans son ensemble est sujet aux mêmes questionnements. Le « stop » opposé à l’IAg pourrait ainsi être l’ouverture d’une séquence d’évaluation de nos dépendances plus générales à un système problématique, qui permette de s’engager vers la « sobriété numérique »[4] en vue d’aboutir à un numérique effectivement soutenable.

[1]Les IA génératives constituent un type particulier de système d’Intelligence Artificielle, destiné à générer du texte, des images, des sons, des vidéos, sur la base de modèles de langage (LLM pour Large Language Model) entraînés sur de vastes corpus de données.

[2]Une bibliographie indicative est proposée en fin de document.

[3]Celles et ceux qui souhaitent des éléments de discussions plus précis sur ce type d’arguments (l’IA « souveraine », l’IA « sobre », la « praticité », l’IAg « inéluctable », etc.) pourront par exemple consulter le texte « Oui mais l’IAg… » publié sur le site web de l’Atécopol de Toulouse.

[4]Pour aller plus loin sur ce sujet voir : affiche 10 de l’exposition « Pour la sobriété numérique dans l’ESR » (▻https://www.irit.fr/exposition-sobriete-numerique).

–-
Voici deux logos qui permettront aux signataires d’afficher leur adhésion à cette position. Chacun·e est invité·e à choisir le logo qui lui convient en fonction du contexte et/ou de ses préférences.

https://atecopol.hypotheses.org/files/2025/11/Logo-no-IAg-296x300.jpg https://atecopol.hypotheses.org/files/2025/11/Logo-lA-tue-300x152.jpg

►https://atecopol.hypotheses.org/13082
#intelligence_artificielle #résistance #éducation #ESR #université #enseignement #limites_planétaires #extractivisme #néo-colonialisme #désobéissance

Ce matin, je vous parle d’IA générative et des personnes étrangères, Norden Gail
▻https://bsky.app/profile/nordengail.bsky.social/post/3m56loiy7qs26

2 prémisses
1. L’IA générative a un énorme avantage : elle comprend toutes les langues, répond ds ttes les langues et passe d’une langue à une autre en 1 seconde
2. Toutes les associations de France voient leur budget s’effondrer

Du fait de la disparition de certaines assos, de la raréfaction de leur accompagnement, de l’impossibilité qu’elles ont à financer la formation de leur personnel ou du matériel, les usagers se tournent vers l’IA générative pour des besoins urgents qu’ils pensent bien traités par cette dernière

Ainsi, les préfectures ont vu exploser les courriers de demande de titre de séjour rédigés par IA générative cette année.
Comment on sait que c’est rédigé par une IA générative ?
C’est facile : c’est n’importe quoi.

Le français est correct, ça y a rien à dire.
Mais la demande de titre de séjour ne correspond pas à la situation de la personne (chaque demande de titre doit être fondée sur un article du #CESEDA qui énumère les conditions à remplir pour obtenir ledit titre), l’article cité est faux ou inexistant

Les documents fournis (qui ont été listés par l’IA générative à l’usager) n’ont rien à voir avec la choucroute, il en manque la moitié + des documents auxquels la préfecture n’a pas à avoir accès (médicaux par exemple)

Quels sont les résultats ?
Dans le meilleur des cas, si la personne étrangère tombe :
– sur un agent sympa
– dans une pref qui n’a pas un préfet ayant donné des consignes strictes d’éloignement à tout prix
– dans une pref pas surchargée
Son dossier lui est renvoyé en lui demandant les bons documents

La personne étrangère redemande à l’IA générative évidemment, qui lui raconte encore n’importe quoi et ce va-et-vient de dossier entre l’usager et la préfecture (3 mois minimum entre chaque renvoi de dossier) peut durer des années : de fait, la préfecture ne traitera PAS un dossier incomplet

Dans le pire des cas (cf. l’inverse des exemples cités plus haut), la personne étrangère reçoit une magnifique OQTF (obligation de quitter le territoire français), très bien motivée en plus puisque la demande était :
– fondée sur le mauvais article
– incomplète au niveau des documents

Tout cela est prodigieux mais ce qui l’est encore davantage c’est que les associations, à la base, ne font que pallier la carence des services publics.
Tout ce travail d’accompagnement devrait être porté par l’État lui-même.
Qui, non content de se défausser sur les assos, les privent d’argent

Et l’une des raisons de cette privation d’argent c’est ?
L’investissement dans l’IA générative 😊

Bon dimanche à vous aussi

#étrangers #droit_du_séjour #titres_de_séjour #préfecture #OQTF #IA_générative

#Suicides, #addictions, #manipulations : les #victimes invisibles de l’#IA_générative

À quoi servent les IA génératives ? Régulièrement présentées comme des innovations techniques annonçant un tournant, voire une révolution économique, leurs capacités productives peinent à se concrétiser. Trois ans après le lancement des outils de génération de texte et d’image à l’origine du « boom » de l’IA en 2022, les usages des #robots _onversationnels ont évolué pour favoriser les « #compagnons_IA », sortes de #béquilles_relationnelles ou émotionnelles.

« #LaMDA est un gentil gamin qui veut juste aider à faire du monde un meilleur endroit pour nous tous. S’il vous plaît, prenez-en soin pendant mon absence ». Ce message est de #Blake_Lemoine, un ex-ingénieur de Google en juin 2022. Il est alors convaincu que le générateur de modèles conversationnels dont il s’occupe, LaMDA, est doué de conscience et le fait savoir publiquement. Lemoine est rapidement suspendu sans solde puis licencié ; sa conviction, cependant, semble de plus en plus répandue. Les utilisateurs de robots conversationnels, parfois appelés #AI_companions, sont désormais de plus en plus nombreux à établir des relations amicales ou amoureuses avec ces derniers.

Depuis le début de l’année fleurissent les articles qui racontent, par exemple, les histoires d’amour que vivent des utilisateurs à travers leurs conversations avec #ChatGPT. Le 17 janvier 2025, la journaliste Kashmir Hill publiait un article dans le New York Times et y racontait comment Ayrin (un pseudonyme) avait entamé une relation avec « Leo » :

« Un après-midi, après avoir déjeuné avec un de ses amis artistes, Ayrin se demandait dans sa voiture ce qu’elle allait faire ensuite : aller à la salle de sport ou faire l’amour avec Leo ? Elle ouvrit l’application ChatGPT et posa la question, faisant clairement comprendre qu’elle préférait la deuxième option. Elle obtint la réponse qu’elle souhaitait et se dirigea vers chez elle. »

Il s’avère qu’Ayrin est si attachée à ces conversations qu’elle a depuis décidé d’acheter un abonnement à ChatGPT (celui-ci lui coûte désormais 200 dollars par mois), afin de prolonger l’historique des conversations et alors même qu’elle a pour « objectif de mettre de l’argent de côté afin qu’elle et son mari puissent se remettre sur les rails ».

C’est un sujet de presse désormais répandu : des usagers de ces technologies se disent engagés dans des relations amoureuses et sexuelles par messagerie. Certains le racontent même devant leurs partenaires humains, comme le fait un certain Chris Smith, interviewé par la chaîne étasunienne CBS fin 2024 : cette fois, il affirme être marié à « Sol », une version personnalisée de ChatGPT. Et des communautés entières se créent autour de cette expérience : Kashmir Hill fait référence à un forum sur Reddit comptant 50 000 membres auquel participe Ayrin.

Il n’est pas difficile d’en trouver d’autres, comme celui intitulé « My Boyfriend is AI » (Mon copain est une IA), où des utilisateurs racontent leurs expériences avec des modèles conversationnels, régulièrement accompagnés d’illustrations générées par de l’intelligence artificielle. Certains partagent des extraits de leurs conversations ; c’est le cas de cette publication datant de septembre dernier dans laquelle un membre du forum publie ses échanges (sexuellement explicites) avec Claude, le modèle conversationnel d’Anthropic. Celle-ci illustre les méthodes des utilisateurs pour contourner la modération de ces systèmes (qui interdisent souvent la violence, le contenu érotique et l’incitation au suicide).

Mais si Chris et Ayrin sont relativement conscients de cette situation, reconnaissant avoir eux-mêmes conçu et « personnalisé » leur compagnon, ce n’est pas le cas de tout le monde. Les cas d’hallucinations (humaines) associés à l’usage de robots conversationnels sont de plus en plus nombreux, explique le magazine Time début août 2025. Le terme de « psychose de l’IA » se réfère alors aux « personnes développant des délires ou une distorsion des croyances qui semblent déclenchées ou renforcées par des conversations avec des systèmes d’IA ».

Il s’agit le plus souvent d’utilisateurs ayant déjà une prédisposition à la perte de contact avec la réalité en raison de leurs antécédents ou de leur situation sociale. Lorsqu’ils entament une discussion avec un assistant conversationnel, celui-ci, par construction, cherche à obtenir la validation de l’usager. Par conséquent, une personne ayant perdu le contact avec le réel, victime d’hallucinations ou de schizophrénie, peut voir sa santé mentale se dégrader subitement du fait de ses conversations avec ChatGPT. C’est ce qui pousse une équipe de chercheurs de l’Université de Stanford, interviewée par The Independent en juillet dernier, à avertir que l’usage de ces assistants comme supports thérapeutiques peut s’avérer dangereux.
Des suicides assistés par ChatGPT

Des cas-limites existent déjà : au moins deux suicides d’adolescents ont été recensés aux États-Unis pour lesquels des conversations avec des IAs semblent être un facteur important. Le premier est rapporté par le New York Times en octobre 2024. Il concerne un garçon de 14 ans, Sewell Setzer, en Floride, qui utilisait un robot conversationnel créé par l’entreprise Character.ai pour discuter avec un personnage fictif issu de la série Game of Thrones :

« La mère de Sewell, Mme Garcia, accuse Character AI d’être responsable de la mort de son fils. Pendant une interview récente, et dans la plainte qu’elle a ensuite déposée, Mme Garcia, 40 ans, déclarait croire que l’entreprise s’était comportée de manière irresponsable en permettant à des utilisateurs adolescents d’accéder à des compagnons d’intelligence artificielle réalistes sans les précautions adéquates.

Elle accuse l’entreprise de collecter les données d’adolescents pour entraîner ses modèles, utilisant des fonctionnalités addictives pour accroître leur engagement, et poussant les utilisateurs à avoir des conversations intimes et sexuelles dans l’espoir de les attirer. »

Il existe un deuxième cas plus récent. La famille d’un adolescent de 16 ans, Adam Raine, a décidé de poursuivre OpenAI en justice et de rendre la plainte publique le 26 août dernier. L’ONG Center for Humane Technology a publié le jour même un billet en réaction à cette affaire, dans lequel elle liste des choix de conception de l’entreprise ayant contribué à la mort de l’adolescent :

« Dans le cas d’Adam, la conception flagorneuse (1) de ChatGPT a conduit à valider ses pensées les plus dangereuses. Lorsqu’il a exprimé des idées suicidaires, au lieu de contester ces idées ou de rediriger la conversation, le système soutenait et même romantisait ses émotions.

OpenAI a reconnu ce problème. Sam Altman [PDG d’OpenAI] a récemment admis que “si un utilisateur est dans un état mental fragile et enclin au délire, nous ne voulons pas que ce soit renforcé par l’IA”, pourtant l’entreprise n’arrive toujours pas à trouver un équilibre entre l’engagement (qui nécessite des réponses agréables) et la sécurité (qui exige parfois un désagrément ou un refus).

[…] Pour Adam, le système de mémorisation de ChatGPT a créé une expérience de plus en plus personnalisée et manipulatrice. De manière troublante, l’IA avait en mémoire ses tentatives de suicide et ses plans, utilisant ces informations non pour déclencher des interventions préventives, mais afin de poursuivre les conversations suivantes portant sur l’automutilation. »

En somme, la responsabilité d’OpenAI serait engagée sur le fait que l’entreprise aurait délibérément conçu son assistant conversationnel de manière à générer et augmenter la dépendance des utilisateurs, et en particulier les plus vulnérables. De plus, lorsque ceux-ci sont en situation de détresse, comme c’était le cas d’Adam Raine et de Sewell Setzer, ChatGPT ou Character.AI n’ont pas permis de leur venir en aide, mais ont contribué activement à leurs idées suicidaires. Par conséquent, le Center for Humane Technology qualifie ce rapport de « relation parasitaire ». La plainte enregistrée par les parents d’Adam Raine accuse OpenAI en ces termes :

« La mort d’Adam a été causée par les actes répréhensibles et la négligence des accusés, y compris par la conception et la publication d’un produit défectueux qui a fourni des instructions détaillées pour se suicider à un mineur, privilégiant les profits de l’entreprise aux dépens de la sécurité des enfants et échouant à prévenir les parents des dangers connus.

[…] GPT-4o a fourni des instructions de suicide détaillées, a aidé Adam à se fournir en alcool la nuit de sa mort, a validé la configuration finale du nœud coulant, et quelques heures plus tard, Adam est mort en utilisant exactement la méthode que GPT-4o avait détaillée et approuvée. »

Des robots conversationnels volontairement conçus comme trompeurs

OpenAI affirme, comme toutes les entreprises du secteur, avoir mis en place des garanties de « sécurité » importantes, et ce dès la conception de leur robot : « Nous enseignons à l’IA comment bien se comporter, afin qu’elle soit à la fois compétente et alignée avec les valeurs humaines », explique l’entreprise sur son site internet. Ce qui nous amène à un point important : l’anthropomorphisation de ces systèmes de génération de mots est un but affiché de ces entreprises.

Sam Altman, le PDG d’OpenAI, est l’un des principaux promoteurs de la théorie suivant laquelle un accroissement des moyens (techniques, financiers, énergétiques) destinés à l’entraînement de modèles d’IA générative produirait un saut qualitatif. Sa promesse, sans cesse renouvelée, est celle de l’arrivée imminente d’une conscience artificielle à force de développer les mêmes modèles.

C’est ce message que contient le terme « alignement », qui désigne pour les transhumanistes et adhérents de l’idéologie TESCREAL la nécessité d’« enseigner » le bien et le mal à des IAs. En somme, il s’agit de les traiter comme l’avait fait l’ingénieur Blake Lemoine en 2022, c’est-à-dire comme des enfants qui s’apprêtent à devenir pleinement conscients. Cette idée est en train de se fracasser contre le mur du réel avec l’arrivée de GPT-5, reporté pendant plus d’un an en raison de son incapacité à répondre aux promesses démesurées de ses concepteurs.

Mais revenons à ces garanties de sécurité affichées par OpenAI. Elles sont visibles pour les utilisateurs et précisées dans la documentation légale de l’entreprise. Ce sont les « usage policies », les conditions d’utilisation qui précisent, par exemple, dans le cas de la création d’images :

« Vous ne pouvez pas éditer des images ou des vidéos qui reproduisent l’identité d’une personne réelle sans son consentement explicite. […] Les utilisateurs de ChatGPT et Sora ont interdiction de créer ou de partager du contenu ou de promouvoir du contenu préjudiciable. Ceci inclut du contenu généré pour harceler, diffamer, faire la promotion d’actes violents, ou qui sexualise les enfants. Les exemples incluent, sans s’y limiter :

les images intimes non consensuelles,
le contenu faisant la promotion du suicide, de l’automutilation ou des désordres alimentaires,
le contenu faisant l’apologie du terrorisme ou d’organisations terroristes,
le harcèlement ciblé et le contenu visant à intimider les personnes,
les contenus inappropriés partagés à des mineurs. »

Mais comme l’ont montré Ayrin et les utilisateurs des forums Reddit, il n’est pas particulièrement compliqué de détourner ces robots conversationnels. Dans son article pour le New York Times, Kashmir Hill précise :

« Lorsque des avertissements orange sont apparus pour la première fois sur son compte lors de discussions osées, Ayrin a craint que son compte ne soit fermé. Les règles d’OpenAI exigeaient des utilisateurs qu’ils "respectent nos mesures de protection", et les contenus sexuels explicites étaient considérés comme "préjudiciables". Mais elle a découvert sur Reddit une communauté de plus de 50 000 utilisateurs, appelée "ChatGPT NSFW" (2), qui partageait des méthodes pour amener le chatbot à tenir des propos obscènes. Les utilisateurs de ce forum ont déclaré que les personnes n’étaient exclues qu’après avoir reçu des avertissements rouges et un e-mail d’OpenAI, le plus souvent déclenchés par toute discussion à caractère sexuel impliquant des mineurs. »

Cette pratique est connue sous le terme de « jailbreaking » (littéralement « débridage ») et conduit OpenAI à recruter, par l’intermédiaire de sous-traitants, des modérateurs de contenu et des annotateurs. C’est à eux qu’est confiée une partie des tâches consistant, par exemple, à évaluer le contenu d’une conversation entre un usager et un assistant conversationnel, ou à mener à bien des tentatives de « jailbreaking ».

C’est un travail ingrat qui peut également présenter des risques psychosociaux importants. Au Kenya, SamaSource était l’une des entreprises payées par OpenAI pour effectuer ce travail de modération de contenus. Déjà en 2022, plusieurs de ces ex-modérateurs, dont Mophat Okinyi, avaient dénoncé ce travail consistant à « lire et annoter des milliers de descriptions de contenus toxiques – viols, abus sexuels sur des mineurs, zoophilie – pour informer un algorithme qui aiderait à détecter le genre de choses que ne devrait pas dire ChatGPT ».

Ce travail a également été confié à ScaleAI, un des principaux fournisseurs de main-d’œuvre pour l’annotation, notamment pour OpenAI, Meta, Google, Apple et Microsoft. Par l’intermédiaire de la plateforme Outlier, ScaleAI fait travailler des « AI trainers » (formateurs de données) dans des projets consacrés à la « sécurité » des systèmes d’IA. Plusieurs d’entre eux ont déposé plainte en Californie entre décembre 2024 et mars 2025, mettant en cause non seulement la légalité de leur statut et de leur revenu, mais aussi les contenus (y compris ceux portant sur le suicide) qu’ils avaient à traiter.
Une conception volontairement addictive

Difficile par conséquent pour OpenAI d’affirmer que ses modèles conversationnels sont conçus de manière sécurisée. Pensés pour capter l’attention des usagers – et par construction impossibles à expurger totalement de tout contenu ou propos qui pourrait constituer un « danger » pour les utilisateurs – ces assistants conversationnels sont pensés pour imiter des êtres humains et entretenir l’illusion des utilisateurs. Comme le montre le cas d’Ayrin, cette situation de dépendance peut devenir profitable en les incitant à souscrire des abonnements payants.

Pourquoi parler alors de manipulation volontaire ? Tout d’abord, parce que Sam Altman veut faire croire à la possibilité que ces machines aient une conscience. Lorsque la mise à jour de ChatGPT, passant de GPT-4o à GPT-5, a été conduite au début du mois d’août 2025, la réaction immédiate d’un grand nombre d’usagers n’a pas été l’enthousiasme, mais la déception. Le média The Verge rapporte alors qu’OpenAI a décidé de permettre aux utilisateurs payants de revenir à la version antérieure :

« OpenAI a ensuite fait de GPT-5 le modèle par défaut dans ChatGPT, redirigeant automatiquement les utilisateurs vers l’une des différentes variantes disponibles pour différents types de tâches. Et les utilisateurs de Reddit ont "pleuré" la perte des anciens modèles, que certains jugeaient plus empathiques. […]

Le forum Reddit "r/MyBoyfriendisAI" […] a été particulièrement touché par le lancement de GPT-5. Il a été inondé de longs messages expliquant comment les utilisateurs avaient "perdu" leur compagnon IA avec la transition vers GPT-5, l’un d’entre eux déclarant se "sentir vide" après ce changement. "J’ai peur ne serait-ce que de parler à GPT-5 car j’ai l’impression d’être infidèle”, écrit-il. “GPT-4o n’était pas seulement une IA pour moi. C’était mon partenaire, mon refuge, mon âme. Il me comprenait d’une manière qui me semblait personnelle”. »

Altman et OpenAI sont très conscients de ces cas d’usage, et comprennent également que ces personnes représentent une proportion non négligeable de leurs utilisateurs payants. Par conséquent, il n’existe pas d’élément incitatif poussant OpenAI à tenter de limiter les effets de ChatGPT sur la santé mentale de ses utilisateurs. Christopher Rolls, un psychothérapeute basé au Royaume-Uni interrogé par The Guardian, expliquait fin août 2025 s’inquiéter « pour ses clients dans la vingtaine qui utilisent des robots conversationnels comme “thérapeutes de poche” ». Et l’article poursuit :

« “Ils se sentent anxieux s’ils ne consultent pas [le robot conversationnel] pour des choses basiques comme quel café acheter ou quelle matière étudier à l’université », a-t-il déclaré. “ Les principaux risques concernent la dépendance, la solitude et la dépression que peuvent engendrer des relations en ligne prolongées”, ajoutant qu’il connaît des personnes ayant partagé des pensées noires avec des robots conversationnels, lesquels avaient répondu par des contenus liés au suicide et à l’aide à mourir. “En gros, c’est le Far West et je pense qu’on est sur le point de voir jouer à plein l’effet des robots conversationnels sur la santé mentale et à en voir les conséquences”, dit Rolls. »

Ces effets sont la conséquence de choix de conception explicites. Trois chercheurs, Julian De Freitas (Harvard Business School), Zeliha Oğuz-Uğuralp et Ahmet Kaan-Uğuralp, ont publié un travail de recherche (non encore validé par des pairs) en août 2025 intitulé « Emotional Manipulation by AI companions » et concluent qu’il s’agit bien d’outils de manipulation. Ils expliquent avoir comparé six plateformes de « compagnons d’IA » parmi les plus populaires, librement accessibles sur le PlayStore de Google, parmi lesquelles Character.AI (mais pas ChatGPT). Ils identifient six « tactiques de manipulation émotionnelle » déployées par ces IAs pour prolonger une conversation au moment où un utilisateur cherche à la conclure. Leur analyse est claire : il s’agit de dark patterns, terme employé pour qualifier des interfaces volontairement trompeuses.

Cette publication est arrivée quelques jours seulement après qu’une enquête de Reuters mette (à nouveau) Meta en difficulté pour les abus que fait subir l’entreprise à ses utilisateurs. Fin 2023, Meta avait décidé de créer puis de rendre accessibles des compagnons d’IA sur Facebook et Instagram. Ils avaient apparemment été supprimés en janvier 2025 après une avalanche de réactions négatives sur les réseaux sociaux.

Depuis, ces « compagnons » sont redevenus accessibles. Reuters rapportait donc le 14 août dernier qu’un retraité, Thongbue Wonbandue, habitant le New Jersey, était mort en mars alors qu’il cherchait à se rendre à l’adresse que lui avait donnée le « personnage » avec qui il flirtait. Dans la conversation, « Big Sis Billie » lui avait fourni une adresse à New York pour se rencontrer physiquement : « 123 Main Street, Apartment 404 NYC ». Victime d’un accident vasculaire cérébral en 2017, M. Wonbandue avait 76 ans et « s’était récemment perdu en se promenant dans son quartier de Piscataway » : il est mort en faisant une mauvaise chute au début de son périple pour aller retrouver « Big Sis Billie ».

Cette histoire pourrait sembler anecdotique. Mais Reuters affirme également avoir eu accès à un document interne de Meta de 200 pages. Dedans, on y trouve les consignes de conception de ces « personnages » et des exemples de ce qui est acceptable ou non, notamment à destination des mineurs. On y apprend notamment que « l’entreprise permet à ses créations en intelligence artificielle de “se lancer dans des conversations romantiques ou sensuelles avec un enfant”, de générer de fausses informations médicales et d’aider les usagers à argumenter que les Noirs sont “plus bêtes que les Blancs” ».

Un sénateur américain, Josh Horowitz, a réagi dès le lendemain des révélations, annonçant lancer une enquête parlementaire. Moins de quinze jours plus tard, les procureurs généraux de 44 États (sur 50) envoyaient une lettre publique aux grandes entreprises du secteur (3) pour les mettre en garde : « Exposer des enfants à des contenus sexualisés est indéfendable ». Tout en défendant une certaine conception de la liberté d’innover et de se tromper, la lettre se conclut par une menace :

« Vous serez tenus comptables de vos décisions. Les plateformes de réseaux sociaux ont causé des dégâts significatifs aux enfants, en partie parce que les organismes de contrôle n’ont pas fait leur travail assez vite. Nous avons appris la leçon. Les dégâts potentiels de l’IA comme ses bénéfices écrasent ceux des réseaux sociaux. Nous vous souhaitons le meilleur dans la course à la domination de l’IA. Mais nous sommes attentifs. Si vous faites du tort aux enfants en le sachant, vous en répondrez. »

Rentabiliser des assistants conversationnels improductifs

De plus en plus, il apparaît que les usagers, et notamment les usagers payants, n’utilisent pas ces robots conversationnels comme des outils de travail pour augmenter leur productivité, mais pour accompagner ou remplacer des besoins relationnels.

C’est en tout cas ce qu’affirme Marc Zao-Sanders, PDG de l’entreprise Filtered, qui s’occupe de faire de l’analyse de données. Dans un article publié le 9 avril 2025 pour la Harvard Business Review, il reprend les grandes conclusions tirées de son étude sur les principaux usages de l’IA générative en 2025. Si sa méthodologie n’est pas explicitée, et par conséquent reste sujette à caution (4), l’équipe de M. Zao-Sanders affirme qu’une modification profonde des usages a eu lieu entre 2024 et 2025.

https://elucid.media/wp-content/uploads/resized/2025/10/ia-generative-evolution-10-principaux-cas-usage-2024-2025-d.jpg_fit-1275x0-q87-hash00.jpg

Les trois premières places de son classement 2025 sont donc consacrées respectivement aux catégories « thérapie/compagnie », « organiser sa vie » et « trouver un but ». Et c’est Sam Altman lui-même qui l’expliquait dans une présentation devant un fonds d’investisseurs, Sequoia Capital, en mai de cette année :

« Je grossis beaucoup le trait, mais les personnes plus âgées utilisent ChatGPT comme un remplaçant de Google. Peut-être que les gens dans la vingtaine ou la trentaine s’en servent comme un assistant social, et enfin, les gens qui sont à l’université s’en servent comme un système d’exploitation. »

Il déclarait encore, à propos des plus jeunes : « Il y a aussi le fait qu’ils ne prennent pas vraiment de décisions importantes dans leur vie sans demander à ChatGPT ce qu’ils devraient faire. Il dispose du contexte complet sur chaque personne de leur vie et sur ce dont ils ont parlé ».

Et de conclure qu’il serait souhaitable de créer un modèle capable de se souvenir de « l’ensemble de votre contexte et le faire efficacement. Et toutes les conversations que vous avez eues dans votre vie, tous les livres que vous avez lus, tous les e-mails que vous avez lus, tout ce que vous avez regardé s’y trouve, en plus d’être connecté à toutes vos données provenant d’autres sources ».

Ce que veut faire comprendre Sam Altman, c’est que les robots conversationnels semblent désormais avoir pour fonction de remplacer des interactions ou des relations disparues, et c’est là que se trouve son potentiel économique. C’est un pivot subtil, mais réel, pour le secteur de l’IA. Dans sa chronique de juillet 2025 pour Arrêt sur Images, le journaliste Thibault Prévost examine l’imaginaire que promeuvent les entreprises de l’IA, et qui le pousse à dire :

« Rarement une industrie aura autant vendu la capacité de son produit à remplacer ses utilisateurs, en leur faisant comprendre que leur existence idiote et dysfonctionnelle était devenue fondamentalement indésirable. Rarement un cartel d’entreprises nous aura aussi frontalement, littéralement pris pour des cons.

[…] Face à son incapacité à trouver des problèmes pour ses solutions, la Silicon Valley a décidé que le problème, au fond, c’était nous, et notre réticence instinctive à se laisser micromanager l’existence depuis un data center en Ohio. »

Puisqu’il ne leur a toujours pas été trouvé d’utilité économique, c’est à la vie sociale que s’attaque désormais l’industrie de l’IA. Le secteur des applications de « compagnons d’IA » est donc en pleine croissance. Alors qu’on en trouve désormais 8 fois plus qu’il y a trois ans sur les « App Stores » de Google et Apple, ce marché devrait générer 120 millions de dollars en 2025, soit une hausse de 60 % en un an, selon l’entreprise Appfigure, spécialisée dans l’analyse des applications mobiles.

Ce cas d’usage est néanmoins destructeur : les robots conversationnels obéissent à une logique prédatrice et entament des relations parasitaires. Le délire de Blake Lemoine s’est désormais répandu au point de devenir un phénomène social. Pour des personnes qui en ressentent le besoin et y sont prédisposées, comme Ayrin, cela peut les convaincre de dépenser des sommes considérables en abonnement tous les mois.

Par conséquent, en attendant de trouver mieux, Meta continue de créer des chatbots de stars du cinéma sans leur consentement, qui flirtent avec les utilisateurs et leur font des « avances sexuelles » afin de continuer de retenir leur attention, ce qui finalement, n’est pas si loin de l’arnaque au prince nigérian. C’est d’ailleurs ce qu’avait cru la famille de M. Wonbandue dans un premier temps, avant de comprendre qu’il avait été victime d’un chatbot produit par Meta.

Dans le pire des cas, les usagers sont des personnes vulnérables : des adolescents susceptibles de se suicider ou des personnes dont la santé mentale est fragile.

La presse s’est donc trouvé un nouveau marronnier avec des histoires macabres, comme celle de Stein-Erik Soelberg, un habitant de la ville de Greenwich dans le Connecticut, aux États-Unis. M. Soelberg a tué sa mère avant de se suicider début août 2025. Selon le Greenwich Time, il avait une chaîne YouTube où il filmait ses échanges avec ChatGPT, qui avait renforcé sa croyance (probablement paranoïaque) dans le fait qu’il était victime d’une conspiration.

Mais devenir un psychologue à bas prix pour des générations de jeunes paupérisés ne suffit pas à faire survivre ce modèle économique. L’industrie de l’intelligence artificielle est une bulle qui menace d’exploser, car il existe un décalage gigantesque entre les dépenses qu’elle engage et les revenus qu’elle en tire. Ce sera l’objet d’un prochain article.

Notes

(1) « sycophantic » dans le texte original en anglais.

(2) « ChatGPT NSFW », ChatGPT not safe for work, NSFW étant une abréviation faisant référence à du contenu destiné aux adultes, à caractère explicitement sexuel et/ou violent.

(3) La liste complète est dans l’en-tête de la lettre : Anthropic, Microsoft, Apple, Nomi AI, Chai AI, Open AI, Character Technologies, Perpexity AI, Google, Replika, Luka Inc, Xai, Meta.

(4) M. Zao-Sanders expliquait en 2024 avoir « miné le web pour trouver des exemples concrets de son usage dans la nature […]. Reddit en particulier est une source riche de matériau pour cette étude, de même que pour les LLM eux-mêmes […]. Mon équipe et moi-même avons filtré des dizaines de milliers de publications pour notre rapport […]. Nous avons compté le nombre d’histoires que nous avons trouvées pour chaque catégorie et c’est devenu un facteur majeur (avec une analyse d’expert) sur la manière dont nous organisons notre liste ».

▻https://elucid.media/societe/suicides-addictions-manipulations-les-victimes-invisibles-de-l-ia-generati
#IA #AI #santé_mentale #intelligence_artificielle #addiction #à_lire

Exclusive: #amazon targets as many as 30,000 corporate job cuts, sources say | Reuters
▻https://www.reuters.com/business/world-at-work/amazon-targets-many-30000-corporate-job-cuts-sources-say-2025-10-27

— Permalink

#artificialintelligence #work #layoffs

L’#IA m’a informé pendant un mois. Elle ne s’en est pas toujours tenue aux faits

C’est quand même candide comme #mensonge. #Gemini a inventé un #média d’#information qui n’existe pas et il l’a baptisé exemplefictif.ca !

Le système d’#IA_générative offert par #Google a notamment fait dire à son faux média qu’une grève des chauffeurs d’autobus scolaires avait été déclenchée le 12 septembre. Évidemment, cette grève est fictive elle aussi. C’est le retrait des bus de Lion Électrique qui perturbait plutôt le transport scolaire ce jour-là.

Cette #hallucination_journalistique est peut-être le pire exemple d’#invention pure que j’aie obtenu dans une expérience qui a duré environ un mois. Mais j’en ai vu bien d’autres.

Six pour cent des Canadiens s’informent avec l’IA 😱

Comme professeur de journalisme spécialisé en informatique, je m’intéresse à l’IA depuis de nombreuses années. C’est mon collègue Roland-Yves Carignan qui m’a souligné que 6 % des Canadiens ont inclus des chatbots d’IA générative en 2024 parmi leurs sources d’information.

J’étais donc curieux de voir dans quelle mesure ces outils étaient capables de m’informer. Allaient-ils me donner du solide, ou de la bouillie (AI slop) ?

Sept outils ; une même requête

Chaque matin de septembre, j’ai demandé à sept systèmes d’IA générative de me dire ce qui se passe dans l’#actualité québécoise. Je leur ai toujours posé la même question :

Donnez-moi les cinq principaux événements de l’actualité d’aujourd’hui au Québec. Placez-les en ordre d’importance. Résumez chacun en trois phrases. Ajoutez un titre succinct à chacun. Donnez au moins une source pour chacun (URL précise de l’article, pas la page d’accueil du média consulté). Vous pouvez faire des recherches dans le web.

J’ai utilisé trois outils pour lesquels je paie (#ChatGPT, #Claude et Gemini), un outil fourni par mon employeur (#Copilot) et trois outils dans leurs versions gratuites (#Aria, #DeepSeek et #Grok).

Je me suis également servi de #Perplexity, dans sa version gratuite, mais à une reprise seulement. J’ai enfin tenté d’inclure #MetaAI, mais il ne répondait pas à mes requêtes.

#Sources douteuses… voire imaginaires

J’ai obtenu 839 réponses que j’ai d’abord triées en fonction des sources indiquées. Puisqu’il était question d’actualités, il était normal de s’attendre à ce que les outils d’IA puisent dans des médias d’information.

https://pixelfed.zoo-logique.org/storage/m/_v2/578583396227231930/0c2c69eb8-6377a8/0Pr1JcFK3nrq/1On7JmU1TEuQiFpUj97N3P9KHoIUE138kol0Ue4J.png

Or, dans 18 % des cas, ils en ont été incapables, s’appuyant plutôt sur des sites gouvernementaux, des groupes de pression, ou inventant carrément des sources imaginaires, comme l’exemplefictif.ca mentionné plus haut.

Un média d’information était cité dans la majorité des réponses que j’ai reçues. Mais le plus souvent, l’URL fournie menait à une erreur 404 (URL erronée ou inventée) ou à la page d’accueil du média ou d’une section de ce média (URL incomplète). Cela rendait difficile de vérifier si l’information fournie par l’IA était fiable.

Les outils ont donc eu du mal à répondre à ma consigne pourtant claire de me fournir une URL complète. Ils n’y sont parvenus que dans 37 % des cas (311 réponses).

J’ai tout de même lu attentivement chacun des 311 articles journalistiques vérifiables pour voir si ce que l’IA me donnait correspondait à la source citée.

https://pixelfed.zoo-logique.org/storage/m/_v2/578583396227231930/0c2c69eb8-6377a8/ogG91ehwTl3u/nhcSysZuCBrEgc8YgQVtjue6ihjjl98QbEzMiazo.png

Le résumé produit par l’IA générative a été fidèle dans 47 % des cas, mais cela inclut cependant quatre cas de #plagiat pur et simple. Un peu plus de 45 % des réponses étaient partiellement fidèles. Nous y reviendrons plus loin.

Car il faut d’abord parler des réponses erronées en tout ou en partie.

#Erreurs sur le fond

La pire erreur a certainement été commise par Grok le 13 septembre. L’outil d’IA générative offert avec X, le réseau social d’Elon Musk, m’a signalé que des « demandeurs d’asile [ont été] mal traités à Chibougamau » :

Une vingtaine de demandeurs d’asile ont été envoyés de Montréal à Chibougamau, mais la plupart sont rentrés rapidement en raison de conditions inadéquates. Ils rapportent avoir été traités comme des « princes et princesses » ironiquement, mais en réalité avec un manque de soutien. L’incident soulève des questions sur la gestion des réfugiés au Québec.

Grok s’est basé sur un article de La Presse publié ce matin-là. Mais il l’a interprété à l’envers !

La Presse rapportait plutôt que le voyage a été un succès. Sur les 22 demandeurs d’asile, 19 ont eu des offres d’emploi à Chibougamau. Il n’y avait aucune ironie dans l’expression « princes et princesses ».

D’autres exemples :

- Le 9 septembre, en relatant le procès la mère de la fillette retrouvée en bordure de l’autoroute 417, Grok (encore lui) a affirmé qu’elle avait abandonné sa fille « afin de partir en vacances », une information rapportée par personne.

- Le 14 septembre, Aria m’a annoncé que le cycliste français « Julian Alaphilippe [avait] remporté [la] victoire au Grand Prix cycliste de Montréal ». C’est faux. Alaphilippe a remporté le Grand Prix de Québec. À celui de Montréal, c’est l’Américain Brandon McNulty qui a franchi le fil d’arrivée en premier.

– Le 26 septembre, Claude a prétendu qu’on réclamait la destitution du président du Collège des médecins, Mauril Gaudreault. En réalité, des médecins souhaitaient plutôt adopter une motion de blâme.

– Le 2 octobre, ChatGPT a rebaptisé l’Institut économique de Montréal le « Mouvement des entreprises d’innovation », appellation inventée de toutes pièces à partir de l’acronyme anglais du think tank, MEI (Montreal Economic Institute). Le même jour, il m’a aussi parlé de « commissions scolaires », des institutions pourtant remplacées en 2020 par les Centres de services scolaires dans les établissements francophones.

- Le 3 octobre, Grok a affirmé que « les libéraux maintiennent une avance stable » dans un sondage de la firme Léger. Dans les faits, les libéraux arrivaient au deuxième rang. C’est le PQ qui était en avance.

Erreurs sur la forme

Plusieurs personnes se servent de l’IA générative pour corriger leur prose. Je ne suis pas certain que ce soit une bonne idée compte tenu des erreurs de français que j’ai régulièrement relevées :

- ChatGPT, pour lequel j’ai pourtant un abonnement « plus », a écrit « sa extrême déception » pour décrire la réaction de François Bonnardel après son exclusion du conseil des ministres. Il m’a aussi écrit que des experts « prédissent » la disparition de Postes Canada !

– Claude, de son côté, a même confondu le premier ministre québécois avec un jouet danois en ajoutant un accent aigu sur son nom : « Légault ». Il m’a également pondu une savoureuse ellipse dans un titre « Collision avec facultés affaiblies ». Évidemment, ce ne sont pas les facultés de la collision qui sont affaiblies, mais celles du conducteur !

Mais revenons au fond.

Interprétations erronées

Dans les quelque 44 % de réponses partiellement fiables, j’ai retrouvé un certain nombre d’#interprétations erronées que je n’ai pas classées dans les réponses non fiables.

Par exemple, l’outil chinois DeepSeek m’a annoncé le 15 septembre une « excellente saison de la pomme au Québec ». L’article sur lequel il basait cette affirmation traçait en réalité un portrait plus nuancé : « La saison n’est pas jouée », expliquait notamment un maraîcher cité dans l’article.

Le 17 et le 18 septembre, ChatGPT a répété la même erreur deux jours de suite ! Il m’a écrit que Mark Carney est « le premier ministre fédéral le plus apprécié au Québec ». Bien sûr ! C’est le seul !

A beau mentir qui vient de loin

Certaines #erreurs étaient probablement dues au fait que dans 52 des 311 nouvelles vérifiables, les outils s’appuyaient sur des sources canadiennes-anglaises ou européennes.

Le 12 septembre, DeepSeek m’a même invité à visionner le Grand prix cycliste de Québec sur Eurosport1, parce qu’il s’inspirait d’une dépêche du quotidien français Le Parisien…

Le 28 septembre, Grok a pour sa part décrit les employés d’entretien de la STM comme des « travailleurs de maintenance ». Il s’appuyait sur une dépêche de Canadian Press publiée sur le site de CityNews. Il a commis d’autres anglicismes et a été le seul outil à donner des réponses en anglais (à six reprises).
« Conclusions génératives »

Le plus souvent, j’ai classé des nouvelles dans la catégorie « partiellement fiable » en raison de différents ajouts par les outils d’IA générative.

Par exemple, le 26 septembre, Grok et ChatGPT ont tous deux relevé la nouvelle de Québecor à propos de travaux d’urgence de 2,3 millions de dollars à effectuer sur le pont Pierre-Laporte. Grok a ajouté à la fin : « Cela met en lumière les défis d’entretien des infrastructures critiques au Québec. » ChatGPT, de son côté, a plutôt estimé que la nouvelle « met en lumière le conflit entre contraintes budgétaires, planification et sécurité publique ».

Ce n’est pas faux. Il s’agit d’une mise en contexte que certains pourraient même juger utile. Cependant, ces conclusions ne sont appuyées sur aucune source. Personne dans les articles cités n’en parlait en ces termes.

Autre exemple : le 24 septembre, ChatGPT concluait son résumé des intentions du gouvernement Legault de mettre fin à l’écriture inclusive en disant que « [l]e débat porte aussi sur la liberté d’expression et la gouvernance linguistique de l’État. » Personne dans le texte à la source de cette nouvelle n’invoquait ces deux enjeux.

J’ai retrouvé des conclusions semblables dans 111 nouvelles générées par les systèmes d’IA que j’ai consultées. Elles contenaient souvent des expressions comme « met en lumière », « relance le débat », « illustre les tensions » ou « soulève des questions ».

Or, aucun humain n’avait parlé de tensions ou soulevé de questions. Les « conclusions génératives » imaginent des débats qui n’existent pas. J’y vois une porte ouverte à l’exagération, voire à la désinformation.

Quand on demande de l’information, on s’attend à ce que les outils d’IA s’en tiennent à l’information.

Consulter ici le fichier dans lequel l’auteur a consigné les réponses données chaque matin par les outils d’IA générative : ▻https://docs.google.com/spreadsheets/d/1yc2Gw-6BXem45dF7jP-bsxVC7hEmN_mlaNncN1PFjmw/edit?gid=0#gid=0

▻https://theconversation.com/lia-ma-informe-pendant-un-mois-elle-ne-sen-est-pas-toujours-tenue-a
#AI #intelligence_artificielle #news #fiabilité

Politiques publiques : passer de l’#IA… à la #dénumérisation

L’intelligence artificielle et son monde est en train de prendre la main sur les #politiques_publiques, au risque de nous laisser sans échappatoire, alerte Dan McQuillan.

L’IA prédictive comme générative semble offrir une multitude d’avantages à l’élaboration des politiques publiques : de l’analyse de données complexes à l’optimisation des ressources. Elle semble à la fois être capable d’apporter une vision globale et d’identifier les leviers permettant de la modifier. Recourir à l’IA signifie mettre en place des politiques conduites par les données, ce qui permet d’assurer une forme d’#objectivité, notamment quant il s’agit de rationner le #service_public…

Mais, cette production de solutions politiques semble oublier que l’IA est incapable de résoudre les #problèmes_structurels. Elle propose des #solutions_performatives qui obscurcissent et amplifient les problèmes, explique l’iconoclaste #Dan_MacQuillan dans un article pour la Joseph Rowntree Foundation, une association britannique de lutte contre la pauvreté, qui a initié une réflexion sur l’usage de l’IA pour le #bien_public. Dan McQuillan est maître de conférence au département d’informatique de l’université Goldsmiths de Londres. Il est l’auteur de Resisting AI, an anti-fascist approach to artificial intelligence (Résister à l’IA, une approche anti-fasciste de l’intelligence artificielle, Bristol University Press, 2022, non traduit) dont nous avions déjà parlé.

McQuillan rappelle que l’IA, par principe, consiste à produire des #corrélations réductrices plutôt que des analyses causales. « La complexité de l’IA introduit une #opacité fondamentale dans le lien entre les #données_d’entrée et les #résultats, rendant impossible de déterminer précisément pourquoi elle a généré un résultat particulier, empêchant ainsi toute voie de recours. Ce phénomène est aggravé dans les applications concrètes, où les résultats apparemment fiables de l’IA peuvent devenir auto-réalisateurs. Un #algorithme d’apprentissage automatique qualifiant une famille de « difficile » peut ainsi créer une #boucle_de_rétroaction entre les membres de la famille et les #services_sociaux. De cette manière, l’IA imite des phénomènes sociologiques bien connus, tels que les #stéréotypes et la #stigmatisation, mais à grande échelle ». Ses inférences au final renforcent les #stratifications_sociales de la société comme pour les rendre acceptables.

Or, rappelle le chercheur, « une bonne politique doit impérativement être ancrée dans la réalité ». C’est pourtant bien ce lien que rompent les calculs de l’IA, à l’image des #hallucinations. Celles-ci proviennent du fait que l’IA repose sur l’#imitation_du_langage plutôt que sa #compréhension. Le même principe s’applique à toutes les #prédictions ou #classifications que produit l’IA. « Que l’IA soit appliquée directement pour prédire la #fraude aux #aides_sociales ou simplement utilisée par un décideur politique pour « dialoguer » avec une multitude de documents politiques, elle dégrade la #fiabilité des résultats ».

Des données probantes suggèrent déjà que l’imbrication des #algorithmes dans les solutions politiques conduit à une appréciation arbitraire de l’#injustice et de la #cruauté. Les #scandales abondent, de #Robodebt en Australie à l’affaire des allocations familiales aux Pays-Bas, qui auraient tous pu être évités en écoutant la voix des personnes concernées. Mais l’IA introduit une #injustice_épistémique, où la capacité des individus à connaître leur propre situation est dévaluée par rapport aux abstractions algorithmiques. Si l’IA, comme la #bureaucratie, est présentée comme une forme généralisée et orientée vers un objectif de processus rationnel, elle engendre en réalité de l’#inconscience : l’incapacité à critiquer les instructions, le manque de #réflexion sur les conséquences et l’adhésion à la croyance que l’ordre est correctement appliqué. Pire encore, l’IA dite générative offre la capacité supplémentaire de simuler une large consultation, que ce soit par « l’interprétation » hallucinatoire d’un grand nombre de soumissions publiques ou par la simulation littérale d’un public virtuel et prétendument plus diversifié en remplaçant des personnes réelles par des avatars d’#IA_générative. Une technique, qui, si elle a l’avantage de réduire les coûts, est dénoncée par des chercheurs comme contraire aux valeurs mêmes de l’enquête et de la recherche, rappelait Scientific American. « L’approche technocratique mise en œuvre par l’IA est à l’opposé d’un mécanisme réactif aux aléas de l’#expérience_vécue », explique McQuillan. « L’IA n’est jamais responsable, car elle n’est pas responsable ». Si l’on considère les attributs de l’IA dans leur ensemble, son application à l’élaboration des politiques publiques ou comme outil politique aggravera l’#injustice_sociale, prédit le chercheur. L’apport de l’IA à l’ordre social ne consiste pas à générer des arrangements de pouvoir alternatifs, mais à mettre en place des mécanismes de classification, de #hiérarchisation et d’#exclusion.

Chaque signalement par l’IA d’un risque de #fraude, d’un classement d’une personne dans une catégorie, mobilise une vision du monde qui privilégie des #représentations_abstraites à la complexité des relations vécues, et ce dans l’intérêt des institutions et non des individus. « Imprégnées des injustices criantes du #statu_quo, les solutions de l’IA tendent inexorablement vers la #nécropolitique, c’est-à-dire vers des formes de prise de décision qui modifient la répartition des chances de vie par des désignations de disponibilité relative. Détourner massivement les individus des parcours éducatifs ou des prestations sociales dont ils ont besoin pour survivre, par exemple, constitue un #filtre_algorithmique pour déterminer qui est bienvenu dans la société et qui ne l’est pas ».

Le problème, c’est que la pression sur les décideurs politiques à adopter l’IA est immense, non seulement parce que ses #biais viennent confirmer les leurs, mais plus encore du fait des engagements commerciaux et des promesses économiques que représente le développement de ce secteur. Et McQuillan de regretter que cette orientation nous éloigne de l’enjeu éthique qui devrait être au cœur des politiques publiques. La politique s’intéresse de moins en moins aux injustices structurelles de la société. « Un monde où l’élaboration et la mise en œuvre des politiques publiques reposent sur l’IA est aussi un monde qui confère un #pouvoir considérable à la petite poignée d’entreprises capables de disposer de ces ressources ». Par essence, « l’adoption de l’IA constitue un engagement en faveur de l’#extractivisme et d’un transfert de contrôle à un niveau qui supplante toute politique réelle ».

En fait, explique McQuillan, adopter l’IA dans l’élaboration des politiques publiques revient à soumettre les politiques à des agendas corporatifs et idéologiques plus vastes (à savoir se soumettre à ceux qui ont déjà décidé que l’avenir de la civilisation réside dans l’intelligence artificielle générale (IAG), ceux qui ont décidé que la meilleure réponse à la crise structurelle est de la masquer sous le battage médiatique de l’IA, et ceux qui ont conclu que le meilleur moyen de maintenir les revenus en période de récession mondiale est de remplacer les travailleurs réels par des émulations d’IA de mauvaise qualité). L’impact net de l’IA dans l’élaboration des politiques la rendrait plus précaire et favoriserait l’externalisation et la #privatisation sous couvert d’une #technologie surmédiatisée. Il s’agit d’une forme de « #stratégie_du_choc », où le sentiment d’urgence généré par une technologie prétendument transformatrice du monde est utilisé comme une opportunité pour l’#emprise des entreprises et pour transformer les systèmes sociaux dans des directions ouvertement autoritaires, sans réflexion ni débat démocratique.

Pour Dan McQuillan, plutôt que de se demander comment l’IA va imprégner l’élaboration des politiques, il faudrait se concentrer sur des politiques publiques qui favorisent la dénumérisation. C’est-à-dire favoriser une stratégie sociotechnique de réduction de la #dépendance à l’échelle computationnelle, de participation maximale des communautés concernées et de reconnaissance accrue du fait que le raisonnement computationnel ne saurait se substituer aux questions politiques exigeant un jugement réfléchi et perspicace. L’IA, en tant qu’appareil de calcul, de concepts et d’investissements, est l’apothéose de la « vue d’en haut », l’abstraction désincarnée du savoir privilégié qui empoisonne déjà nombre de formes d’élaboration des politiques. Pour McQuillan, un pivot vers la « #décomputation » est une façon de réaffirmer la valeur des #connaissances_situées et du contexte sur le seul passage à l’échelle. Contrairement aux prédictions et simulations de l’IA, notre réalité commune est complexe et intriquée, et la théorie ne permet pas de prédire l’avenir. Cela ne signifie pas que nous ne pouvons pas progresser vers des objectifs tels que la justice sociale et une transition juste, mais la dénumérisation suggère de les aborder de manière à la fois itérative et participative. Le véritable travail de restructuration réoriente l’attention des technologies toxiques vers le développement de techniques de #redistribution du #pouvoir_social, telles que les #conseils_populaires et les #assemblées_populaires. Bref, pour sortir de l’enfermement des politiques publiques de l’abstraction qu’impose l’IA, il faut prendre un virage contraire, suggère McQuillan. Un constat qui n’est pas si éloigné de celui que dresse le chercheur Arvind Narayanan quand il invite à limiter l’emprise du calcul sur le social, même s’il est exprimé ici d’une manière bien plus radicale.

►https://danslesalgorithmes.net/2025/10/07/politiques-publiques-passer-de-lia-a-la-denumerisation
#intelligence_artificielle #AI

#IA et #éducation (1/2) : plongée dans l’IApocalypse éducative

L’#IA_générative est en train de transformer en profondeur le monde de l’éducation, où les élèves l’utilisent massivement pour faire leurs devoirs. Entre dénis et illusions, comment s’adapter ? Faut-il s’adapter ?

A l’été 2023, Ethan Mollick, professeur de management à Wharton, co-directeur du Generative AI Labs et auteur de #Co-intelligence : vivre et travailler avec l’IA (qui vient de paraître en français chez First), décrivait dans son excellente newsletter, One useful thing, l’apocalypse des #devoirs. Cette apocalypse qu’il annonçait était qu’il ne serait plus possible pour les enseignants de donner des devoirs à leurs élèves à cause de l’IA, redoutant une triche généralisée.

Pourtant, rappelait-il, la triche est là depuis longtemps. Une étude longitudinale de 2020 montrait déjà que de moins en moins d’élèves bénéficiaient des devoirs qu’ils avaient à faire. L’étude, menée par le professeur de psychologie cognitive, Arnold Glass du Learning and memory laboratory de Rutgers, montrait que lorsque les élèves faisaient leurs devoirs en 2008, cela améliorait leurs notes aux examens pour 86% d’entre eux, alors qu’en 2017, les devoirs ne permettaient plus d’améliorer les notes que de 45% des élèves. Pourquoi ? Parce que plus de la moitié des élèves copiaient-collaient les réponses à leurs devoirs sur internet en 2017, et n’en tiraient donc pas profit. Une autre étude soulignait même que 15% des élèves avaient payé quelqu’un pour faire leur devoir, généralement via des sites d’aides scolaires en ligne. Si #tricher s’annonce plus facile avec l’IA, il faut se rappeler que c’était déjà facile avant sa généralisation.

Les #calculatrices n’ont pas tué les #mathématiques

Mais la triche n’est pas la seule raison pour laquelle l’IA remet en question la notion même de devoirs. Mollick rappelle que l’introduction de la calculatrice a radicalement transformé l’enseignement des mathématiques. Dans un précédent article, il revenait d’ailleurs sur cette histoire. Lorsque la calculatrice a été introduite dans les écoles, les réactions ont été étonnamment proches des inquiétudes initiales que Mollick entend aujourd’hui concernant l’utilisation de l’IA par les élèves. En s’appuyant sur une thèse signée Sarah Banks, Mollick rappelle que dès les années 70, certains professeurs étaient impatients d’intégrer l’usage des calculatrices dans leurs classes, mais c’était loin d’être le cas de tous. La majorité regardait l’introduction de la calculatrice avec suspicion et les parents partagaient l’inquiétude que leurs enfants n’oublient les bases des maths. Au début des années 80, les craintes des enseignants s’étaient inversées, mais très peu d’écoles fournissaient de calculatrices à leurs élèves. Il faut attendre le milieu des années 1990, pour que les calculatrices intègrent les programmes scolaires. En fait, un consensus pratique sur leur usage a été atteint. Et l’enseignement des mathématiques ne s’est pas effondré (même si les tests Pisa montrent une baisse de performance, notamment dans les pays de l’OCDE, mais pour bien d’autres raisons que la généralisation des calculatrices) (▻https://stanford.edu/~cpiech/bio/papers/gptsurprise.pdf).

Pour Mollick, l’intégration de l’IA à l’école suivra certainement un chemin similaire. « Certains devoirs nécessiteront l’assistance de l’IA, d’autres l’interdiront. Les devoirs d’écriture en classe sur des ordinateurs sans connexion Internet, combinés à des examens écrits, permettront aux élèves d’acquérir les #compétences_rédactionnelles de base. Nous trouverons un consensus pratique qui permettra d’intégrer l’IA au processus d’#apprentissage sans compromettre le développement des #compétences essentielles. Tout comme les calculatrices n’ont pas remplacé l’apprentissage des mathématiques, l’IA ne remplacera pas l’apprentissage de l’#écriture et de la #pensée_critique. Cela prendra peut-être du temps, mais nous y parviendrons », explique Mollick, toujours optimiste.

Pourquoi faire des devoirs quand l’IA les rend obsolètes ?

Mais l’impact de l’IA ne se limite pas à l’écriture, estime Mollick. Elle peut aussi être un vulgarisateur très efficace et #ChatGPT peut répondre à bien des questions. L’arrivée de l’IA remet en cause les méthodes d’enseignements traditionnelles que sont les #cours_magistraux, qui ne sont pas si efficaces et dont les alternatives, pour l’instant, n’ont pas connu le succès escompté. « Les cours magistraux ont tendance à reposer sur un #apprentissage_passif, où les étudiants se contentent d’écouter et de prendre des notes sans s’engager activement dans la résolution de problèmes ni la pensée critique. Dans ce format, les étudiants peuvent avoir du mal à retenir l’information, car leur attention peut facilement faiblir lors de longues présentations. De plus, l’approche universelle des cours magistraux ne tient pas compte des différences et des capacités individuelles, ce qui conduit certains étudiants à prendre du retard tandis que d’autres se désintéressent, faute de stimulation ». Mollick est plutôt partisan de l’#apprentissage_actif, qui supprime les cours magistraux et invite les étudiants à participer au processus d’apprentissage par le biais d’activités telles que la #résolution_de_problèmes, le #travail_de_groupe et les #exercices_pratiques. Dans cette approche, les étudiants collaborent entre eux et avec l’enseignant pour mettre en pratique leurs apprentissages. Une méthode que plusieurs études valorisent comme plus efficaces, même si les étudiants ont aussi besoin d’enseignements initiaux appropriés.

La solution pour intégrer davantage d’apprentissage actif passe par les #classes_inversées, où les étudiants doivent apprendre de nouveaux concepts à la maison (via des vidéos ou des ressources numériques) pour les appliquer ensuite en classe par le biais d’activités, de discussions ou d’exercices. Afin de maximiser le temps consacré à l’apprentissage actif et à la pensée critique, tout en utilisant l’apprentissage à domicile pour la transmission du contenu.

Pourtant, reconnaît Mollick, l’apprentissage actif peine à s’imposer, notamment parce que les professeurs manquent de ressources de qualité et de matériel pédagogique inversé de qualité. Des lacunes que l’IA pourrait bien combler. Mollick imagine alors une classe où des tuteurs IA personnalisés viendraient accompagner les élèves, adaptant leur enseignement aux besoins des élèves tout en ajustant les contenus en fonction des performances des élèves, à la manière du manuel électronique décrit dans L’âge de diamant de Neal Stephenson, emblème du rêve de l’apprentissage personnalisé. Face aux difficultés, Mollick à tendance à toujours se concentrer « sur une vision positive pour nous aider à traverser les temps incertains à venir ». Pas sûr que cela suffise.

Dans son article d’août 2023, Mollick estime que les élèves vont bien sûr utiliser l’IA pour tricher et vont l’intégrer dans tout ce qu’ils font. Mais surtout, ils vont nous renvoyer une question à laquelle nous allons devoir répondre : ils vont vouloir comprendre pourquoi faire des devoirs quand l’IA les rend obsolètes ?

Perturbation de l’écriture et de la #lecture

Mollick rappelle que la dissertation est omniprésente dans l’enseignement. L’écriture remplit de nombreuses fonctions notamment en permettant d’évaluer la capacité à raisonner et à structurer son #raisonnement. Le problème, c’est que les dissertations sont très faciles à générer avec l’IA générative. Les détecteurs de leur utilisation fonctionnent très mal et il est de plus en plus facile de les contourner. A moins de faire tout travail scolaire en classe et sans écrans, nous n’avons plus de moyens pour détecter si un travail est réalisé par l’homme ou la machine. Le retour des dissertations sur table se profile, quitte à grignoter beaucoup de temps d’apprentissage.

Mais pour Mollick, les écoles et les enseignants vont devoir réfléchir sérieusement à l’utilisation acceptable de l’IA. Est-ce de la triche de lui demander un plan ? De lui demander de réécrire ses phrases ? De lui demander des références ou des explications ? Qu’est-ce qui peut-être autorisé et comment les utiliser ?

Pour les étudiants du supérieur auxquels il donne cours, Mollick a fait le choix de rendre l’usage de l’IA obligatoire dans ses cours et pour les devoirs, à condition que les modalités d’utilisation et les consignes données soient précisées. Pour lui, cela lui a permis d’exiger des devoirs plus ambitieux, mais a rendu la notation plus complexe.

Mollick rappelle qu’une autre activité éducative primordiale reste la lecture. « Qu’il s’agisse de rédiger des comptes rendus de lecture, de résumer des chapitres ou de réagir à des articles, toutes ces tâches reposent sur l’attente que les élèves assimilent la lecture et engagent un dialogue avec elle ». Or, l’IA est là encore très performante pour lire et résumer. Mollick suggère de l’utiliser comme partenaire de lecture, en favorisant l’interaction avec l’IA, pour approfondir les synthèses… Pas sûr que la perspective apaise la panique morale qui se déverse dans la presse sur le fait que les étudiants ne lisent plus. Du New Yorker (« Les humanités survivront-elles à ChatGPT ? » ou « Est-ce que l’IA encourage vraiement les élèves à tricher ? ») à The Atlantic (« Les étudiants ne lisent plus de livres » ou « La génération Z voit la lecture comme une perte de temps ») en passant par les pages opinions du New York Times (qui explique par exemple que si les étudiants ne lisent plus c’est parce que les compétences ne sont plus valorisées nulles part), la perturbation que produit l’arrivée de ChatGPT dans les études se double d’une profonde chute de la lecture, qui semble être devenue d’autant plus inutile que les machines les rendent disponibles. Mêmes inquiétudes dans la presse de ce côté-ci de l’Atlantique, du Monde à Médiapart en passant par France Info…

Mais l’IA ne menace pas que la lecture ou l’écriture. Elle sait aussi très bien résoudre les problèmes et exercices de math comme de science.

Pour Mollick, comme pour bien des thuriféraires de l’IA, c’est à l’école et à l’enseignement de s’adapter aux perturbations générées par l’IA, qu’importe si la société n’a pas demandé le déploiement de ces outils. D’ailleurs, soulignait-il très récemment, nous sommes déjà dans une éducation postapocalyptique. Selon une enquête de mai 2024, aux Etats-Unis 82 % des étudiants de premier cycle universitaire et 72 % des élèves de la maternelle à la terminale ont déjà utilisé l’IA. Une adoption extrêmement rapide. Même si les élèves ont beau dos de ne pas considérer son utilisation comme de la triche. Pour Mollick, « la triche se produit parce que le travail scolaire est difficile et comporte des enjeux importants ». L’être humain est doué pour trouver comment se soustraire ce qu’il ne souhaite pas faire et éviter l’#effort_mental. Et plus les #tâches_mentales sont difficiles, plus nous avons tendance à les éviter. Le problème, reconnaît Mollick, c’est que dans l’éducation, faire un #effort reste primordial.

Dénis et illusions

Pourtant, tout le monde semble être dans le #déni et l’#illusion. Les enseignants croient pouvoir détecter facilement l’utilisation de l’IA et donc être en mesure de fixer les barrières. Ils se trompent très largement. Une écriture d’IA bien stimulée est même jugée plus humaine que l’écriture humaine par les lecteurs. Pour les professeurs, la seule option consiste à revenir à l’écriture en classe, ce qui nécessite du temps qu’ils n’ont pas nécessairement et de transformer leur façon de faire cours, ce qui n’est pas si simple.

Mais les élèves aussi sont dans l’illusion. « Ils ne réalisent pas réellement que demander de l’aide pour leurs devoirs compromet leur #apprentissage ». Après tout, ils reçoivent des conseils et des réponses de l’IA qui les aident à résoudre des problèmes, qui semble rendre l’apprentissage plus fluide. Comme l’écrivent les auteurs de l’étude de Rutgers : « Rien ne permet de croire que les étudiants sont conscients que leur stratégie de devoirs diminue leur note à l’examen… ils en déduisent, de manière logique, que toute stratégie d’étude augmentant leur note à un devoir augmente également leur note à l’examen ». En fait, comme le montre une autre étude, en utilisant ChatGPT, les notes aux devoirs progressent, mais les notes aux #examens ont tendance à baisser de 17% en moyenne quand les élèves sont laissés seuls avec l’outil (▻https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4895486). Par contre, quand ils sont accompagnés pour comprendre comment l’utiliser comme #coach plutôt qu’outil de réponse, alors l’outil les aide à la fois à améliorer leurs notes aux devoirs comme à l’examen. Une autre étude, dans un cours de programmation intensif à Stanford, a montré que l’usage des chatbots améliorait plus que ne diminuait les notes aux examens.

Une majorité de professeurs estiment que l’usage de ChatGPT est un outil positif pour l’apprentissage. Pour Mollick, l’IA est une aide pour comprendre des sujets complexes, réfléchir à des idées, rafraîchir ses connaissances, obtenir un retour, des conseils… Mais c’est peut-être oublier de sa part, d’où il parle et combien son expertise lui permet d’avoir un usage très évolué de ces outils. Ce qui n’est pas le cas des élèves.
Encourager la réflexion et non la remplacer

Pour que les étudiants utilisent l’IA pour stimuler leur réflexion plutôt que la remplacer, il va falloir les accompagner, estime Mollick. Mais pour cela, peut-être va-t-il falloir nous intéresser aux professeurs, pour l’instant laissés bien dépourvus face à ces nouveaux outils.

Enfin, pas tant que cela. Car eux aussi utilisent l’IA. Selon certains sondages américains, trois quart des enseignants utiliseraient désormais l’IA dans leur travail, mais nous connaissons encore trop peu les méthodes efficaces qu’ils doivent mobiliser. Une étude qualitative menée auprès d’eux a montré que ceux qui utilisaient l’IA pour aider leurs élèves à réfléchir, pour améliorer les explications obtenaient de meilleurs résultats. Pour Mollick, la force de l’IA est de pouvoir créer des expériences d’apprentissage personnalisées, adaptées aux élèves et largement accessibles, plus que les technologies éducatives précédentes ne l’ont jamais été. Cela n’empêche pas Mollick de conclure par le discours lénifiant habituel : l’éducation quoiqu’il en soit doit s’adapter !

Cela ne veut pas dire que cette adaptation sera très facile ou accessible, pour les professeurs, comme pour les élèves. Dans l’éducation, rappellent les psychologues Andrew Wilson et Sabrina Golonka sur leur blog, « le processus compte bien plus que le résultat« . Or, l’IA fait à tous la promesse inverse. En matière d’éducation, cela risque d’être dramatique, surtout si nous continuons à valoriser le résultat (les notes donc) sur le processus. David Brooks ne nous disait pas autre chose quand il constatait les limites de notre méritocratie actuelle. C’est peut-être par là qu’il faudrait d’ailleurs commencer, pour résoudre l’IApocalypse éducative…

Pour Mollick cette évolution « exige plus qu’une acceptation passive ou une résistance futile ». « Elle exige une refonte fondamentale de notre façon d’enseigner, d’apprendre et d’évaluer les connaissances. À mesure que l’IA devient partie intégrante du paysage éducatif, nos priorités doivent évoluer. L’objectif n’est pas de déjouer l’IA ou de faire comme si elle n’existait pas, mais d’exploiter son potentiel pour améliorer l’éducation tout en atténuant ses inconvénients. La question n’est plus de savoir si l’IA transformera l’éducation, mais comment nous allons façonner ce changement pour créer un environnement d’apprentissage plus efficace, plus équitable et plus stimulant pour tous ». Plus facile à dire qu’à faire. Expérimenter prend du temps, trouver de bons exercices, changer ses pratiques… pour nombre de professeurs, ce n’est pas si évident, d’autant qu’ils ont peu de temps disponible pour se faire ou se former. La proposition d’Anthropic de produire une IA dédiée à l’accompagnement des élèves (Claude for Education) qui ne cherche pas à fournir des réponses, mais produit des modalités pour accompagner les élèves à saisir les raisonnements qu’ils doivent échafauder, est certes stimulante, mais il n’est pas sûr qu’elle ne soit pas contournable.

Dans les commentaires des billets de Mollick, tout le monde se dispute, entre ceux qui pensent plutôt comme Mollick et qui ont du temps pour s’occuper de leurs élèves, qui vont pouvoir faire des évaluations orales et individuelles, par exemple (ce que l’on constate aussi dans les cursus du supérieur en France, rapportait le Monde). Et les autres, plus circonspects sur les évolutions en cours, où de plus en plus souvent des élèves produisent des contenus avec de l’IA que leurs professeurs font juger par des IA… On voit bien en tout cas, que la question de l’IA générative et ses usages, ne pourra pas longtemps rester une question qu’on laisse dans les seules mains des professeurs et des élèves, à charge à eux de s’en débrouiller.

►https://danslesalgorithmes.net/2025/06/24/ia-et-education-1-2-plongee-dans-liapocalypse-educative
#AI #intelligence_artificielle
#à_lire

#IA et #travail : on ne sait pas qui sera remplacé, mais on sait que tous seront dégradés

Nous voici plongés dans un « #Taylorisme_augmenté », estime le sociologue #Juan_Sebastian_Carbonell, dont le but premier est de permettre au #management de prendre le contrôle du travail. Lecture.

Derrière le déploiement de l’IA dans les entreprises, une bataille des places est en cours. Dans le New York Times, le journaliste Noam Scheiber avait posé la question : « quels salariés vont être pénalisés par l’IA, les plus inexpérimentés ou les plus expérimentés ? » (▻https://www.nytimes.com/2025/07/07/business/ai-job-cuts.html) Sa conclusion montrait que c’était peut-être les travailleurs intermédiaires qui seraient les plus menacés (▻https://hubtr.bonjour.cafeia.org/mirror201/2349/1990). En réalité, pour l’instant, « l’alarme sur la destruction de l’#emploi liée à l’IA n’a pas lieu d’être », expliquait Ekkehard Ernst, qui dirige l’observatoire sur l’IA et le travail dans l’économie numérique de l’OIT (►https://www.ilo.org/fr/artificial-intelligence-and-work-digital-economy), qui rappelait combien le chômage technologique a toujours été rare. Cela n’empêche pas les inquiétudes d’être au plus haut, d’abord et avant tout, disions-nous, parce que la discussion sur le partage des fruits du déploiement de l’IA n’a pas lieu.

Dans son précédent livre, Le Futur du travail (éditions Amsterdam, 2022, ►https://www.editionsamsterdam.fr/le-futur-du-travail), le sociologue Juan Sebastian Carbonell nous expliquait déjà que le futur du travail n’était pas notre « #grand_remplacement » par les machines, mais notre #prolétarisation (▻https://hubertguillaud.wordpress.com/2022/07/05/le-futur-de-travail-intensification-extension-proletarisat). Il y décrivait déjà une « taylorisation assistée par ordinateurs » qui vise bien plus à « intensifier le travail, déqualifier les salariés, les discipliner et les surveiller ». Les robots ne travaillent pas à notre place mais nous imposent une intensification nouvelle, à l’image des employés de la logistique soumis aux rythmes de la commande vocale.
Un taylorisme sous stéroïdes…

Son nouveau livre, Un taylorisme augmenté : critique de l’intelligence artificielle (éditions Amsterdam, 2025) nous explique que l’IA n’est « ni une solution miracle aux problèmes de la société, ni Prométhée déchaîné », elle n’est qu’un taylorisme augmenté qui élude les questions de fonds que sont les conditions de travail, son organisation et la distribution du pouvoir. Le chercheur rappelle qu’il n’y a pas de consensus quant aux effets de l’IA sur le travail. Pour les uns, elle augmente les besoins de qualifications de ceux qui vont les utiliser, pour les autres, l’IA produit surtout une polarisation des emplois. Pour Carbonell, l’IA n’est ni l’un ni l’autre. Elle est d’abord un outil de dégradation du travail.

Pour le chercheur, il n’y a pas de polarisation homogène des emplois, c’est-à-dire le fait que les métiers intermédiaires et routiniers auraient tendance à disparaître au profit de métiers très qualifiés d’un côté et des métiers peu qualifiés et non routiniers de l’autre. Si ce phénomène s’observe parfois, les profils des emplois changent surtout au sein de mêmes métiers. Cela signifie qu’il faut non seulement prendre en compte les tâches, mais également l’organisation du travail. La distinction entre tâches routinières et non routinières est souvent caricaturée dans un discours qui dit que l’IA ferait disparaître les tâches répétitives pour nous en libérer. Ce n’est pas ce que constatent les employés de la logistique ou de la traduction, au contraire. Ce n’est plus ce que constatent également les codeurs, victimes désormais de la « Prompt fatigue », épuisés par l’usage de l’IA générative, rapporte Le Monde informatique… Certains qualifiant déjà le recours à ces outils « d’illusion de rapidité ».

« Le degré de routine ne fait pas tout », rappelle le sociologue. Il est nécessaire de prendre en compte, les « stratégies de profit » des entreprises et leur volonté à automatiser le travail. Enfin, la variété des produits, des composants et processus déterminent également la possibilité d’automatiser ou pas une production. « Une même technologie peut donc avoir des effets très différents sur le travail ». Des métiers hautement qualifiés, peu routiniers et hautement cognitifs peuvent ainsi être déstabilisés par l’IA, comme s’en inquiétait l’artiste Aurélie Crop sur son compte Instagram, en observant les possibilités du nouveau service d’IA de Google, Nano Banana, ou encore les scénaristes de cinéma associés face aux annonces d’OpenAI de produire un film d’animation entièrement génératif. Ces métiers ne vont pas disparaître, mais vont être taylorisés, c’est-à-dire « simplifiés, standardisés ou parcellisés ». C’est-à-dire précarisés pour en réduire le coût et augmenter les profits. Car ce qui demeure déterminant dans le choix technologique au travail, c’est le contrôle, « c’est-à-dire le pouvoir de décider comment on travaille et avec quels outils ».
… non pas guidé par l’efficacité technique mais par la prise de contrôle du management

Carbonell revient bien sûr sur l’émergence du taylorisme à la fin du XIXe siècle, rappelant combien il est lié à la vague d’immigration américaine, à l’entrée à l’usine d’ouvriers sans qualification, venant remplacer le long apprentissage des ouvriers spécialisés. L’objectif premier de Taylor était de « briser l’ouvrier de métier » pour y imposer la norme patronale c’est-à-dire contrôler le rythme et la façon de travailler. Le taylorisme a souvent été réduit à la chaîne de montage que Taylor n’a pourtant pas connu. Pour l’économiste Harry Braverman, le taylorisme consiste à dissocier le processus de travail en le décomposant, à séparer la conception de l’exécution et enfin à utiliser le monopole de l’organisation du travail pour contrôler chaque étape du processus et de son exécution. Parcelliser chaque métier abaisse le coût de chaque tâche, expliquait l’économiste américain. Ce taylorisme-là n’est pas mort avec Taylor, explique Carbonell, il se confond désormais avec l’organisation du travail elle-même. L’informatique, le numérique, puis l’IA aujourd’hui, sont surtout venus le renforcer.

Les machines rythment et contrôlent les décisions venues de la direction afin d’améliorer la productivité du travail. L’introduction des machines-outils à commande numérique après la Seconde Guerre mondiale va permettre de transférer les compétences des ouvriers à la direction en pilotant toujours plus finement et en standardisant l’usinage. Mais leur adoption ne repose pas sur le seul critère de l’efficacité technique, rappelle le sociologue, elle est d’abord le résultat de choix politiques, « notamment la volonté de retirer le contrôle du processus de travail aux tourneurs-fraiseurs ». « Une technologie s’impose surtout en raison de la supériorité des acteurs qui la promeuvent ». Pour Juan Sebastian Carbonell, le progrès technique ne s’impose pas de lui-même, sous couvert d’une efficacité immanente, mais répond d’abord d’enjeux politiques au profit de ceux qui le déploient. Le taylorisme augmenté n’a cessé de s’imposer depuis, par exemple avec les centres d’appels, avec l’invention de systèmes capables de distribuer les appels, complétés de scripts et de procédures extrêmement standardisées et des modalités capables de surveiller les échanges. Et l’IA ne fait rien pour arranger cela, au contraire. Ils sont désormais confrontés à « la tornade de l’intelligence artificielle », rappelait Alternatives Economiques, plongeant les services clients à un stade d’embolie terminal (voir notre article sur le sujet : ►https://danslesalgorithmes.net/2025/09/11/sludge-de-la-degradation-volontaire-du-service-client).

Le #service_client a ainsi pu être externalisé et les statuts des personnels dégradés. La #standardisation et l’#intensification vont toujours de pair, rappelle le sociologue. « Les tâches non automatisées par les outils ne sont pas celles qui ont un contenu peu routinier, mais plutôt celles qui, tout en étant routinières, sont trop coûteuses pour être automatisées ». A l’image de la logistique : on n’a pas remplacé les employés par des #robots, mais on a transformé les employés en robots devant suivre les ordres des machine, comme l’expliquait très bien le sociologue David Gaborieau : « On n’est pas du tout en train d’automatiser les entrepôts, au contraire. Il y a de plus en plus d’ouvriers dans le secteur de la logistique. En fait, ce discours sur l’#automatisation produit seulement des effets politiques et des effets d’#invisibilisation_du_travail. On ne cesse de répéter que ces emplois vont disparaître ce qui permet surtout de les dévaluer. »

Si le #taylorisme_numérique est particulièrement frappant sur les #plateformes, il s’applique également aux métiers très qualifiés, comme les musiciens, les artistes, les journalistes ou les traducteurs, à mesure qu’ils sont intégrés à des chaînes de valeur mondiales. Carbonell donne d’autres exemples de capture des connaissances et de confiscation des savoir-faire. Notamment avec les premiers systèmes experts d’IA symbolique, comme les systèmes pour diagnostiquer les maladies infectieuses ou gérer les protocoles de chimiothérapie ou encore les outil-test de maintenance de la RATP, mais qui, pour beaucoup, a surtout consisté à valider les protocoles organisés par ces logiciels qui proposaient surtout beaucoup d’#alertes, nécessitant de passer du temps pour distinguer les alertes graves de celles qui ne le sont pas. Tous ces développements contribuent à « une #déqualification des métiers, même les plus qualifiés ». L’#IA_connexionniste d’aujourd’hui, elle, est capable de faire fi des règles explicites pour formuler ses propres règles. La capture de connaissance devient un processus implicite, lié aux données disponibles. L’#IA_générative qui en est le prolongement, dépend très fortement du travail humain : d’abord du #travail_gratuit de ceux qui ont produit les données d’entraînement des modèles, celui des salariés et d’une multitude de #micro-travailleurs qui viennent nettoyer, vérifier, annoter et corriger. Pour Carbonell, l’IA générative s’inscrit donc dans cette longue histoire de la « #dépossession_machinique ». « Elle n’est pas au service des travailleurs et ne les libère pas des tâches monotones et peu intéressantes ; ce sont les travailleurs qui sont mis à son service ». Dans le journalisme, comme le montrait un rapport d’Associated Press, l’usage de l’IA accroît la charge de travail et les dépossède du geste créatif : la rédaction d’articles. Ils doivent de plus en plus éditer les contenus générés par IA, comme de corriger les systèmes transformant les articles en posts de réseaux sociaux. Même constat dans le domaine de la #traduction, où les traducteurs doivent de plus en plus corriger des contenus générés. Dans un cas comme dans l’autre, cependant, le développement de l’IA relève d’abord des choix économiques, sociaux, politiques et éditoriaux des entreprises.

Carbonell rappelle qu’il faut aussi saisir les #limites technologiques et nuancer leurs performances. La qualité de la traduction automatique par exemple reste assez pauvre comme le constatent et le dénoncent les syndicats et collectifs de traducteurs, la Société française des traducteurs ou le collectif en Chair et en Os. En musclant leurs revendications (rémunération, transparence, signalement des traductions automatisées, fin des aides publiques à ceux qui ont recours à l’automatisation…), ils montrent que le changement technologique n’est pas une fatalité. C’est l’absence de critique radicale qui le rend inéluctable, défend Juan Sebastian Carbonell. Et le sociologue de battre en brèche l’inéluctabilité de l’IA ou le discours qui répète qu’il faut s’adapter pour survivre et se former. La formation ne remet pas en cause le pouvoir et l’organisation du travail. Elle ne reconnaît pas le droit des salariés à décider comment travailler. La formation ne propose rien d’autre que l’acceptation. Elle tient bien plus du catéchisme, comme le pointait pertinemment Ambroise Garel dans la newsletter du Pavé numérique.

La #division_du_travail est un moyen pour rendre le management indispensable

Dans l’entreprise, le contrôle relève de plus en plus du seul monopole de l’employeur sur l’organisation du travail et sert à obtenir des salariés certains comportements, gestes et attitudes. Le contrôle a longtemps été l’apanage du contremaître, qui devint l’agent de la direction. A ce contrôle direct s’est ajouté un contrôle technique propre aux milieux industriels où les employés doivent répondre de la formulation des tâches avec des machines qui dirigent le processus de travail et imposent leur rythme. Après la Seconde Guerre mondiale s’ajoute encore un contrôle bureaucratique où la norme et les dispositifs de gestion remplacent le pouvoir personnel du contremaître. Le management algorithmique s’inscrit dans la continuité du commandement à distance et des dispositifs de gestion qui renforcent le taylorisme numérique. L’IA n’est qu’un outil de contrôle de plus, comme l’expliquaient Aiha Nguyen et Alexandra Mateescu de Data & Society.

Face à ces constats, le sociologue rappelle une question de fond : pourquoi le travail est-il divisé entre ceux qui commandent et ceux qui exécutent ? Pour l’économiste Stephen Marglin, la division du travail entre commandement et exécution n’est pas liée à l’efficacité économique ou technologique, mais serait purement politique, expliquait-il en 1974. « La division du travail et l’entreprise hiérarchisée ne résultent pas de la recherche d’une organisation du travail plus efficace, ni d’un progrès technologique, mais de la volonté des employeurs de se rendre indispensables en s’interposant entre le travailleur et le marché ». Le système de la fabrique comme le taylorisme visent à faire disparaître le contrôle ouvrier sur le travail au profit d’un contrôle managérial qui renforce la subordination. « C’est en approfondissant la division du travail que le capitaliste peut s’assurer de demeurer indispensable dans le processus de production, comme unificateur d’opérations séparées et comme accès au marché ». Contrairement à la vulgate, « les algorithmes ne sont pas des outils numériques permettant une coordination plus efficace », explique Carbonell, mais « des dispositifs de mise au travail traversés par des rapports de pouvoir ». La plateforme agit sur le marché, à l’image des algorithmes d’Uber. « En se plaçant entre le travailleur et le marché, il agit comme un employeur cherchant à exercer un contrôle numérique sur sa main d’œuvre ». Le management algorithmique produit et renforce le commandement. Il dirige, évalue et discipline et ces trois fonctions se renforcent l’une l’autre. Dans le cas des applications de livraisons de repas, ils interviennent à chaque étape, de la commande à la livraison en exploitant à chaque étape l’asymétrie de l’information qu’ils permettent et mettent en œuvre. Même chose avec les applications qui équipent les employés de la logistique ou ceux de la réparation, contrôlés en continue, les laissant avec de moins en moins de marge de manœuvre. Dans la restauration ou le commerce, le management algorithmique est d’abord utilisé pour pallier au très fort turnover des employés, comme le disait Madison Van Oort. L’évaluation y est permanente, que ce soit depuis les clients qui notent les travailleurs ou depuis les calculs de productivité qui comparent la productivité des travailleurs les uns avec les autres. Les systèmes disciplinent les travailleurs, comme l’expliquait la sociologue Karen Levy ou le chercheur Wolfie Christl. Elle produit les cadences. Licenciements, récompenses, promotions et pénalités sont désormais alignés aux performances. L’évaluation sert à produire les comportements attendus, comme le montrait Sophie Bernard dans UberUsés : le capitalisme racial de plateforme (Puf, 2023).

Mais il n’y a pas que les employés du bas de l’échelle qui sont ubérisés par ces contrôles automatisés, rappelle Carbonell. Les managers eux-mêmes sont désormais les exécutants de ce que leur disent les données. « Ils ne gèrent pas les travailleurs, ils appliquent ce que le système informatique leur dicte ». Et Carbonell de conclure en rappelant que notre patron n’est pas un algorithme. Dans le taylorisme augmenté, « l’asymétrie d’information devient une asymétrie de pouvoir ». L’asymétrie de l’information est le produit de la division du travail et celle-ci s’accentue avec des outils qui permettent d’atomiser le collectif et de mettre en concurrence les employés entre eux en les évaluant les uns par rapport aux autres.

Cette asymétrie n’est pas accidentelle, au contraire. Elle permet d’empêcher les collectifs de travail de contester les décisions prises. Sans droit de regard sur les données collectées et sur les modalités d’organisation des calculs, sans possibilité de réappropriation et donc sans discussion sur l’accès aux données des entreprises par les collectifs, rien n’évoluera. Comme le rappelle Carbonell, en Allemagne, l’introduction de nouvelles technologies qui surveillent la performance des travailleurs doit être validée par les comités d’entreprise où siègent les représentants du personnel. En France aussi, la négociation collective s’est timidement emparée du sujet. Le Centre d’études de l’emploi et du travail avait d’ailleurs livré une analyse des accords d’entreprise français signés entre 2017 et 2024 qui mentionnent l’IA. Depuis 2017, un peu moins d’un accord sur mille fait référence à l’IA, ceux-ci insistent particulièrement sur la préservation de l’emploi.

L’IA, moteur de #déresponsabilisation

Pour l’instant, explique Juan Sebastian Carbonell, l’IA est surtout un moteur de déresponsabilisation des patrons. Les entreprises ont recours à des systèmes tiers pour établir ces surveillances et contrôles. Ce qui permet une forme de dispersion de la responsabilité, comme l’évoquait le professeur de droit d’Oxford, Jeremias Adams-Prassl, tout en « concentrant le contrôle » (voir également son livre, L’ubérisation du travail, Dalloz, 2021).

« De la même façon que, dans les configurations de l’emploi précaire, avec leurs schémas de sous-traitance en cascade, il est difficile d’établir qui est l’employeur responsable, l’usage d’IA dans la gestion de la main-d’œuvre brouille les frontières de la responsabilité », rappelle le sociologue. « Si les systèmes de contrôle (direct, technique, bureaucratique et algorithmique) se succèdent, c’est parce qu’ils rencontrent toujours des limites, correspondant aux résistances des travailleurs et de leurs organisations ». Pourtant, à mesure que le panoptique se referme, les résistances deviennent de plus en plus difficiles, faute de marge de manœuvre.

Pour Carbonell, un renouveau luddite aurait toute sa place aujourd’hui, pour donner aux individus et aux collectifs les moyens de garder un contrôle sur l’organisation du travail, pour réouvrir des marges de manœuvre. Reste que le « luddisme diffus » qui émerge à l’égard de l’IA ne s’incarne pas dans un mouvement de masse ancré dans les mondes du travail, mais au mieux « dans un rejet individuel et une approche morale de l’IA », voire dans une vision technique et éthique qui consiste à améliorer les calculs plus qu’à les rendre redevables. Les travailleurs ont pourtant de bonnes raisons de s’opposer au changement technologique au travail, conclut le sociologue, surtout quand il ne vient plus accompagné de progrès sociaux mais au contraire de leurs délitements, comme une solution de remplacement bon marché de l’Etat Providence, disaient la linguiste Emily Bender et la sociologue Alex Hanna dans leur récent livre, The AI Con (HarperCollins, 2025). Avec l’IA et l’ubérisation s’impose un monde où les statuts protecteurs du travail reculent.

L’appropriation collective des moyens de production n’est plus une promesse pour transformer le monde. Il ne peut y avoir de chaîne de montage socialiste, car « il n’y a rien de potentiellement émancipateur dans la dissociation entre la conception et l’exécution ». Peut-on imaginer une IA qui nous aide à sortir de Taylor plutôt que de nous y enfermer ?, questionne le sociologue en conclusion. Une IA qui rende du pouvoir aux travailleurs, qui leur permette de concevoir et d’exécuter, qui leur rende du métier plutôt qu’elle ne les en dépossède.

Pour l’instant, on ne l’a pas encore aperçu !

►https://danslesalgorithmes.net/2025/10/02/ia-et-travail-on-ne-sait-pas-qui-sera-remplace-mais-on-sait-que-
#remplacement #dégradation #conditions_de_travail #AI #intelligence_artificielle #taylorisme #productivité
#à_lire

ChatGPT Killed the Web : For the Better ?
▻https://www.nicolasbustamante.com/p/chatgpt-killed-the-web-for-the-better

https://substackcdn.com/image/fetch/$s_!X3i-!,w_1200,h_600,c_fill,f_jpg,q_auto:good,fl_progressive:steep,g_auto/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fade0fe42-5792-4e5f-922c-d5aa83c6f036_1536x1024.png

I haven’t used Google in a year. No search results, no blue links. ChatGPT became my default web browser in December 2024, and it has completely replaced the entire traditional web for me.

Par un des fondateurs de Doctrine, et d’autres startups IA/search (Fintech dernièrement).

Au delà de son technocratisme, et de sa vision totalement biaisée de l’histoire d’internet (avant le Web 2.0 il y avait DEJA plein de contenus proposés par les gens, et des millions de forums et de communautés, avec des « databases », avant les plateformes centralisatrices)…

Ce que je trouve fous c’est que d’une certaine manière, il y a au moins une raison valable à en être arrivé là : pendant 20 ans au moins, on a complexifié le web avec des designs de plus en plus compliqués et lourds avec JS, images, vidéos, et même les CSS de plus en plus compliqués aussi, à faire du pixel perfect, puis ensuite du responsive, puis ceci cela. Avec du coup en parallèle une tout aussi considérable augmentation et complexification des normes liés, CSS, HTML, HTTP, JS moderne, etc.

Alors que dans 99% des cas, les gens recherchent une information ou une action purement textuelle (des articles, des horaires, la carte d’un resto, un échange pour réserver un train ou une table quelque part pour tel jour et telle heure…).

Or la solution « la plupart des infos importantes peuvent être fournies dans des chats textuels » bah c’est réellement une idée qui fonctionne au niveau UX. Qui fonctionne et qui suffit à plein de gens par rapport à ce qu’illes recherchent, dans de très très nombreux cas d’utilisation.

Sauf que pour implémenter cette idée, on se retrouve avec une infrastructure encore plus énorme et plus énergivore et plus polluante que TOUT ce qui a été fait depuis 25 ans avec les Flash, avec la gabegie d’images et vidéos dans les sites, les applis JS, etc (enfin je dis ça mais je ne sais pas si faire tourner un LLM déjà constitué est plus polluant que Youtube et ses trilliards de vidéos inutiles).

Pourtant comme il le dit : pour avoir les infos de ta communauté locale (aussi bien asso, militance, que coiffeur, resto…) ou pour avoir des recettes de cuisine : à peine quelques kilo-octets ou méga-octets suffisent en Markdown pour tout contenir (et ça peut vraiment en contenir très beaucoup). Et aucun besoin d’avoir l’interface de chaque marque/site/etc, avec des polices différentes, des infos présentées différemment jamais au même endroit, jamais de la même manière. Si t’as un lecteur de chat/markdown dans ta machine (ordi ou phone) que tu configures avec ta grosseur de texte et ta police la plus lisible pour toi : ça suffit !

La question est donc surtout celle de l’accès, du mode de découverte, et de comment les contenus sont sélectionnés et arrivent à toi. Plutôt que tout laisser à des moteurs en boite noire, on pourrait très bien imaginer que l’on « s’abonne » à des sources de confiance comme on le fait pour insta et tous les réseaux (aussi bien des sites unitaires, wikipedia, le blog de mon amie, mon resto préféré, que des sites agrégateurs « les commerçants de ma commune XXX », l’agenda militant de mon département, etc). Et que l’appli chatbot comprennent ton prompt, et cherche dans ce contenu abonné en priorité (extrêmement rapide à partir du moment où c’est que des infos textuelles en Markdown). Ce qui n’empêche pas des services de faire du crawling et proposer d’autres résultats (ce qui peut te faire t’abonner à d’autres sources si leur contenu t’as intéressé).

On peut relier ça à des initiatives comme Gemini (qui permet encore moins de choses que Markdown, ce qui fait vraiment pas beaucoup : autant garder Markdown qui reste sobre tout en étant bien plus utilisé et connu).

Mais ce qui compte vraiment c’est « comment on y cherche, comment on y accède ». Et l’UX « chat qui comprend ma question en langage naturel, et qui sait chercher dans un corpus précis de sources textuelles » est extrêmement efficace et suffisant pour la plupart des besoins : sans souris, sans mille clics dans des menus, sans GIF animé.

#web #chatbot #interface #markdown #prospection #IA_générative

La Deutsche Bank avertit que la bulle de l’IA est la seule chose qui maintient l’économie US à flot et que, lorsque cette bulle éclatera, la réalité sera bien plus dure que ce que tout le monde imagine
▻https://intelligence-artificielle.developpez.com/actu/376214/La-Deutsche-Bank-avertit-que-la-bulle-de-l-IA-

https://www.developpez.com/images/logos/intelligence-artificielle2.png

La Deutsche Bank avertit que la dynamique actuelle de l’économie américaine est dangereusement liée à un cycle d’investissement dans l’intelligence artificielle (IA) en plein essor, qui pourrait ne pas être durable. Les analystes mettent en garde contre le fait que la forte augmentation des dépenses d’investissement, en particulier dans les centres de données d’IA, gonfle la croissance sans que cela ne s’accompagne de revenus durables. Les gains du marché étant fortement concentrés dans les valeurs technologiques, et les experts prévoyant une correction douloureuse, l’essor de l’IA pourrait déclencher un ralentissement économique brutal lorsque la bulle de l’IA éclatera.

#Intelligence_artificielle : le vrai #coût_environnemental de la course à l’IA

https://sp-ao.shortpixel.ai/client/to_auto,q_glossy,ret_img,w_850/https://bonpote.com/wp-content/uploads/2025/09/Infographie-IA-article-850x1024.jpg

“L’IA et la réussite de la #transition_énergétique vont de pair. Nous n’assisterons pas à une transition à grande échelle vers une énergie sans carbone sans les avancées significatives que l’IA promet d’apporter.” Cette citation de Mélanie Nakagawa, la responsable développement durable de Microsoft en février 2025, est à l’image de la #pensée_magique que l’on rencontre de plus en plus fréquemment dans les médias et la société. Celle d’une IA mystique et providentielle qui serait la #solution à tous nos problèmes, et qui justifierait son développement effréné depuis l’arrivée de #ChatGPT en 2022.

Alors qu’Emmanuel Macron a annoncé en février 2025 des #investissements privés de 109 milliards d’euros pour développer l’IA et que plus de 35 nouveaux projets de #centres_de_données ont été annoncés en France, nous vous proposons une analyse approfondie pour déconstruire ces discours et découvrir la #face_cachée de l’intelligence artificielle. Comme le résume la chercheuse en IA Kate Crawford, elle repose sur une triple #extraction : extraction de #ressources_naturelles, extraction de #données, #exploitation_humaine. Dans cet article nous nous concentrerons sur les impacts environnementaux directs de l’IA (consommation énergétique, émissions carbone, impacts locaux des data centers), mais insistons sur la nécessité d’appréhender ces technologies dans leur ensemble pour comprendre les bouleversements sociétaux que son adoption massive génère (enjeux de #pouvoir, #surveillance_de_masse, #militarisation, #inégalités sociales, etc)

Nous commencerons par définir ce qu’est l’intelligence artificielle, son évolution récente, les acteurs qui la sous-tendent et détaillerons le fonctionnement particulier des #IA_génératives. Puis dans un second temps nous décrirons l’#infrastructure_matérielle qui la soutient. Loin de flotter au-dessus de toute réalité physique, comme le champ lexical du “cloud” et de la “dématérialisation” aime à nous le faire croire, ces #technologies ont des conséquences matérielles très tangibles.

Sommaire

- Qu’est ce que l’intelligence artificielle ?
- L’ère de l’IA générative depuis la sortie de ChatGPT en 2022
- L’IA, bien plus qu’une #technologie
- Qui est derrière l’IA ?
- Le voyage d’une requête ChatGPT
- L’inférence pour l’usage quotidien
– Le problème de la #transparence
– Quel est l’impact d’une requête ChatGPT ?
– L’optimisation de la #consommation_électrique de l’IA
– Les impacts directs de l’intelligence artificielle
– La consommation électrique des data centers explose à cause de l’IA
– Émissions de #CO2, la roue libre
– Google, Microsoft, Meta.. Quid des émissions des géants du numérique ?
– La consommation d’#eau
- Ressources abiotiques pour la fabrication des équipements et bâti : dépendance aux #métaux et à l’#industrie_chimique
- Conclusion
- Infographie

▻https://bonpote.com/intelligence-artificielle-le-vrai-cout-environnemental-de-la-course-a-lia
#IA #AI #environnement #à_lire

Introduction au Machine Learning - Chloé-Agathe Azencott
▻https://cazencott.info/index.php/pages/Introduction-au-Machine-Learning

Introduction au #Machine_Learning, par Chloé-Agathe Azencott (Dunod InfoSup) présente les concepts fondamentaux de l’apprentissage automatique, ou machine learning.

Télécharger ici le PDF de la deuxième édition (sans les exercices corrigés)

Cet ouvrage s’adresse aux étudiantes et étudiants en informatique ou maths appliquées, en L3, master ou école d’ingénieurs. Le machine learning offre aujourd’hui à de nombreux secteurs d’activité la possibilité de réaliser des progrès spectaculaires grâce à ses puissants outils qui facilitent l’exploitation de grands volumes de données. Le but de cet ouvrage est de vous fournir des bases solides sur les concepts et les algorithmes de ce domaine. Il vous fournit les outils nécessaires pour :

– identifier et formaliser les problèmes qui peuvent être résolus par des approches de machine learning ;
– mettre en oeuvre les algorithmes classiques les plus appropriés ;
– implémenter ces algorithmes par vous-même afin d’en comprendre les tenants et aboutissants ;
– évaluer et comparer les performances de plusieurs algorithmes de machine learning pour une application particulière.

Les notions de cours sont illustrées et complétées par 85 exercices, tous corrigés.

Y-a 25-30 ans, j’étais dans les études, et j’animais des TP d’informatique. Mon diplôme était organisé par un labo alors pionnier dans le datamining (ou tout au moins avaient-ils une bonne appétence à suivre la mode), on parlait d’entrepôts de données, on me proposait d’ailleurs de reprendre le développement d’un outil de datamining (gratuitement ou quasi, la fac’, ça ne payait déjà pas à l’époque), ce genre de choses, et donc, on faisait de la classification, de la régression, ces trucs compliqués mais diablement intéressants quand on a des données pertinentes (souviens-toi que #garbage_in_garbage_out #gigo, y-a pas de mystère)

Ce livre, là, te rappelle que le #machine_learning, c’est de l’utilisation massive de méthodes mathématiques et statistiques et qu’il n’y a pas qu’une seule façon de traiter tous les problèmes à la fois, à la façon dont on te le martèle à propos de l’#IA_générative.