Une association spécialisée dans la santé débranche un chatbot nuisible
▻https://www.ladn.eu/nouveaux-usages/une-association-specialisee-dans-les-troubles-alimentaire-debranche-en-urgence-
C’est l’une de ces histoires dans lesquelles rien ne va. Des salariés montent un syndicat, se font virer, sont remplacés par un chatbot. Chatbot qui doit être désactivé car il incite des utilisateurs en détresse à s’affamer.
Spécialisée dans la prévention des troubles alimentaires (TA), la National Eating Disorder Association (NEDA) a décidé de virer tous les employés chargés de répondre à la ligne verte de l’association américaine. Un mois plus tôt, ces salariés avaient décidé de se syndiquer, et l’organisation avait naturellement conclu qu’il était temps de les remplacer par un chatbot. Baptisé Tessa, l’agent conversationnel avait vocation à devenir le principal soutien à disposition des personnes souffrant de TA, rapporte Motherboard. Seulement voilà : deux jours seulement avant que Tessa ne remplace complètement les employés, la NEDA a dû mettre le chatbot hors ligne. Au lieu d’être de bon conseil, Tessa incitait les utilisateurs à maigrir et à prendre leurs mensurations toutes les semaines. Qui aurait pu le voir venir ? À peu près tout le monde.
