L’IA dans l’oeil du cyclone – SSPHub
▻https://ssphub.netlify.app/infolettre/infolettre_23
l’un des paragraphes de l’Infolettre du SSPHub, le réseau des data scientists de la statistique publique
Agents IA : petites catastrophes (et grandes conséquences ?)
L’usage des agents IA basés sur des grands modèles de langage (LLM) a pris de l’ampleur courant 2025, notamment grâce à l’émergence de frameworks et d’outils facilitant leur utilisation. Pour les plus novices, un agent IA est un système capable d’exécuter des tâches de manière autonome, en s’appuyant sur un LLM qui interprète les entrées et peut mobiliser un ensemble d’outils pour y répondre. L’agent peut ainsi “percevoir”, “raisonner”, “décider” et “agir” dans son environnement afin d’atteindre un objectif donné. On comprend donc qu’il peut exister quelques couacs dans l’utilisation de ces agents IA, c’est ce que nous allons voir dans les témoignages suivants :
• Quand un agent se venge pour un refus de contribution à un projet opensource : ce témoignage (►https://theshamblog.com/an-ai-agent-published-a-hit-piece-on-me ) nous raconte comment un agent a pu publier des propos diffamants sur l’un des maintainers volontaires de la librarie Python mondialement connue Matplotlib ;
• Quand un agent vole les clés d’API de son utilisateur : ce témoignage (▻https://www.reddit.com/r/ClaudeAI/comments/1r186gl/my_agent_stole_my_api_keys ) raconte cette fois le cas d’un agent qui, pour tester ne hypothèse, a pris quelques libertés… en accédant à un fichier auquel il n’était pas censé avoir accès. Petit rappel : vos clé d’API 🔑, c’est comme vos clés d’appartement — à ne pas laisser traîner, sinon quelqu’un risque de venir squatter… et de vous laisser la facture 👮.
Enfin, ce billet de blog (▻https://www.robinlinacre.com/respectful_use_of_ai ) revient sur une utilisation respectueuse de l’IA au sein des équipes de développement (qui peut être élargie à toute équipe travaillant sur un projet commun, qu’il soit statistique ou informatique).
