Personne ne sait comment assurer l’IA
▻https://www.gargantia.eu/email/b844635a-733b-4609-ae23-ddc2edc92734
Les #assureurs ne savent pas comment mesurer les risques inhérents aux systèmes d’#IA. Les #régulateurs non plus. Pour les assuré·es, la couverture pourrait se réduire considérablement.
Bienvenue dans le n°7 de Gargant’IA, l’infolettre consacrée aux géants du numérique et à leur impact sur la société. On vous a fait suivre cet e-mail ? Abonnez-vous ici.
Bourdes automatiques. On le sait, les systèmes d’IA font parfois des erreurs qui coûtent cher. Le mois dernier, un concessionnaire BMW a dû honorer l’achat d’une voiture d’occasion négociée par son chatbot à un prix environ 30 % trop élevé. En 2022, Air Canada avait déjà dû payer plus de 500 euros à un client après une bourde de son chatbot.
Instagram. Les outils d’IA, parce qu’ils fonctionnent de manière aléatoire, sont très difficiles à auditer et leurs gardes-fous sont rarement efficaces. Parfois, leurs erreurs s’enchaînent. En mai dernier, des criminels ont utilisé une faille dans un chatbot de Meta pour voler plus de 20 000 comptes Instagram.
Loi des grands nombres. L’assurance ne fonctionne que si les sinistres sont indépendants les uns des autres. C’est la loi des grands nombres : un assureur ne sait pas qui va subir un sinistre sur une période donnée, mais ses analystes sont capables de prédire avec précision combien de sinistres vont survenir en tout, et combien ils vont coûter.
Avec des bouts de @freakonometrics dedans :-)
Ça change des infolettres béates devant les annonces des startups zombies.