Les biais de l’intelligence artificielle en question
▻https://www.latribune.fr/technos-medias/les-biais-de-l-intelligence-artificielle-en-question-824806.html
La fameuse « boîte noire » de l’intelligence artificielle, c’est-à-dire le manque de transparence dans le processus de décision d’un algorithme, pose un vrai problème pour l’adoption massive de cette technologie.
L’intelligence artificielle prend de plus en plus de place dans les décisions stratégiques des entreprises. Ses champs d’applications vont de l’identification des chantiers prioritaires pour les entreprises du BTP, à l’évaluation du risque de défaut au moment d’émettre un prêt pour les banques, en passant par l’identification des meilleurs prospects dans le recrutement. Les logiciels permettent d’économiser de précieuses heures, voire jours, en plus de rendre les choix plus pertinents... dans la majorité des cas. Car l’intelligence artificielle n’échappe pas aux biais. En 2016, des journalistes de l’ONG ProPublica avaient révélé qu’un logiciel d’évaluation des risques de récidive, Compas, très utilisé dans les tribunaux américains, se trompait deux fois plus pour les condamnés noirs que pour les blancs. Le problème est que les biais des algorithmes sont difficilement repérables.
Si le logiciel repose sur l’apprentissage machine, alors on ne sait pas retracer, étape par étape, les décisions qui ont mené à la recommandation finale. C’est le phénomène de la boîte noire : on connaît la problématique et sa solution, mais pas ce qu’il se passe entre les deux. Bien sûr, les...