Aux Etats-Unis, l’échec des algorithmes qui cherchent à prédire le risque de récidive
▻http://www.lemonde.fr/pixels/article/2016/05/24/aux-etats-unis-l-echec-des-algorithmes-qui-cherchent-a-predire-le-risque-de-
Aux Etats-Unis, de nombreuses juridictions locales utilisent des logiciels prédictifs pour tenter d’évaluer les risques de récidive des prévenus. Conçus comme des programmes « d’aide à la décision » pour les juges, lorsqu’ils doivent décider d’une mise en liberté sous caution ou d’une condamnation, ces programmes notent le plus souvent les prévenus sur une échelle d’un à dix, dix représentant un risque exceptionnellement fort de récidive.
Une enquête de ProPublica, publiée ce 23 mai, montre cependant que ces algorithmes sont en réalité extrêmement peu efficaces. Les journalistes ont passé au crible les résultats du logiciel Compas, de la société Northpointe, très utilisé aux Etats-Unis. En comparant les scores de risque de récidive attribués par le programme et les cas de récidive réels – en excluant les personnes incarcérées – sur l’ensemble d’un comté pendant deux ans, les enquêteurs ont établi une série de statistiques sur l’efficacité du logiciel.
Et les résultats sont accablants : « Le score reflète de manière incroyablement erronée le risque de commission d’un crime violent : seules 20 % des personnes dont le programme estimait qu’elles commettraient un crime violent l’ont fait. Lorsqu’on prend en compte l’ensemble des crimes et délits, comme la conduite sans permis, le logiciel s’est avéré légèrement plus efficace qu’un pile ou face. 61 % des personnes affirmant qu’une récidive était probable ont été arrêtées dans les deux années à suivre. »
