Racistes, les algorithmes ?
HIYA! ▻https://hiya.fr/2021/02/13/racistes-les-algorithmes
Entrainés sur des bases de données de photos à tendances caucasiennes par des ingénieurs eux aussi à tendances caucasiennes, les biais racistes de la société sont intégrés dans les intelligences artificielles, voire exacerbés. Où en sommes nous et quelles sont les réponses du milieu de la tech ? On fait le point.
Les preuves s’accumulent. Ici, une personne noire fait 10 jours de prison et se lance dans un combat judiciaire couteux et épuisant après avoir été identifié à tord par un algorithme. Là, c’est une étudiante noire qui doit passer le barreau une lampe braquée sur le visage pour que son logiciel d’examen reconnaisse son visage. Là encore, un distributeur de savon ne reconnaît que les peaux claires. Un algorithme utilisé pour cadrer les aperçus d’images sur Twitter semble préférer les hommes blancs. Ou encore un algorithme conçu pour restaurer des images flous rend un Obama pixelisé en une version plus nette mais surtout plus blanche de lui même.
En 2016 déjà, une enquête de l’organisme de journalisme d’investigation ProPublica dévoilait qu’un programme informatique utilisé pour évaluer les risques de récidives signalait quasiment deux fois plus les personnes noires que blanches (45 % contre 24%).