Les inquiétudes du #Défenseur_des_droits sur l’#automatisation des #discriminations
▻https://www.banquedesterritoires.fr/les-inquietudes-du-defenseur-des-droits-sur-lautomatisation-des
En 2018, une étude américaine a démontré que certains systèmes de reconnaissance faciale commettaient de nombreuses erreurs dès lors qu’il s’agissait d’identifier des femmes de couleur. Pourquoi ? La base de données sur laquelle « s’entraînait » l’intelligence artificielle montrait une très forte prédominance des profils masculins blancs. Cet exemple fait partie de ceux évoqués par le Défenseur des droits dans une note de 10 pages, publiée à l’issue d’un colloque coorganisé avec la #Cnil fin mai, consacré aux risques d’automatisation des discriminations générés par les #algorithmes.
▻https://www.defenseurdesdroits.fr/sites/default/files/atoms/files/synth-algos-num2-29.05.20.pdf
#biais #intelligence_artificielle #parcoursup #ségrégation #rgpd