L’intelligence artificielle reproduit aussi le sexisme et le racisme des humains
▻http://www.lemonde.fr/pixels/article/2017/04/15/quand-l-intelligence-artificielle-reproduit-le-sexisme-et-le-racisme-des-hum
Une nouvelle étude montre qu’un programme d’analyse de texte se montre aussi biaisé que les humains, qui lui ont servi de modèle. Un problème bien connu des spécialistes de l’IA.
En fait, des humains qui programment. Si le milieu de la #programmation n’était pas tant sexiste et raciste, il est probable que les IA iraient mieux !
Il n’y a pas que ceux qui programment.
Il y a aussi ceux qui « entrainent » les IA sans le savoir en alimentant la base des cas sur lesquels les programmes d’apprentissage (plutôt que IA, terme assez impropre) s’appuient. Cet entrainement se fait sur la base de micro-tâches que les plateformes présentent à leurs utilisateurs dans le cadre de leurs services (comme les CAPTCHA, même si elles sont de moins en moins utilisées, de nouveaux dispositifs bien plus efficaces et profitables sont mis en œuvre)
Il est inévitable dans ce contexte de reproduire les biais déjà présents dans la société... et improbable que les « IA » aillent mieux
Attention aux mots et à leur sens : les programmeurs (codeurs) n’ont rien à voir avec le contenu de l’IA...
C’est ceux qui conçoivent l’IA, qui en sélectionnent les données et les contenus, qui l’entraînent qui sont en cause, me semble-t-il.
Sinon, qu’il y ait su sexisme chez les programmeur est probable (milieux très masculin oblige), que ce soit un repère de raciste cela se discute.
On tourne en rond. Et on risque de se couper la possibilité de sortir du cercle.
L’automatisation colonise la créativité :
▻https://venturebeat.com/2017/04/15/the-art-of-algorithms-how-automation-is-affecting-creativity
The art of algorithms : how automation is affecting creativity.
1 : nous sommes sexistes (c’est l’info que bouffe l’IA)
2 : nous le resterons (ceux qui construisent l’IA nient majoritairement la virulence de ce fléau, le sexisme.)