Reconnaissance faciale et pornographie : la dystopie en embuscade
▻https://www.konbini.com/fr/techetinnovation/reconnaissance-faciale-et-pornographie-la-dystopie-en-embuscade
Demain, le « World Wide Face »
Ce qui importe, dans cette histoire, n’est pas tant que ce programmeur anonyme et son algorithme soient réels ou non. Ce qui importe, c’est qu’aujourd’hui, la démocratisation des algorithmes de machine learning (particulièrement dans le domaine de la reconnaissance faciale), l’augmentation de la puissance des processeurs, la chute du coût de la mémoire et les incommensurables volumes de données personnelles que nous dispersons à chaque minute passée en ligne permettent théoriquement à une petite équipe, dotée de quelques connaissances en programmation, de développer un tel système en quelques mois, depuis une chambre. L’idée qu’un type développe dans son coin un système aussi nuisible est plausible (un service similaire existe déjà d’ailleurs, au moins).
En 2016, déjà, le Guardian s’inquiétait du succès d’une application mobile de reconnaissance faciale russe, FindFace, qui annonçait « la fin de l’anonymat public ». Depuis, d’autres algorithmes sont disponibles. Plus puissants, mieux entraînés. Face à ce constat, la seule chose raisonnable à faire serait de sortir la tête du guidon de l’innovation et de réfléchir. Réfléchir sur la montée en gamme de la biométrie et la reconnaissance faciale massive automatisée et ce qu’elle signifie pour la vie privée, l’anonymat et le consentement. Sur son invasion lente mais progressive de tous les secteurs de notre vie, du trottoir à l’aéroport en passant par la salle de classe. Sur la création, ici et là, de réservoirs à données biométriques géants, malgré les risques de sécurité que la centralisation de données sensibles implique.
Il faut tenter d’anticiper, comme l’a magistralement fait Olivier Ertzscheid (auteur du blog affordance.info) le 3 juin, les scénarios catastrophe d’une société où le visage s’installe au centre des processus régaliens (police et justice, notamment) en même temps qu’il devient monnaie d’échange et de spéculation au sein du capitalisme de surveillance. « Bienvenue dans le World Wide Face », écrit Ertzscheid, ce nouveau paradigme biométrique qui nous ferait regretter le bon vieux temps des données impersonnelles.
Rappelons quelques évidences. La reconnaissance faciale, outil statistique, génère des faux positifs à la chaîne (au Royaume-Uni, on frôle les 100 % d’erreur pendant les tests). La reconnaissance faciale, parfois entraînée sur des données biaisées, discrimine des populations déjà marginalisées (on se souviendra que les systèmes de Google avaient pour péché mignon, courant 2015, de confondre les Noirs avec des gorilles). Parfaite, elle serait implacable ; imparfaite, heureusement, elle n’est que terrifiante.
Imaginez les conséquences d’un faux positif de l’algorithme d’identification d’actrices porno pour une femme lambda, qui ressemblerait un peu trop à l’une d’elles aux yeux des machines. Imaginez son compte Facebook ou Instagram lié par la myopie algorithmique à un profil Pornhub. Rappelez-vous qu’on ne négocie pas avec une fonction mathématique, même si celle-ci vous pourrit la vie par erreur. « Toute identification, martèle Ertzscheid, est d’abord une désignation. » Et toute désignation porte en soi la promesse de la stigmatisation. Que vous soyez identifié correctement ou pas importe peu, une fois que le sceau est apposé.
Vendue comme utopie d’une police incontestable (car forcément neutre, transparente et dépassionnée), la reconnaissance faciale automatisée n’est rien de tout cela. Elle est un outil au service d’un projet politique obsédé par la surveillance, le suivi, le triage. Elle n’a rien d’inévitable, encore moins d’urgent (la mairie de San Francisco vient tout simplement de l’interdire) dès lors que l’on s’intéresse davantage à ses dérives qu’à ses bénéfices. La tête dans le guidon du progrès technique, nous risquerions de ne pas voir venir le précipice.
#Reconnaissance_faciale #Porno #Culture_du_viol #Revenge_porn #Programmeurs_tarés
