Les algorithmes du Dr Frankenstein (ou pourquoi faut pas pousser la créature algorithmique dans les Datas)
▻http://affordance.typepad.com/mon_weblog/2018/09/algorithmes-frankenstein.html
Pour le dire autrement, à l’échelle de l’hypothèse d’une gouvernementalité algorithmique qui serait ou se verrait souveraine, le risque de faux-positifs est perçu et traité comme un biais nécessaire pour optimiser la gouvernance ; alors que dans une société démocratique le risque de faux-positif est un signal qui permet de repérer et d’éviter des dysfonctionnements législatifs, politiques et institutionnels. Une démocratie non-algorithmique n’acceptera jamais de mettre 10 innocents en prison si elle a la certitude qu’un seul coupable figure parmi eux, une gouvernance algorithmique considèrera que c’est un mal nécessaire pour optimiser statistiquement la mise en sécurité de la population.
Ces Franken-algorithmes ont deux caractéristiques : ils sont opaques (y compris donc souvent pour ceux qui en conçoivent la version initiale) et imprévisibles. A l’opposé on trouve des algorithmes également opaques (pour des raisons commerciales) mais par contre parfaitement prévisibles. Algorithmes que l’article du Guardian qualifie de « Dumbs » (idiots).
Les algorithmes à la fois opaques et prévisibles sont donc en effet « stupides ». Parmi les exemples on pourra citer le processus qui, sur Facebook, classe systématiquement comme « pornographie » toute photo ou représentation d’organes génitaux masculins et féminins, incapable ainsi de reconnaître des oeuvres d’art ("L’origine du monde" de Courbet) ou des photos à caractère historique (comme celle du prix Pulitzer de la petite Kim fuyant les bombardements au Vietnam).