ENQUÊTE : « Après le Pass sanitaire, la crainte d’une exportation du modèle de surveillance sociale chinois »
►https://qg.media/2021/08/28/enquete-apres-le-pass-sanitaire-la-crainte-dune-exportation-du-modele-de-surve
Si les technologies de surveillance fondées sur l’IA et les applications de contrôle social « made in China » sont de plus en plus utilisées par les gouvernements démocratiques, c’est parce que « Pékin peut se permettre de tester ses produits en toute liberté sur des personnes réelles« , explique Simone Pieranni, un journaliste italien spécialiste de la Chine qui vient de publier Red Mirror. Dans ce livre choc, sous-titré « L’avenir s’écrit en Chine« , il montre comment le territoire chinois, mais aussi celui de l’Afrique, sont devenus le laboratoire des industries technologiques chinoises.
L’utilisation de la reconnaissance faciale dans tous les domaines de la vie quotidienne permet en effet à Pékin d’accumuler une quantité gigantesque de données. Le pays a une longueur d’avance sur ses concurrents en raison de la taille de son marché : « Il y a plus de personnes, plus de données, plus d’entreprises » en Chine, expliquait en 2018 au Financial Times le responsable de la société chinoise d’IA Malong Technologies qui ajoutait : « en ayant accès à ces données en Chine, nous pouvons exporter notre technologie dans le monde entier ». L’entreprise a en effet entraîné ses algorithmes de reconnaissance d’images à partir de centaines de milliers de visages sur son propre territoire. Quand d’autres entreprises chinoises s’entrainaient sur les visages africains pour être encore plus compétitifs sur le marché international : « l’introduction de la technologie sur une population majoritairement noire permettra aux entreprises chinoises d’identifier plus clairement les autres groupes ethniques, dépassant ainsi les développeurs américains et européens », prédit Simone Pieranni.
Simone Pieranni nous plonge dans cette dystopie glaçante dans Red Mirror : du crédit social à la « super appli » WeChat, devenue omniprésente dans la vie quotidienne des Chinois qui l’utilisent pour prendre rendez-vous pour une visite médicale, payer leurs impôts ou leurs factures. Même la manche est aujourd’hui faite via WeChat, puisque les sans-abris montrent aux passants un panneau avec un QR code pour recevoir l’aumône ! Revers de la médaille : la « super appli » permet au gouvernement d’observer en temps réel les comportements des Chinois. Pour notamment évaluer si certains groupes sont « particulièrement dangereux pour la stabilité sociale », précise Simone Pieranni.
Dans son essai, il évoque aussi les milliers de projets de smart cities en Chine. Des villes hyperconnectées « totalement sous contrôle » qui permettront, grâce à la 5G qui augmentera significativement la rapidité du transfert des données, « d’expérimenter les formes les plus avancées de contrôle social ». Derrière ce marché juteux gouverné par la paranoïa sécuritaire, la licorne chinoise Terminus qui utilise ce qui se fait de mieux en termes d’IA et d’Internet des Objets. Leurs futurs résidents ? Les riches évidemment, mais aussi « les personnes qui acceptent d’être contrôlées par le système 24h/24 », confie à QG le journaliste qui pense que les smart cities préfigurent « un nouveau type de citoyenneté très dangereux car la technologie crée des relations entre l’État et le citoyen qui sont parfois en dehors des périmètres constitutionnels des pays ».
Les décideurs politiques occidentaux sont « très tentés par des solutions de contrôle social car elles leur semblent assez faciles à mettre en place », abonde la sinologue et politologue Séverine Arsène (4), qui considère néanmoins que « le modèle chinois fonctionne dans un contexte chinois. Quand les entreprises chinoises veulent vendre des caméras de vidéosurveillance ou une capacité à filtrer des données à un pays européen ou africain, elles ne peuvent pas importer le système chinois d’un seul coup. Elles vont répondre à une demande locale, l’adapter au contexte réglementaire du pays qui va acheter la technologie. Bien sûr, cela peut servir les intérêts géopolitiques de la Chine, mais cela sert avant tout la demande de l’État qui a acheté ces outils-là. » Sauf que… à la lueur de la crise sanitaire, la Chine et les soi-disant États « démocratiques » ont parfois des intérêts similaires. À titre d’exemple, la France a utilisé début 2020 des drones pour demander aux citoyens de respecter le confinement. On peut ainsi estimer que le Covid-19 a servi de prétexte pour accélérer le déploiement des technologies de surveillance en France (5), et bien sûr, que le Pass sanitaire préfigure d’autres usages des QR codes potentiellement très dangereux pour les libertés publiques.
À noter qu’en Chine également, la surveillance de masse a augmenté de façon significative à la faveur de la crise sanitaire, selon le Lowy Institute. Notamment via les QR codes qui sont devenus des armes de surveillance massive, comme l’expliquait dès 2017 l’ONG Human Right Watch. En Chine, les géants de la technologie comme le service de messagerie WeChat et la plateforme de paiement mobile Alipay ont développé des QR codes de couleur afin d’évaluer le degré de « sécurité » d’une personne. Là-bas, cet outil d’identification est désormais pratiquement aussi répandu que les pièces d’identité, puisqu’on les utilise pour se présenter devant les autorités, faire des achats ou commander des repas, explique Charles Thibout. Selon lui, « il ne s’agit plus d’un modèle de surveillance panoptique décrit par Michel Foucault, où l’autorité (politique, éducative, médicale…) surveille dans une position de surplomb. L’Etat ne se contente plus de surveiller les individus. Avec le QR code, chacun devient potentiellement le surveillant de l’autre. La surveillance devient de plus en plus horizontale. »
Et, ce qui est particulièrement inquiétant, c’est que « l’instauration du passe sanitaire risque malheureusement de perdurer, car, toute procédure d’exception est vouée à rentrer inéluctablement dans le droit commun, explique Charles Thibout. On l’a déjà vu avec l’état d’urgence depuis 2015. Il y a donc un risque important que ce genre de procédure soit intégré comme un élément normal de notre vie ». D’autant plus qu’il y a un phénomène d’accoutumance guidé par la peur, selon le chercheur : « Si vous craignez de mourir, vous êtes capables de rogner sur vos libertés ad libitum ». La question est donc de savoir « si les institutions qui sont aussi garantes de ce tropisme sécuritaire sauront être des garde-fous suffisants pour dire à un moment « stop ». »
