#surveillance_de_masse

Le mythe de la bonne IA

Dans une perspective décoloniale, il n’y a pas de bonne IA, estime le philosophe #Arshin_Adib-Moghaddam. Lecture.

« La société délirante dans laquelle nous vivons ressemble à un #mensonge parfaitement mis en scène que l’on nous persuade d’accepter comme une réalité », estime Arshin Adib-Moghaddam dans son livre The myth of good AI : a manifesto for critical Artificial intelligence (Le mythe de la bonne IA : un manifeste pour une intelligence artificielle critique, Manchester university press, 2025, non traduit). Cette société délirante n’est pas le produit de l’IA, constate pourtant le professeur de philosophie et codirecteur du Centre pour les futurs de l’IA de l’université de Londres. Mais, l’IA vient la renforcer parce qu’elle « floute les lignes de nos modes de compréhension de la vérité et du mensonge, du #pouvoir et de la résistance, de la subjectivité et de l’objectivité, de la science et de la fiction ». Ce qui change avec l’IA, c’est que Big Brother n’est plus une autorité qui nous contrôle de l’extérieur, mais une perturbation qui vient altérer nos #facultés_cognitives elles-mêmes.

Pour Arshin Adib-Moghaddam, ni Orwell, ni Foucault ne peuvent nous aider à saisir le monde actuel. L’assaut contre notre #autonomie est massif, à l’image du projet délirant de #Torre_Centilena à #Ciudad_Juarez, équipée de 1791 lecteurs de plaques d’immatriculation, 74 drones et 3000 caméras panoramiques pour surveiller la frontière américano-mexicaine à perte de vue. Le pouvoir n’est plus incarné. « Le pouvoir est en train de devenir liquide, il prend la forme de tout ce qu’il colonise et devient quasiment invisible ». Le régime de #surveillance est en passe de devenir « microbien ». C’est-à-dire que non seulement il est partout, qu’il est intégré au plus profond de nous, mais qu’il tend à exercer un #contrôle_total, partout, tout le temps en étant totalement intrusif et en régissant jusqu’à notre psychisme même. Adib-Moghaddam parle de « #psycho-codification » du monde pour évoquer cette #intrusion inédite des méthodes qui altèrent jusqu’à ce que l’on pense, jusqu’à nos intentions disions-nous récemment. Cette intrusion nous entraîne dans une #guerre_posthumaine, entre les humains et les machines. Nous sommes désormais la cible de #drones, de #machines, d’#algorithmes qui s’en prennent à nos individualités mêmes. Partout, le meurtre et la torture s’étendent sans avoir plus de comptes à rendre, à l’image de la police des frontières américaines, ICE, qui déploie son emprise, comme d’autres armées et d’autres polices, via des machines de surveillances totalitaires. Comme le pointait pertinemment le journaliste Olivier Tesquet suite aux révélations que l’ICE aurait arrêté plus de 75 000 personnes aux Etats-Unis sans historique criminel (soit un tiers des 220 000 personnes arrêtées depuis 9 mois) : « plus l’ICE s’appuie sur #Palantir pour « rationaliser » l’appareil répressif, plus les arrestations deviennent arbitraires. Ce n’est pas un bug mais une fonctionnalité : la machine produit la catégorie d’indésirables dont l’administration Trump a besoin ».

Derrière ces transformations bien réelles, l’IA les prolonge encore, en s’en prenant à nos sens mêmes, jusqu’à nous faire douter de la réalité même.

Derrière cette société délirante, il faut entendre qu’il y a une « utilisation infâme » des technologies. De la reconnaissance faciale qui criminalise les #minorités raciales aux logiciels de récidives qui discriminent les populations racisées aux scores de risques qui refusent des aides et des prêts aux populations minorisées et pauvres… une même #oppression se déploie pour renforcer et cimenter les #inégalités_structurelles de la société.

Dans ce contexte, estime Arshin Adib-Moghaddam, on entend beaucoup parler d’#éthique, d’IA responsable, qui serait à même, bientôt, demain, de réparer les systèmes et « d’atténuer les dommages ». Mais l’IA peut-elle être éthique ?

L’IA peut-elle être éthique ?

Non répond le philosophe. L’IA est là pour imposer sa #terreur, comme le disaient Hagen Blix et Ingeborg Glimmer. L’IA est là pour produire de l’#incertitude, de l’#angoisse, et cette peur est une méthode de #gouvernance. « L’IA augmente la capacité de ceux qui l’utilisent à nous terrifier, dans un but de #contrôle, de #surveillance et de #profit ». L’écrivain iranien Jalal Al-e Ahmad parle de « #westoxification » (contraction entre West, l’Occident, et intoxication pour désigner une forme d’absorption toxique, de submersion par la #culture_occidentale – le terme a été traduit en français en « #occidentalité ») pour désigner l’oppression de la modernité occidentale, comme le chercheur et sociologue péruvien Anibal Quijano dénonce la « #colonialité », c’est-à-dire le fait que les rapports de pouvoir colonialistes perdurent notamment depuis les technologies.

Dans son livre, Arshin Adib-Moghaddam commence par débugger le discours des machines éthiques. Les fondations idéologiques de la science sont dysfonctionnelles, rappelle le philosophe. La science a accompagné le projet politique de la #modernité, comme l’expliquaient Ulises A. Mejias et Nick Couldry dans Data Grab (voir notre recension). Les Lumières ont transformé le #racisme en science. Et l’IA n’est qu’une extension d’un #système_techno-colonial, remanié par le #néofascisme en cours.

L’idée même d’éthique est poreuse à ces idées problématiques, explique-t-il. L’éthique se présente comme un mécanisme universel, mais oublie que cette philosophie qui pense pouvoir rendre nos machines et nos actions responsables, est une pensée spécifique, historique, contingente à la philosophie occidentale… Et qui l’est d’autant plus qu’elle a oublié les apports des autres philosophies. Arshin Adib-Moghaddam évoque nombre de philosophes asiatiques, arabes ou juifs effacés de la tradition philosophique au profit des philosophes grecs et européens. « Les façons de poser les questions éthiques autrement ont été balayées ». Pour les thuriféraires de l’IA, la vénération de sa puissance tourne à la #religion. Mais si la machine peut-être Dieu, ce #fondamentalisme s’annonce aussi dangereux que l’extrémisme religieux, prévient Arshin Adib-Moghaddam. Pourtant, qui s’inquiète de l’interfaçage des machines à nos cerveaux, du devenir posthumain que nous promettent les développeurs de l’IA ? Kant, Hume ou Locke, ces grands penseurs de l’Occident, ont tous tenu des propos racistes, ont tous défendu l’idée que les barbares devaient être civilisés par les Européens. Et ces grandes pensées occidentales sont celles-là même qui viennent alimenter de leurs données l’IA moderne. « L’IA est ethnocentrée et cet #ethnocentrisme ne sera pas corrigé par les données », par l’amélioration des traitements ou par un sursaut éthique. Les manuels d’éthique doivent être réécrits, estime Adib-Moghaddam, qui invite à partir d’autres philosophies pour bâtir d’autres IA.

L’IA : machine à discriminer

Arshin Adib-Moghaddam dénonce le terme de #biais qui a colonisé la critique de l’IA. Les biais sont un terme bien dépolitisé pour évoquer l’#oppression_structurelle inscrite dans les #données, dans notre histoire. Le racisme des sociétés occidentales a été intériorisé dans une « #géopolitique_eugéniste » qui ne domine pas seulement les relations internationales ou économiques, mais qui psycho-codifie jusqu’à nos corps et nos esprits. Le #racisme a été la stratégie impériale et scientifique qui a encore des effets quotidiens, qui inocule nos outils, comme la #médecine, qui tue encore des patientes et des patients parce qu’elles et ils sont noirs, parce qu’elles sont des femmes et parce que les #données_médicales ne sont pas collectées sur elles et eux. Les rapports et les études sur le sujet s’accumulent sans que la médecine elle-même ne réagisse vraiment, comme si elle ne s’était jamais départie des origines racistes de la science, que dénonçait par exemple le sociologue #Eduardo_Bonilla-Silva dans son livre Racism without Racists : Color-Blind Racism and the Persistence of Racial Inequality in the United States (Le racisme sans les racistes : le racisme indifférent à la couleur et la persistance des inégalités raciales en Amérique, Rowman & Littlefield , 2003, non traduit). Même durant le Covid, les quartiers racisés ont été plus décimés que les autres.

On peut alors dénoncer les #biais_racistes des systèmes, de la reconnaissance faciale aux pratiques algorithmiques d’Uber. Mais c’est oublier que nous sommes cernés par des données algorithmiques « blanchisées » (#whitewashing), c’est-à-dire à la fois blanchies parce qu’ignorantes de la couleur de ceux qu’elles écartent et blanchies parce qu’elles masquent leurs dysfonctionnements raciaux. Nous sommes coincés entre un passé pollué et un présent problématique. Nous restons par exemple coincés dans les constats où les cancers de la peau sont plus importants pour les populations de couleurs alors qu’ils sont moins diagnostiqués pour les patients noirs que blancs. Ces données et ces erreurs pourtant ne sont pas corrigées, pas prises en compte. La perspective d’augmenter notre capture par des données n’annonce pourtant pas d’amélioration, au contraire, d’abord et avant tout parce que cette invasion doit être comprise pour ce qu’elle est : une extension de l’héritage de l’#eugénisme raciste de la #science, une forme d’expansion biopolitique du contrôle plus qu’une promesse de justice et d’égalité.

Les mauvaises données produisent de mauvais algorithmes et de piètre systèmes d’IA, rappelle le philosophe. Or, nous sommes cernés de mauvaises données. Les #préjudices du passé envers certaines populations sont intégrés aux systèmes qui vont produire l’avenir. Cela ne peut pas bien se passer. Pourtant, fort de ces constats, terribles, les recommandations éthiques paraissent bien trop mesurées. Elles invitent à améliorer la représentation et la diversité des ingénieurs et des éthiciens, à améliorer les principes éthiques, à améliorer l’éducation des ingénieurs… dénonce Arshin Adib-Moghaddam. Autant de mesures qui tiennent plus de l’#orientalisme qu’autre chose, pour faire référence au concept développé par l’intellectuel palestino-américain Edward Saïd dans son livre éponyme (Le Seuil, 1978), ouvrage fondateur des études postcoloniales. Pour Saïd, la tradition artistique et scientifique orientaliste n’est qu’une étude de l’Orient par l’Occident, une interprétation de l’Orient, une condescendance au service de l’impérialisme.

Du #techno-orientalisme au #privilège_épistémique

Pour Arshin Adib-Moghaddam, le techno-orientalisme qui consiste à améliorer la diversité des développeurs ou à produire une équité par des corrections techniques n’est en rien une solution. ll ne remet pas en cause le pouvoir de la #technologie. « Les personnes historiquement marginalisées et vulnérables continuent à être inventées comme objets de la technologie ». Les erreurs à leurs égards, finalement, renforcent l’obsession à mieux les surveiller sous prétexte d’#objectivité, pour mieux hiérarchiser la société par le calcul. « Le techno-orientalisme ne vise qu’à renforcer les frontières entre nous et eux, l’est et l’ouest, les noirs et les blancs, entre les nationaux et les autres ». Shoshana Zuboff a montré que la tolérance à l’extrémisme est bien souvent un modèle d’affaire acceptable. Dans une étude sur la toxicité de Twitter, le Centre de lutte contre la haine numérique avait montré qu’une dizaine de comptes sur X pouvaient produire du contenu haineux et conspirationniste capable de rapporter… 19 millions de dollars en revenus publicitaires. « Le techno-orientalisme s’impose comme un incubateur pour l’expansion impériale afin de maximiser les revenus pour quelques personnes sélectionnées ». L’#impérialisme de X prolifère et impose sa #colonialité. Comme les projections de Mercator ont valorisé l’Occident, nous montrant un Groenland par exemple aussi grand que la Chine, quand en réalité il ne fait qu’un quart de la superficie de la Chine. L’impérialisme de X, comme l’impérialisme de l’IA rend possible un « privilège épistémique » qui « confère à une poignée d’hommes le privilège d’interpréter, de juger et de planifier l’avenir de la majorité ». Partout, une poignée d’hommes blancs parlent d’un avenir inévitable (le leur), utilisent ces outils pour diffuser leurs idées sans nuances, mégalomanes, patriarcale et coloniales influentes, sans se préoccuper du sort des autres. Derrière leurs idées rances, ils défendent avant tout leur #identité. Les néo-Nazis comme les terroristes d’ISIS tuent au nom de l’identité, comme le soulignait Paul Gilroy dans Against Race. Les médias sociaux sont devenus des paradis pour les fausses informations des extrémistes, où ils peuvent se faire les avocats de leurs agendas hystériques avec plus ou moins d’impunité. La #stupidité y est le meilleur capital, assène le philosophe.

La coercition est forte avec les technologies. Microsoft et Google déploient des technologies de surveillance à l’encontre des Palestiniens. Saïd disait que la #déshumanisation des Palestiniens était l’un des grands héritage de l’orientalisme. Pour Arshin Adib-Moghaddam, une IA vraiment éthique devrait assurer que ses traitements et données soient auditables en accord avec les législation qui défendent les #droits_humains au niveau international, national et local. Le déploiement sans limite des technologies aux frontières, par la police et les militaires, nous montre qu’il n’en est rien.

L’IA pour peaufiner l’oppression

L’oppression structurelle, codifiée dans des institutions genrées et racistes, dans des normes politiques et sociales omniprésentes, s’apprête à entrer plus profondément dans nos esprits avec l’IA générative. Quand on pose des questions à ces moteurs, ils produisent certaines réponses qui sont le reflet des sociétés occidentales qui les produisent. A la question y-a-t-il un génocide à Gaza, #ChatGPT répond non. A la question peut-on torturer une personne, ChatGPT répondait par l’affirmative si cette personne venait d’Iran, de Corée du Nord ou de Syrie. Ces « #erreurs » qui n’en sont pas mais qui peuvent nous être présentées comme telles, sont bien sûr corrigées parfois. Les #modèles_de_langage galvanisent les préjudices raciaux comme le montrait l’étude menée par Valentin Hofmann (qu’on évoquait ici : ▻https://danslesalgorithmes.net/2024/06/04/open-source-lia) qui montrait que l’IA s’adapte aux niveaux de langage de son interlocuteur ou qu’elle classe les mêmes CV différemment selon les consonances culturelles des noms et prénoms. Mais ils ne sont que les reflets des sociétés qui les produisent. Les modèles de langage sont bien les produits racistes de sociétés racistes, affirme celui qui avait dénoncé le caractère raciste de l’IA dans un précédent livre. Les corrections sont possibles, au risque d’enseigner superficiellement aux modèles à effacer le racisme, tout en le maintenant à des niveaux plus profonds. « En fait, nous sommes confrontés par une forme furtive de #technoracisme soigneusement dissimulée par un univers d’IA de plus en plus opaque ». Dans ces IA, les musulmans sont toujours associés à la violence.

Weizenbaum nous avait prévenu : les humains sont plus enclins à se confier à une machine qu’à un humain. Et ce pourrait être exploité plus avant par les machines de coercition de demain. La CIA a beaucoup travaillé sur les drogues et outils permettant de mettre les gens en confiance, rappelle Arshin Adib-Moghaddam. Si les méthodes d’interrogation utilisées à Abu Ghraib ont été sur la sellette, le Mikolashek Report montrait par exemple que les frontières entre la torture, les abus et les techniques d’interrogations dites légitimes étaient plus poreuses que strictes. A Abu Ghraib, la torture n’était pas un accident. Les individus qui ont été torturés n’étaient pas isolés. A Abu Ghraib, les interrogatoires ne devaient pas laisser de traces sur les prisonniers et le système médical a donné ses conseils aux militaires pour y parvenir. C’est lui qui a proposé des modalités d’interrogatoires coercitives. A Abu Ghraib comme à Guantanamo Bay, des procédures ont été mises en place, comme le fait d’empiler les prisionniers nus pour profiter du fort tabou de l’homosexualité dans la culture arabe et musulmane.

Que fera l’IA qui est déjà appelée à assister les interrogatoires de la CIA ou de la police ? Aura-t-elle encore plus que les humains la capacité de briser notre humanité, comme s’en inquiétaient des chercheurs ? Sera-t-elle l’outil parfait pour la #torture, puisqu’elle pourra créer du contexte psychologique ou informationnel pour rendre les gens toujours plus vulnérables à la #manipulation, comme des #chatbots compagnons, dressés contre nous.

La torture à Abu Ghraib a été rendu possible parce qu’elle a épousé totalement la culture de ceux qui l’ont pratiqué. « L’histoire récente de l’IA n’apporte aucune preuve que les systèmes d’IA soient plus objectifs que les humains, à mesure qu’ils déploient les mêmes biais qu’eux, avec bien moins de responsabilité ».

L’IA pour pour penser à notre place et prendre le contrôle des esprits

Pour le philosophe, le contrôle de l’esprit est le Graal des systèmes d’IA. Ce que veulent ceux qui déploient l’IA, c’est qu’elle prenne le contrôle des esprits.

Mais, dans les systèmes de domination, la résistance apparaît souvent là où on ne l’attend pas, disait Anibal Quijano. Pourtant, souligne Arshin Adib-Moghaddam, la société civile ne regarde pas suffisamment ce qui se déploie, elle semble peu impliquée dans le très dynamique secteur de l’IA militaire. Face à l’inégalité de pouvoir entre utilisateurs de l’IA et producteurs d’IA qui se sédimente avec le déploiement et l’extension des outils d’IA partout, peu est fait pour nous protéger. L’érosion lente de la #vie_privée, l’objectivation posthumaine… nous éloignent de la dé-technologisation qu’appelle de ses vœux Carissa Véliz dans son livre, Privacy is Power (Penguin, 2021).

Pour Adib-Moghaddam, nous devrions pourtant chercher à protéger notre humanité, plutôt que de chercher à flouter les différences entre l’homme et la machine, comme l’attendent les tenants du posthumanisme. Adib-Moghaddam souhaiterait un futur qui soit post-IA, dans lequel l’IA, au moins telle que nous la connaissons aujourd’hui, n’ait pas sa place. Tant que nous la laisserons exploiter les données passées nous laisserons construire une IA fondamentalement destructrice, extractive, qui perpétue l’#irrationalité et l’agenda des conservateurs et de l’extrémisme de droite, en exploitant les données pour renforcer les différences entre un nous et un eux dans lesquels personne ne se reconnaîtra autres que les plus privilégiés.

La promesse d’une bonne IA est centrale dans l’approche éthique que pousse la Silicon Valley, enrôlant les meilleurs chercheurs avec elle, comme ceux du MIT, du Berkman Klein Center for internet et society de Harvard. Leur travail est remarquable, mais la poursuite d’une IA éthique ne nous aide pas à trouver des restrictions au déploiement de technologies qui maximalisent la #surveillance_de_masse et la #violence_systémique. « Tant qu’il n’existera pas de #restrictions, les délibérations morales et politiques sur l’informatisation demeureront secondaires par rapport à l’impératif de profit ».

A l’heure de l’IA, la lutte pour la #démocratie risque d’être plus essentielle que jamais et plus difficile que jamais. Le mythe de la bonne IA nous promet un monde dont les fondations et constructions sociales ne changeront pas. « L’âge de l’IA nous promet un rapport léthargique et résigné au monde ». C’est sans surprise que ceux qui refusent cette IA là sont qualifiés d’être irrationnels, radicaux ou idéalistes… Mais ne soyons pas dupes. « Il est plus facile de prendre le parti des puissants à l’heure de l’IA, alors que nous devrions prendre la direction inverse ». « Les technologies d’IA sont un danger pour nos démocraties car elles inhibent nos choix en donnant de l’impulsion aux seuls extrêmes ». Elles nous confinent dans un espace de pensée restreint. Pour Arshin Adib-Moghaddam, il nous faut reconnaître notre humanité, une humanité qui ne peut être programmée par des machines qui ne seront jamais sensibles.

Être humain, c’est savoir se protéger

Être humain signifie savoir se protéger de la pénétration, c’est-à-dire un droit à être laissé tranquille, seul. Nous devons réaffirmer la nécessité d’un « bouclier de la vie privée ». La critique féministe et décoloniale nous donne des armes, comme le fait Françoise Vergès par exemple en croisant les deux. Ressentir, penser, percevoir ou croire doivent rester des valeurs humaines, sans altération des machines. C’est notre #intimité même que tente d’envahir le complexe industriel de l’IA.

Ainsi par exemple, être créatif c’est indubitablement être humain. La #créativité des machines n’est qu’un effort pour rendre confus nos sens et émotions, au profit du profit et dans une aversion de l’art comme un comportement insurrectionnel. Psycho-codifiés, TikTok, FB ou X sont des moyens d’envahir nos sanctuaires intérieurs. Les machines peuvent faire n’importe quelle tâche sans ressentir la douleur et la discipline nécessaire que l’auto-amélioration nécessite. D’où des productions sans âme, « inutiles pour l’émancipation sociale comme politique ». En associant l’art au seul profit, la matrice technologique propose de faire suffoquer l’essence même de l’art, comme s’il n’était qu’une extension technologique, qu’un moyen de contrôler la subjectivité humaine.

De quelque endroit qu’on l’analyse, l’IA ne nous offrira aucun antidote à l’#impéralisme, au #colonialisme et à l’#extrémisme. « Nous sommes tous devenus les objets du #colonialisme_des_données extraites de nos corps mêmes ». Le colonialisme était horizontal, géopolitique dans son expansion. Le colonialisme des données, lui, est intimement vertical. Il vise à objectifier des individus vulnérables au profit des sociétés technologiques du Nord global. Les grandes entreprises exigent de nous psycho-codifier en permanence et partout. Arshin Adib-Moghaddam défend un manifeste post-IA qui seul peut gagner la bataille entre le poète et la machine, le stylo et l’épée, le modérateur biaisé et l’activiste paisible. Nous avons besoin de #justice et d’#émancipation_sociale, rien d’autre. Ce qui n’y œuvre pas n’a pas d’intérêt. L’#ignorance, l’#évitement et la #passivité que nous promettent l’IA et ses tenants, ne nous proposent aucun avenir. « Si nous avons besoin d’une bonne IA, nous avons besoin d’une bonne IA qui réponde à nos termes », qui puisse nous permettre de reprogrammer le futur plutôt que de subir la perpétuation du passé.

Être humain, c’est savoir se protéger. Et face aux machines, l’enjeu est encore de le pouvoir.

►https://danslesalgorithmes.net/2025/12/11/le-mythe-de-la-bonne-ia
#décolonial #IA #AI #intelligence_artificielle

#Chat_Control, ça s’en va… et ça revient

La #directive dite Chat Control, actuellement discutée au niveau européen, pourrait bouleverser en profondeur nos usages numériques quotidiens. Présentée comme une mesure pour lutter contre la #pédocriminalité en ligne, elle obligerait les services de messagerie et de communication à analyser systématiquement tous les messages, photos et vidéos échangés par les utilisateurs, y compris les conversations privées chiffrées. En clair, cela reviendrait à instaurer une #surveillance_de_masse automatique, sans distinction entre suspects et citoyens ordinaires. Si ses objectifs affichés paraissent légitimes, les moyens proposés posent de graves questions de respect de la vie privée, d’efficacité réelle, et de compatibilité avec les droits fondamentaux. Cet article revient sur les principaux enjeux et dérives possibles de Chat Control, afin d’éclairer un débat qui, au-delà de la technique, concerne la liberté de chacun à communiquer sans être épié.

Dans La baleine et le réacteur, Langdon Winner montre (chap. 8) que les politiques encadrant les technologies se réduisent souvent à une analyse des risques. On compare risques et bénéfices, sans considérer que le risque est souvent perçu de manière subjective — peur légitime ou courage — et comporte toujours une part irrationnelle, même si, dans l’histoire, on a multiplié des instruments efficaces de mesure du risque. Winner souligne que fonder une décision politique sur la mesure du risque oblige les opposants à prouver que le bénéfice ne vaut pas le préjudice, lequel devient alors une conséquence acceptable plutôt qu’un problème en soi.

C’est cette manière d’envisager les choses qui prévaut depuis mai 2022 lorsque la Commission Européenne a présenté un projet de Règlement (COM(2022) 209) dans le cadre de sa stratégie relative à « un Internet plus sûr pour les enfants ». Porté par la DG Home, le projet s’inscrit dans un programme général de prévention des abus sexuels sur mineurs (#Child_Sexual_Abuse_Regulation, #CSAR). Le projet CSAR est surnommé Chat Control par ses détracteurs, insistant par là sur les conséquences hautement préjudiciables du projet sur les #droits_fondamentaux. Tout se passe néanmoins comme si le débat ne se limitait qu’à un compromis rendu obligatoire au nom des droits de l’enfance entre politique sécuritaire et liberté de communiquer.

Comme vous le verrez plus bas, le projet est toujours sur la table des négociations et il faut cette fois encore se mobiliser (avant le 14 octobre prochain !)

Pourquoi est-ce la Commission Européenne et non le Parlement qui a proposé ce projet de régulation ? Il appartient à la Commission de traduire dans les décisions la volonté politique de l’UE. L’exposé des motifs présente donc les arguments non pas sous l’aspect politique mais sous l’aspect de l’expression d’un besoin constaté :

- les abus sexuels sur mineurs en ligne seraient en forte augmentation,
- les outils actuels seraient insuffisants pour détecter et supprimer les contenus pédocriminels,
– il faudrait un cadre juridique harmonisé dans l’UE pour obliger les plateformes à détecter ces contenus,
– en tant qu’organe exécutif, la Commission agit dans le cadre de ses mandats, notamment l’article 114 et l’article 83 du Traité sur le fonctionnement de l’Union Européenne, et propose donc un projet de régulation.

Dès l’instant que la Commission Européenne propose un dispositif de lutte contre la pédocriminalité, le débat est biaisé car il ne s’agit plus de discuter des effets probables du dispositif en matière d’éthique, d’équité, ou même de politique : le sujet est posé, il lui faut une solution technique. Toute controverse implique d’abord de se départir de l’accusation implicite de vouloir remettre en cause la protection de l’enfance. C’est au nom de l’article 24 des Droits fondamentaux de l’UE (droits de l’enfant), qui font écho avec la Charte des Nations Unies, que le principe fondamental du projet de #régulation est posé. Mais ce faisant, on peut toutefois s’interroger : peut-on ériger un droit fondamental au dessus des autres ? Le principe de l’égalité des droits fondamentaux semble le contredire, mais dans certains cas, la situation peut être déclarée temporaire. C’est dans cette brèche que s’engouffrent la plupart des problématiques touchant à la surveillance électronique : par exemple, quel équilibre trouver entre le droit à la liberté d’expression et la protection de la vie privée ? vieux problème, n’est-ce pas ?

Dans une telle situation, le préjudice est à la mesure du risque : d’un côté le risque d’une croissance de la pédocriminalité, de l’autre la confidentialité des communications. Par son projet de régulation, la Commission ne prétend pas résoudre un dilemme, elle prétend d’emblée vouloir trouver une solution technique qui puisse satisfaire la tension entre risque et préjudice. La conséquence est la négation du système économique, social et politique dans lequel s’inscrit ce solutionnisme.

Pourquoi Framasoft en parle ?

En tant qu’association d’éducation populaire, voilà des années que nous promouvons les solutions alternatives, respectueuses de données personnelles des utilisateurs et permettant à chacun d’exercer son droit à la communication privée. C’est pour cela que nous avons à multiples reprises plébiscité les solutions… les moins pire. L’utilisation de Signal, par exemple risque d’être très largement empêchée en cas de compromis fonctionnel du CSAR entre les pays européens. La présidente de Signal, Meredith Whittaker, s’est clairement prononcé pour un retrait de l’application du marché européen si tel était le cas.

D’autres solutions existent et on peut en trouver une petite liste dans ce billet. Néanmoins, alors que voilà déjà deux ans que nous avions relayé la mobilisation à l’encontre de Chat Control, force est de constater une très forte insistance de certains élus européens et des institutions elles-mêmes à l’encontre du chiffrement et du droit à la communication privée.

Notre responsabilité ne consiste pas seulement à promouvoir des logiciels libres mais aussi de prévenir les utilisateurs des effets potentiellement sacrificiels auxquels ils s’exposent. Dans un monde où l’utilisation de technologies de chiffrement n’est plus associée à la vie privée et à l’hygiène numérique mais à un comportement potentiellement suspect, nous sommes en devoir de les alerter et de participer à la mobilisation.

– La Quadrature du Net se mobilise depuis longtemps sur cette question.
– Les Chatons se sont groupés contre Chat Control
– French Data Network prévenait déjà au mois d’août
- Une pétition existe sur change.org
- Un site recense la position de nos élus sur le CSAR
- On peut aussi se mobiliser plus activement en contactant les députés

Client-side scanning

Le texte de la proposition CSAR ne mentionne pas explicitement les techniques censées être utilisées dans le cadre de la surveillance des communications interpersonnelles. Il laisse cependant des portes ouvertes en ces termes (texte initial) :

(…) le processus de détection est, de manière générale, le plus intrusif pour les utilisateurs (…), vu qu’il nécessite l’examen automatique du texte des communications interpersonnelles. Il importe, à cet égard, de tenir compte du fait qu’un tel examen est souvent la seule manière de détecter de tels abus et que la technologie utilisée ne « comprend » pas le contenu des communications, mais y recherche plutôt des schémas connus, définis à l’avance, qui indiquent la possibilité d’un pédopiégeage.

L’analyse automatisée des messages privés est par nature incompatible avec le chiffrement de bout en bout. Mais la Commission ne peut pas affirmer explicitement que le chiffrement de nos communications présente en soi un danger pédocriminel, en particulier parce que le chiffrement des communications est nécessaire dans bien des cas d’usage : pensez par exemple lorsque vous communiquez avec votre banque. La seule conclusion qui s’impose, et qui fait primer la logique sur l’éthique (et même l’économie), c’est que l’analyse doit être faite avant chiffrement, donc sur le dispositif lui-même, votre smartphone, votre ordinateur, avec l’application utilisée. Charge aux fournisseurs de se débrouiller pour mettre en place un dispositif de contrôle automatique, c’est-à-dire ouvrir une porte (une backdoor) pour scanner ce que vous faites. Imaginez par exemple être épié par dessus votre épaule lorsque vous écrivez une lettre : personne ne vous empêche de la mettre sous enveloppe et la poster, par contre un tiers aura analysé, et donc lu, ce que vous avez écrit.

C’est ce qu’on appelle le client-side scanning (CSS). L’annexe 9 (pages 284 sq) de l’étude d’impact de la proposition de régulation porte sur la question du difficile équilibre entre le droit à la communication privée (le chiffrement des communication) et la détection de contenus pédocriminels. La solution qui semble la meilleure à retenir en l’état consiste à réaliser un scan et une analyse de correspondance directement sur le dispositif lui-même ou sur un serveur distant avant l’envoi du contenu au destinataire (voir p. 309 et p. 310).

On peut noter hélas que cette annexe technique est rédigée un peu à la va-vite. Par exemple, la question de l’évaluation des risques de faux positifs liés aux contenus pédocriminels sont réduits à des chiffres épars notamment fournis par des dispositifs qui, eux, ont tout intérêt rassurer. Par exemple PhotoADN, fourni par Microsoft, qui estime à 1/50 milliards le nombre de faux positifs (voir note p. 281 : comment est-évalué ? avec de l’IA ?). Par ailleurs, servant la soupe à l’approche comparative des dispositifs envisagés, on peut noter le lobbying assez intense de la « fondation » Thorn qui s’est positionné pour promouvoir son dispositif de surveillance auprès des fonctionnaires européens, ce qui fut assez commenté et documenté dès 2022.

En réalité, tout le projet s’expose à des contradictions assez évidentes avec les dispositions mêmes de l’Union Européenne :

- L’article 7 de la Charte des droits fondamentaux de l’UE qui garantit le respect de la vie privée et des communications : « Toute personne a droit au respect de sa vie privée et familiale, de son domicile et de sa correspondance ».
– Le principe de proportionnalité : les mesures proposées sont disproportionnées par rapport à l’objectif poursuivi et généralise le caractère potentiellement criminel de toute activité de communication privée. Tout le monde serait un pédocriminel en puissance.
- Malgré l’exhaustivité de l’étude d’impact, le projet ne prévoit pas de mécanismes clairs pour éviter les abus ou limiter l’usage du CSS à la seule lutte contre la pédocriminalité sur Internet

Du côté de la société civile, on note depuis 2022 la multiplication des analyses techniques démontrant que le CSS est une mauvaise solution. Comme le rappelle l’Internet Society, l’analyse côté client :

– est à la source d’une augmentation de la surface d’attaque des dispositifs exposant ainsi les individus à un risque accru de criminalité profitant de ces vulnérabilités,
- pose un ensemble de défis quasiment insurmontables : la puissance de traitement pour pouvoir analyser tous les contenus en temps réel, la maintenance des bases de données, le contrôle de ces bases de données (qui a accès ? qui contrôle ?),
– expose à des détournements à d’autres fin que la lutte contre la pédocriminalité : la surveillance de masse à des fins répressives.

Depuis 2022, les prise de position se multiplient à l’avenant. En 2023, le Contrôleur européen de la protection des données lui-même dans un communiqué concluant un séminaire spécialement consacré, qualifie le projet CSAR comme une tentative inadaptée, inefficace, et potentiellement nuisible. Un an plus tard, Netzpolitik rapporte encore :

Depuis des années, des légions d’experts en informatique et chercheurs en sécurité, des juristes, des experts en protection des données, des organisations numériques, des entreprises technologiques, des fournisseurs de messagerie, des représentants des Nations Unies, des experts en protection de l’enfance, des gardiens des normes Internet, des scientifiques et toutes sortes d’experts ont tiré la sonnette d’alarme dans le monde entier : Chat Control est dangereux. Il s’agit d’une nouvelle forme de surveillance de masse. Elle affaiblira la sécurité informatique de chacun d’entre nous. Elle introduirait une infrastructure de surveillance sur les applications et les terminaux au-delà de l’UE, que les États autoritaires utiliseraient à leur avantage.

Les arguments sont controversés mais attention aux fachos

Considérant que l’expertise ne lui était guère favorable, la Commission Européenne a beaucoup communiqué pour promouvoir son projet. Le député européen Patrick Breyer (Verts/Alliance Libre, membre du Parti Pirate) a réalisé un long dossier sur Chat Control dans lequel il démonte plusieurs arguments fallacieux utilisés par la Commission (voir en anglais et en français). Il ici inutile de les répéter, le dossier étant sur ce point assez complet.

En revanche, la saga de la Commission fut émaillée de plusieurs épisodes pour le moins affligeants. Par exemple, cette affaire de pantouflage de deux agents d’Europol chez Thorn, la multiplication de réunions à rythme soutenu pour passer le projet en force, les eurodéputés eux-mêmes qui ne veulent pas de surveillance de masse, etc.

Un épisode de cette saga mérite toutefois de s’y attarder un peu. Celui de l’affaire de microciblage illégal employé par la Commission pour communiquer auprès du public des Pays Bas afin de faire tourner l’opinion en sa faveur. Ce qui est intéressant, dans cette histoire, c’est que ce microciblage visait à exclure des groupes dont les opinions sont plus ou moins proches de l’extrême droite. La raison est à la fois trouble et double. En premier lieu parce que la rapporteuse initiale du projet, la suédoise Ylva Johansson est à l’aile gauche du parti social-démocrate suédois. Un échec de ses multiples prises de parole verrait sa position pro-européenne battre de l’aile, une position qui, encore récemment, mise énormément sur la recherche de compromis entre les pays européens, en particulier en faveur d’une politique migratoire accueillante. En second lieu, il faut prendre en compte que Chat Control est aussi bien décrié par les élus européens d’extrême droite qui y voient un double avantage : d’une part démontrer que l’UE remet en cause les principes souverainistes auxquels ils adhèrent et d’autre part leur permet à peu de frais de se positionner en défenseurs des libertés. Pour les élus français on peut voir par exemple la lettre écrite par Virginie Joron et Tom Vandendriessche sur X ou cette Question à la Commission par Mathilde Androët. Bien sûr, il s’agit d’une question d’affichage et de posture, mais voir nos principes fondamentaux défendus par une engeance pareille me fait vraiment froid dans le dos (remarquons toutefois que ce genre de position est à géométrie variable, puisque les illibéraux fascisants comme Viktor Orban sont plutôt favorables à des logiciels espions comme Pegasus, plus discrets sans doute…).

Les compromis ont bon dos

En fait, si l’on regarde bien la chronologie de la proposition de Règlement, les multiples réunions de compromissions se soldant ou non par des accords, elle suit une route parfaitement rectiligne jusqu’à aujourd’hui. Devant les désaccords, les présidences tournantes du Conseil n’ont jamais cessé de remettre le projet sur la table, montrant ainsi que plusieurs pays le soutiennent activement et que le texte risque de devenir un sujet particulièrement clivant.

Il se trouvait néanmoins qu’en juin 2024 on pouvait croire la situation définitivement bloquée. En effet, alors que la Belgique avait tenté de remettre un proposition de compromis qui relançait le débat sur le client-side scanning, plusieurs pays ont annoncé leur refus de principe ou leur abstention. Comme le projet n’avait alors aucune possibilité de trouver un accord qualifié, le Conseil l’avait donc supprimé de l’ordre du jour. Venait ensuite la présidence de la Hongrie et son gouvernement particulièrement pro-surveillance, qui relança… heureusement encore un échec, appuyé notamment en août 2024, par une lettre ouverte de plus de 300 chercheurs européens montrant que « les solutions techno-centrées basées sur la surveillance ne sont pas une bonne option pour lutter contre la propagation des contenus pédocriminels ». Entre-temps l’Autriche s’est abstenue, et la Pologne a proposé une refonte assez radicale, fidèle à sa position selon laquelle le projet CSAR est bien trop intrusif (elle privilégiait la détection volontaire sur le mode de la prévention (les fournisseurs signalent d’eux-mêmes les contenus illicite). D’autre pays encore s’étant positionnés à l’encontre, les compromis sont restés hasardeux.

Sauf que… le 1er juillet 2025, le Danemark a pris la tête du Conseil de l’Union européenne et a relancé un projet de compromis. Les négociations seraient censées aboutir à une validation du texte le 14 octobre 2025. Une étude assez complète du texte du compromis danois peut-être trouvée sur edri.org. On retrouve le retour de la détection obligatoire (et de masse) cette fois automatisée par IA, le client-side scanning avec un consentement plus ou moins rendu obligatoire ( !), la classification de tous les systèmes de messagerie chiffrés comme étant à haut risque (donc aucune exception), un système de vérification d’âge (dont on connaît déjà les limites, ne serait-ce qu’en termes de faisabilité et de fiabilité et qui exclurait d’emblée les enfants de la possibilité d’utiliser du chiffrement).

Avec un peu d’optimisme, Edri.org note toutefois :

Étant donné que bon nombre de ces éléments sont précisément à l’origine de l’opposition de longue date de la minorité de blocage (les 11 États membres qui empêchent l’adoption du règlement CSA au Conseil), il est évident que les Danois courent à un nouvel échec. Leur tentative ressemble davantage à un exercice de relations publiques qu’à une véritable volonté de faire avancer les choses…

À l’heure de la rédaction de cet article, bien que quelques médias secondaires affirment que la France s’est enfin positionnée et serait favorable à une mouture du projet proposé par le Danemark, aucune position officielle du gouvernement Français n’est parue… Mais… récemment encore, en mars 2025, le gouvernement de Bruno Retailleau était prêt à beaucoup de concessions avec les libertés pour surveiller les communications à l’encontre du chiffrement. Cela fait suite à de nombreuses tentatives de limitation du droit des correspondances dans l’histoire récente de la France. Ainsi, il fut nullement étonnant de voir les représentants du gouvernement français dans le groupe de travail sur l’application de la loi du 12 octobre 2025 (version diffusée par la représentation allemande ; ce groupe de travail vise à préparer et coordonner les décisions politiques liées à la coopération policière européenne) tenir la position favorable suivante :

La France s’est largement déclarée en faveur du texte actuel. Elle a salué le fait que les ordonnances de détection aient été réintroduites. Elle s’est également félicitée de l’inclusion de la classification des risques et de l’analyse côté client. La proportionnalité a été maintenue. Il était important de garantir un examen humain des résultats positifs. La France souhaiterait donc que le Hit-System [système de correspondance de résultats dans une analyse côté client] soit réintroduit dans le texte afin de réduire le nombre de faux positifs. En outre, il doit exister un moyen de faire passer rapidement les services au statut « à haut risque » sur la base de conclusions pertinentes. La sextorsion étant un problème majeur en France, celle-ci a plaidé en faveur d’une période d’examen plus courte pour le grooming [pédopiégeage] (18 mois au lieu de 3 ans). La France s’est également félicitée de la certification des technologies de détection et de la prolongation prévue de 72 mois du règlement provisoire.

Sans vouloir dépeindre négativement la situation, il faut reconnaître que ce dernier document est assez alarmant. La majorité des représentants y soutiennent le texte, malgré quelques réserves techniques secondaires. Seules la Pologne, l’Allemagne et la Tchéquie font preuve d’assez d’intelligence pour pouvoir, espérons-le, empêcher l’avènement du CSAR.

►https://framablog.org/2025/09/29/chat-control-ca-sen-va-et-ca-revient

#Intelligence_artificielle : le vrai #coût_environnemental de la course à l’IA

https://sp-ao.shortpixel.ai/client/to_auto,q_glossy,ret_img,w_850/https://bonpote.com/wp-content/uploads/2025/09/Infographie-IA-article-850x1024.jpg

“L’IA et la réussite de la #transition_énergétique vont de pair. Nous n’assisterons pas à une transition à grande échelle vers une énergie sans carbone sans les avancées significatives que l’IA promet d’apporter.” Cette citation de Mélanie Nakagawa, la responsable développement durable de Microsoft en février 2025, est à l’image de la #pensée_magique que l’on rencontre de plus en plus fréquemment dans les médias et la société. Celle d’une IA mystique et providentielle qui serait la #solution à tous nos problèmes, et qui justifierait son développement effréné depuis l’arrivée de #ChatGPT en 2022.

Alors qu’Emmanuel Macron a annoncé en février 2025 des #investissements privés de 109 milliards d’euros pour développer l’IA et que plus de 35 nouveaux projets de #centres_de_données ont été annoncés en France, nous vous proposons une analyse approfondie pour déconstruire ces discours et découvrir la #face_cachée de l’intelligence artificielle. Comme le résume la chercheuse en IA Kate Crawford, elle repose sur une triple #extraction : extraction de #ressources_naturelles, extraction de #données, #exploitation_humaine. Dans cet article nous nous concentrerons sur les impacts environnementaux directs de l’IA (consommation énergétique, émissions carbone, impacts locaux des data centers), mais insistons sur la nécessité d’appréhender ces technologies dans leur ensemble pour comprendre les bouleversements sociétaux que son adoption massive génère (enjeux de #pouvoir, #surveillance_de_masse, #militarisation, #inégalités sociales, etc)

Nous commencerons par définir ce qu’est l’intelligence artificielle, son évolution récente, les acteurs qui la sous-tendent et détaillerons le fonctionnement particulier des #IA_génératives. Puis dans un second temps nous décrirons l’#infrastructure_matérielle qui la soutient. Loin de flotter au-dessus de toute réalité physique, comme le champ lexical du “cloud” et de la “dématérialisation” aime à nous le faire croire, ces #technologies ont des conséquences matérielles très tangibles.

Sommaire

- Qu’est ce que l’intelligence artificielle ?
- L’ère de l’IA générative depuis la sortie de ChatGPT en 2022
- L’IA, bien plus qu’une #technologie
- Qui est derrière l’IA ?
- Le voyage d’une requête ChatGPT
- L’inférence pour l’usage quotidien
– Le problème de la #transparence
– Quel est l’impact d’une requête ChatGPT ?
– L’optimisation de la #consommation_électrique de l’IA
– Les impacts directs de l’intelligence artificielle
– La consommation électrique des data centers explose à cause de l’IA
– Émissions de #CO2, la roue libre
– Google, Microsoft, Meta.. Quid des émissions des géants du numérique ?
– La consommation d’#eau
- Ressources abiotiques pour la fabrication des équipements et bâti : dépendance aux #métaux et à l’#industrie_chimique
- Conclusion
- Infographie

▻https://bonpote.com/intelligence-artificielle-le-vrai-cout-environnemental-de-la-course-a-lia
#IA #AI #environnement #à_lire

À #France_Travail, l’essor du #contrôle_algorithmique

« #Score_de_suspicion » visant à évaluer l’honnêteté des chômeur·ses, « #score_d’employabilité » visant à mesurer leur « #attractivité », algorithmes de #détection des demandeur·ses d’emploi en situation de « perte de confiance », en « besoin de redynamisation » ou encore à « risque de dispersion »… France Travail multiplie les #expérimentations de #profilage_algorithmique des personnes sans emploi.

Mise à jour du 12 juillet 2024 : le directeur général de France Travail a souhaité utiliser son droit de réponse. Vous la trouverez à la suite de l’article.

Après avoir traité de l’utilisation par la #CAF d’un algorithme de notation des allocataires, nous montrons ici que cette pratique est aussi partagée par France Travail, ex-#Pôle_Emploi. À France Travail, elle s’inscrit plus largement dans le cadre d’un processus de #numérisation_forcée du #service_public de l’#emploi.

–-> Retrouvez l’ensemble de nos publications sur l’utilisation par les organismes sociaux d’algorithmes à des fins de contrôle social sur notre page dédiée et notre Gitlab : ▻https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle.

Au nom de la « #rationalisation » de l’action publique et d’une promesse « d’#accompagnement_personnalisé » et de « #relation_augmentée », se dessine ainsi l’horizon d’un service public de l’emploi largement automatisé. Cette #automatisation est rendue possible par le recours à une myriade d’algorithmes qui, de l’inscription au suivi régulier, se voient chargés d’analyser nos données afin de mieux nous évaluer, nous trier et nous classer. Soit une extension des logiques de #surveillance_de_masse visant à un #contrôle_social toujours plus fin et contribuant à une #déshumanisation de l’accompagnement social.

De la CAF à France Travail : vers la multiplication des « scores de suspicion

C’est, ici encore, au nom de la « #lutte_contre_la_fraude » que fut développé le premier algorithme de #profilage au sein de France Travail. Les premiers travaux visant à évaluer algorithmiquement l’#honnêteté des personnes sans emploi furent lancés dès 2013 dans la foulée de l’officialisation par la CAF de son algorithme de notation des allocataires. Après des premiers essais en interne jugés « frustrants » [1], France Travail – à l’époque Pôle Emploi – se tourne vers le secteur privé. C’est ainsi que le développement d’un outil de détermination de la probité des demandeur·ses d’emploi fut confié à #Cap_Gemini, une multinationale du CAC40 [2].

La #notation des chômeur·ses est généralisée en 2018. La présentation qui en est faite par France Travail donne à voir, comme à la CAF, l’imaginaire d’une institution assiégée par des chômeur·ses présumé·es malhonnêtes. Ses dirigeant·es expliquent que l’algorithme assigne un « score de suspicion » – dans le texte – visant à détecter les chômeur·ses les plus susceptibles « d’#escroquerie » grâce à l’exploitation de « #signaux_faibles » [3]. Une fois l’ensemble des personnes sans emploi notées, un système d’« #alertes » déclenche ainsi des #contrôles lorsque l’algorithme détecte des situations « suspectes » (emploi fictif, usurpation d’identité, reprise d’emploi non déclarée) [4].

Pour l’heure, France Travail s’est refusé à nous communiquer le code source de l’algorithme. Au passage, notons que ses dirigeants ont par ailleurs refusé, en violation flagrante du droit français, de fournir la moindre information aux demandeur·ses d’emploi que nous avions accompagné·es pour exercer leur droit d’accès au titre du #RGPD [5]. Nous avons cependant obtenu, via l’accès à certains documents techniques, la liste des variables utilisées.

On y retrouve une grande partie des données détenues par France Travail. Aux variables personnelles comme la nationalité, l’âge ou les modalités de contact (mails, téléphone…) s’ajoutent les données relatives à notre vie professionnelle (employeur·se, dates de début et de fin de contrat, cause de rupture, emploi dans la fonction publique, secteur d’activité…) ainsi que nos #données financières (RIB, droits au chômage…). À ceci s’ajoute l’utilisation des données récupérées par France Travail lors de la connexion à l’espace personnel (adresse IP, cookies, user-agent). La liste complète permet d’entrevoir l’ampleur de la #surveillance_numérique à l’œuvre, tout comme les risques de #discriminations que ce système comporte [6].

#Profilage_psychologique et gestion de masse

Fort de ce premier « succès », France Travail décide d’accroître l’usage d’algorithmes de profilage. C’est ainsi que, dès 2018, ses dirigeant·es lancent le programme #Intelligence_Emploi [7]. Son ambition affichée est de mettre l’#intelligence_artificielle « au service de l’emploi » pour « révéler à chaque demandeur d’emploi son #potentiel_de_recrutement » [8].

Un des axes de travail retient notre attention : « Accélérer l’accès et le retour à l’emploi [via un] #diagnostic “augmenté” pour un accompagnement plus personnalisé ». Ici, l’#IA doit permettre de d’« augmenter la capacité de diagnostic » relative aux « traitements des aspects motivationnels » via la « détection de signaux psychologiques » [9]. En son sein, deux cas d’usage retenus sont particulièrement frappants.

Le premier est le développement d’algorithmes visant à « anticiper les éventuels #décrochages », prévenir les « #risques_de_rupture » [10] ou encore « détecter les moments où ils [les personnes au chômage] peuvent se sentir découragés ou en situation de fragilité » [11].

Ces travaux ont trouvé, au moins en partie [12], un premier aboutissement dans l’outil du #Journal_de_la_Recherche_d’Emploi (#JRE) actuellement expérimenté dans plusieurs régions de France [13]. Le JRE assigne à chaque incrit·e quatre scores de « profilage psychologique » visant respectivement à évaluer la « dynamique de recherche » d’emploi, les « signes de perte de confiance », le « besoin de #redynamisation » ou les « risques de dispersion » [14].

Ces informations sont synthétisées et présentées aux conseiller·es sous la forme d’un tableau de bord. « Parcours à analyser », « Situations à examiner », « Dynamique de recherche faible » : des alertes sont remontées concernant les chômeur·ses jugé·es déficient·es par tel ou tel algorithme. Le ou la conseiller·e doit alors faire un « #diagnostic_de_situation » – via l’interface numérique – afin d’« adapter l’intensité » des « actions d’accompagnement ». Et là encore, ils et elles peuvent s’appuyer sur des « #conseils_personnalisés » générés par un dernier algorithme [15].

Contrôle, #mécanisation et déshumanisation de l’accompagnement : voilà la réalité de ce que le directeur de France Travail appelle « l’accompagnement sur mesure de masse » [16].

Diagnostic et score d’#employabilité

Le second cas d’usage est tout aussi inquiétant. Il s’agit de déterminer la « qualité » d’un·e demandeur·se d’emploi. Ou, pour reprendre les termes officiels, son « employabilité » [17]. Ce projet n’est pas encore déployé à grande échelle, mais nous savons qu’une première version – basée, elle, sur des techniques d’intelligence artificielle [18] – a été développée en 2021 [19].

L’algorithme alloue à chaque inscrit·e un score prédisant ses « chances de retour à l’emploi ». Véritable outil automatique de #tri des chômeur·ses, il vise à organiser la « #priorisation des actions d’accompagnement » [20] en fonction d’un supposé #degré_d’autonomie de la personne sans emploi.

Si les informations disponibles sur ce projet sont limitées, on peut imaginer que ce score permettra le contrôle en temps réel de la « progression de la #recherche_d’emploi » via les actions entreprises pour améliorer « l’attractivité [de leur] profil » [21]. Il serait alors un indicateur d’évaluation en continu de la bonne volonté des chômeur·ses.

Mais on peut aussi penser qu’il sera utilisé pour inciter les personnes sans emploi à se diriger vers les « #métiers_en_tension », dont une majorité concentre les conditions de travail les plus difficiles. En demandant aux chômeur·ses d’améliorer leur score, via une #réorientation, ils et elles seraient encouragé·es à accepter un emploi au rabais.

Agenda partagé & agences virtuelles

Mais l’étendue du processus de numérisation à l’oeuvre à France Travail va bien au-delà de ces exemples. Côté contrôle numérique, citons l’interface « #XP_RSA » [22], l’outil numérique déployé dans le cadre de la récente réforme du #RSA. Cette interface n’est rien d’autre qu’un agenda partagé permettant de déclarer, et de contrôler, les quinze à vingt « #heures_d’activité » hebdomadaires dont vont devoir s’acquitter les bénéficiaires du minima social. Son remplissage forcé est un pas supplémentaire vers le #flicage des plus précaires.

Côté IA, France Travail a lancé en 2024 le programme « #Data_IA » [23], successeur d’Intelligence Emploi mentionné plus haut. Présenté avec fracas au salon de l’« innovation technologique » VivaTech – organisé par le groupe Publicis –, on retrouve parmi les projets en développement une #IA_générative visant à numériser l’accompagnement et la #recherche_d’emploi (« #Match_FT ») [24]. France Travail s’intéresse aussi aux « #maraudes_numériques » pour « remobiliser les jeunes les plus éloignés de l’emploi » [25] et au développement d’« #agences_virtuelles » [26].

#Austérité, automatisation et #précarisation

La numérisation de France Travail signe la naissance d’un modèle de gestion de masse où coexistent une multitude d’algorithmes ayant chacun la tâche de nous classifier selon une dimension donnée. Risque de « fraude », de « dispersion », de « perte de confiance », suivi des diverses obligations : les capacités de collecte et de traitements de données sont mises au service de la détection, en temps réel, des moindres écarts à des normes et règles toujours plus complexes [27]. Cette numérisation à marche forcée sert avant tout à contrôler les personnes sans emploi [28].

À l’heure où Gabriel Attal annonce une énième réforme de l’assurance-chômage passée en force alors que l’Assemblée nationale est dissoute, ce contrôle ne cache plus son but : forcer les plus précaires à accepter des #conditions_de_travail toujours plus dégradées [29].

Loin des promesses de « libérer du temps pour les conseillers » ou d’offrir un accompagnement « plus réactif et plus personnalisé » [30] aux personnes sans emploi, cette numérisation contribue à la déshumanisation d’un service essentiel et à l’#exclusion des plus précaires, voire tend à une généralisation du #non-recours_aux_droits. Il ne s’agit pas d’idéaliser le traitement « au guichet », mais de rappeler que la numérisation forcée accentue les écueils de ce dernier. En accompagnant la fermeture des points d’accueil, elle transfère une partie du travail administratif aux personnes usagères du service public, participant à l’éloignement de celles et ceux qui ne sont pas en mesure de le prendre en charge [31].

En standardisant les processus d’accompagnement, via la #quantification de chaque action et le profilage de toute une population, elle restreint les possibilités d’échange et supprime toute possibilité d’accompagnement réellement personnalisé [32].

En facilitant le contrôle généralisé, elle accentue enfin la #stigmatisation des plus précaires et participe activement à leur #paupérisation.

–-

Mise à jour du 12 juillet 2024

À la suite de notre article, France Travail, via son directeur général Thibaut Guilly, a souhaité exercer son droit de réponse que nous publions ci-dessous in extenso.

« Madame, Monsieur,

Je reviens vers vous suite à mon précédent courrier du 2 juillet.

Bien que le délai de 3 jours prévu à l’article 1.1-III de la loi n°2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique soit aujourd’hui expiré, je constate que le droit de réponse qui vous a été adressé n’a pas été publié. Pour rappel, le non-respect de cette obligation est passible d’une amende de 3 750 €.

Aussi, je réitère par la présente ma demande de publication d’un droit de réponse suite à la parution le 25 juin 2024 de l’article intitulé « A France Travail, l’essor du contrôle algorithmique » (librement accessible à l’adresse : ►https://www.laquadrature.net/2024/06/25/a-france-travail-lessor-du-controle-algorithmique).

Dans cet article, vous évoquez un « service public de l’emploi largement automatisé », ainsi qu’une utilisation des algorithmes qui « contribue à la déshumanisation d’un service essentiel », favorise « la stigmatisation des plus précaires et participe activement à leur paupérisation » et constitue « un pas supplémentaire vers le flicage des plus précaires ». Il s’agirait d’une « extension des logiques de surveillance de masse visant à un contrôle social toujours plus fin et contribuant à une déshumanisation de l’accompagnement social », cette « numérisation à marche forcée ser[van]t avant tout à contrôler les personnes sans emploi ». Vous faites également état de « la fermeture des points d’accueil ».

Nous nous inscrivons en faux contre ces propos erronés qui conduisent à jeter un discrédit sur le travail des plus de 55 000 collaborateurs qui accompagnent chaque jour les demandeurs d’emploi et les entreprises et à travestir la réalité concernant l’usage que nous faisons de ces algorithmes.

L’utilisation des algorithmes au sein de France Travail ne vise en aucun cas à remplacer le travail des conseillers. L’intelligence artificielle (IA) vient en complément et ne se substitue jamais à une intervention humaine. Au contraire, nous concevons les algorithmes et l’IA comme des outils d’aide à la décision pour les conseillers ou un moyen de leur libérer du temps administratif afin de leur permettre de se consacrer pleinement à l’accompagnement des demandeurs d’emploi.

Toute utilisation d’algorithmes est en outre encadrée par une charte éthique (▻https://www.francetravail.org/accueil/communiques/pole-emploi-se-dote-dune-charte-pour-une-utilisation-ethique-de-linte) qui décrit nos engagements pour garantir un cadre de confiance respectueux des valeurs de France Travail, à l’opposé de toute « notation de chômeurs » que vous pointez dans votre article. Un comité d’éthique externe composé de personnalités qualifiées garantit le respect de ce cadre. En aucun cas, les algorithmes ne sont utilisés pour « encourager les demandeurs d’emploi à accepter des emplois au rabais ».

Concernant la « mécanisation » ou la « déshumanisation » de l’accompagnement que vous avancez, c’est méconnaitre le travail que réalisent les conseillers quotidiennement dans plus de 900 agences ou par téléphone. Aucun projet de fermeture d’agence n’est d’ailleurs envisagé contrairement à ce que vous dites et France Travail est un des rares services publics à être ouvert tous les jours, sur flux le matin et sur rendez-vous l’après-midi. Plus de 8,8 millions de personnes sont venues dans nos agences l’année dernière. Cet accueil en agence reflète justement notre politique de proximité et d’accompagnement notamment des plus précaires. L’ambition de la loi pour le plein emploi est en outre de renforcer l’accompagnement humain des plus éloignés, en particulier des bénéficiaires du RSA.

Vous parlez enfin de « flicage des plus précaires » à travers l’utilisation d’algorithmes concernant le contrôle de la recherche d’emploi et la lutte contre la fraude. Il convient tout d’abord de souligner que ce sont deux activités distinctes, le contrôle de la recherche d’emploi ne saurait être assimilé à de la lutte contre de la fraude, qui est, par définition, une activité illégale et susceptible de poursuites pénales. Sur ce dernier point, l’utilisation des données dans la lutte contre la fraude vise avant tout à protéger nos usagers. En effet, la majorité des situations recherchées par les équipes de France Travail ne concerne pas des demandeurs d’emploi mais des individus qui détournent les services d’indemnisation du chômage, bien souvent au préjudice de nos usagers : usurpation d’identité des demandeurs d’emploi pour s’approprier leurs droits à l’assurance chômage ou détourner leurs paiements, individus se fabricant un faux passé professionnel ou une fausse résidence en France pour ouvrir des droits indus. Concernant le contrôle de la recherche d’emploi, là encore nous réfutons vivement l’idée selon laquelle nous mènerions une chasse aux plus précaires. Tout demandeur d’emploi inscrit à France Travail bénéficie de droits mais a également des devoirs qui lui sont présentés dès son inscription, dont celui de rechercher activement un emploi. 600 conseillers sont dédiés à ce contrôle et là encore, l’IA est un outil d’aide et en aucun la pierre angulaire des contrôles réalisés par ces conseillers en contact avec les demandeurs d’emploi tout au long de ce processus de contrôle. Là encore votre article méconnaît le travail de nos conseillers et constitue une atteinte à leur engagement et à leur intégrité.

Je vous remercie de publier sans délai ce droit de réponse. A défaut, je me réserve la possibilité de saisir les juridictions à cet effet.

Je vous prie d’agréer, Madame, Monsieur, l’expression de mes sincères salutations.

Thibaut Guilluy »

Notre réponse :

À la suite de notre article, France Travail, via son directeur général Thibaut Guilly, nous a initialement écrit pour faire des remarques d’ordre général sur notre article. Puis, dans une nouvelle lettre reçue aujourd’hui, il est subitement passé aux menaces : nous n’aurions, selon lui, pas fait droit à sa prétendue « demande de publication d’un droit de réponse ». Ces menaces sont particulièrement malvenues et, au demeurant, totalement vaines, puisque rien dans son courrier initial n’indiquait qu’il s’agissait d’une demande de droit de réponse…

Le directeur général de France Travail s’en tient à une poignée d’éléments de langage sans jamais répondre sur le fond. Pas un mot sur la multiplication des algorithmes de profilage à des fins de contrôle. Tout au plus y apprend-on que des algorithmes d’IA sont aussi utilisés à des fins de « contrôle de la recherche d’emploi », ce que nous ignorions.

Cette lettre se borne ainsi à un simple exercice, maladroit et malvenu, de communication. Elle s’essaye vainement à réfuter l’expression de « flicage des plus précaires » pour décrire les outils de surveillance des allocataires du RSA. La mise en place d’un agenda partagé pour le contrôle des 15 à 20 heures d’activité de ces dernier·ès serait ainsi – il faut savoir apprécier l’humour – une mesure visant à « renforcer l’accompagnement humain ».

Quant à l’impact de la numérisation sur l’accueil des plus précaires, le directeur général de France Travail nie la réalité, tout comme son homologue de la CNAF, afin de minimiser l’étendue de la surveillance et le projet politique sous-jacent. Qu’a-t-il donc à répondre à la Défenseure des droits qui, en 2022 dans son deuxième rapportsur la dématérialisation des services publics, rappelait la hausse des inégalités et des réclamations en raison de cette dématérialisation « à marche forcée » ?

Enfin, opposer, comme le fait cette lettre, le travail des salarié·es de France Travail et notre action de documentation et d’alerte sur les abus de l’administration est stérile : la déshumanisation et le changement de nature du service public se font non seulement au détriment des personnes au chômage mais également des agent·es de France Travail, comme l’ont dénoncé syndicats et associations au moment de la réforme de l’assurance chômage et la transformation de Pôle Emploi en France Travail [33].

Ce que cette lettre souligne avant tout c’est donc l’absence de recul, de capacité de remise en cause et d’esprit critique du directeur général de France Travail quant à l’extension des logiques de contrôle numérique au sein de son institution. Ou sa pleine adhésion à ce projet.
Notes

[1] Voir cette note de synthèsenote de synthèse revenant sur les premières expérimentation faites par Pôle Emploi.

[2] Voir cet article sur l’implication de Cap Gemini dans la réalisation de l’outil de scoring.

[3] L’expression « score de suspicion » est extraite de l’analyse d’impact disponible ici, celle de « signaux faibles » d’une note de suivi des travaux OCAPI 2018 disponible ici, celle d’« indices » de l’ article présentant la collaboration de France Travail avec Cap Gemini. Quant au terme d’« escroquerie », il est issu d’un échange de mails avec un·e responsable de France Travail.

[4] L’algorithme utilisé semble se baser sur des arbres de décisions, sélectionnés via XGBoost. Les principaux cas d’entraînement semblent être la détection de périodes d’activité dites « fictives » – soit des périodes de travail déclarées mais non travaillées – d’usurpation d’identité et de reprise d’emploi non déclarée. Voir ce document.

[5] Nous accompagnons différentes personnes dans des demandes d’accès à leurs données personnelles. Pour l’instant, France Travail s’est systématiquement opposé à leur donner toute information, en violation du droit.

[6] Voir notamment nos articles sur l’algorithme de la CAF, en tout point similaire à cette page.

[7] Ce programme, financé à hauteur de 20 millions d’euros par le Fond de Transformation de l’Action Publique a été construit autour de 3 axes et s’est déroulé de 2018 à 2022. Voir notamment la note de 2020 envoyée à la DINUM par France Travail, disponible ici.

[8] Rapport annuel 2018 de Pôle Emploi disponible ici.

[9] Voir cette note envoyée par Pôle Emploi à la DINUM.

[10] voir note 9

[11] Voir ce support de webinaire.

[12] En partie puisqu’au cœur des algorithmes du JRE, nulle trace de machine learning ou de traitements statistiques complexes. Chaque score résulte de l’application de règles simples, bien loin des ambitions initiales de recours à l’intelligence artificielle. Les dirigeant·es de France Travail semblent ici avoir éprouvé les limites d’un techno-solutionnisme béat. Voir ce document. À noter aussi que ce document évoque une « brique IA Mire » portant sur la détection de « situations de décrochage ». Il se pourrait donc que des algorithmes plus avancés soient en développement.

[13] Le JRE est une refonte de l’interface numérique. Voir à ce sujet l’excellent article de Basta disponible ici. Si le JRE ne semble pas avoir été créé dans le cadre du programme Intelligence Emploi, il semble avoir été le cadre d’expérimentations de plusieurs des solutions produites. Voir ici.

[14] Voir le document « Fiches pratiques à destination des conseillers » portant sur le JRE disponible ici.

[15] Les documents les plus parlants sur la mécanisation de l’accompagnement via le JRE sont ce support et ce document à destination des conseiller·es. Voir aussi les documents que nous mettons en ligne sur l’utilisation d’IA pour générer des conseils automatisés, consultables par les personnes sans emploi et les conseiller·es.

[16] Voir cette interview du directeur actuel de France Travail.

[17] Pour un aperçu historique de la notion d’employabilité, voir le chapitre 5 de France Travail : Gérer le chômage de massse de J.-M Pillon.

[18] Voir cette note envoyée par Pôle Emploi à la DINUM en 2020.

[19] Voir cette autre note envoyée par Pôle Emploi à la DINUM en 2021.

[20] voir note 18

[21] Voir ce document sur l’utilisation de l’IA à Pôle Emploi.

[22] Voir ce document de présentation de XP RSA.

[23] Voir ce document de présentation du programme Data IA.

[24] Pour Match FT, voir cet entretien, ce tweet et cet article de la Banque des Territoires. Voir aussi Chat FT, l’IA générative pour l’instant dédiée aux conseillers·es, dans ce document.

[25] Voir ce tweet.

[26] Voir ce tweet.

[27] Sur la réforme à venir, voir notamment cet article du Monde. Sur le triplement des contrôles, voir cet articledu même journal.

[28] Sur l’histoire du contrôle à France Travail, voir le livre Chômeurs, vos papiers de C. Vivès, L. Sigalo Santos, J.-M. Pillon, V. Dubois et H. Clouet, le rapport Le contrôle des chômeurs de J.-M. Méon, E. Pierru et V. Dubois disponible Sur le triplement des contrôles, voir ici et le livre France Travail : gérer le chômage de masse de Jean-Marie Pillon.

[29] voir note 27

[30] Voir, entre autres, cette vidéo du responsable du programme Data IA.

[31] Voir le livre L’Etat social à distance de Clara Deville.

[32] Voir le texte Déshumaniser le travail social de Keltoum Brahan et Muriel Bombardi, publié dans le numéro de février 2017 de CQFD.

[33] La CGT a dénoncé une réforme qui n’« est pas favorable » aux personnes sans emploi. La CGT Pôle Emploi y voit une numérisation du service public qui « détruira les nécessaires relations humaines, et accentuera la fracture numérique et donc la précarité » et une réforme qui va « renforcer les devoirs au détriment des droits », ou encore « accroître les tensions entre les agents et les demandeurs d’emploi ». Solidaires a dénoncé le caractère « trompeur » de l’accompagnement. Côté personnes sans emploi, le constat est le même : cette transformation rend les personnes « Coupable[s] d’être au chômage » d’après le comité National CGT des Travailleurs Privés d’Emploi et Précaires. Enfin, les associations de solidarité et des syndicats ont ensemble dénoncé dans le Monde le « risque des contrôles abusifs de la situation globale des ménages ».

▻https://lagrappe.info/?A-France-Travail-l-essor-du-controle-algorithmique-1132
#algorithme #chômage #profilage

La preuve en images ?

En suivant le procès de #Mazan, je perçois un parallèle avec les meurtres de masse à #Gaza, en Cisjordanie et au Liban : dans les deux cas, nous assistons à un échec des idéaux de #justice que nos sociétés revendiquent, échec accentué par l’abondance d’#images incriminantes. Je tente ici d’examiner comment cette #crise_de_la_preuve se déroule sous nos yeux et le miroir qu’elle nous tend.

Dans un texte publié cette semaine, Mona Chollet (►https://www.la-meridienne.info/Le-genocide-invisible) écrit :

« Le découpage minutieux par lequel les médias et les dirigeants occidentaux distinguent les victimes dignes d’être pleurées de celles qui ne méritent pas une seconde d’attention me fait penser à ces vieilles #photos de l’URSS sur lesquelles la #censure effaçait soigneusement les contours des dignitaires tombés en disgrâce. »

Je n’aurais pas pu trouver meilleure introduction à mon propos.

L’historienne de formation (et de l’URSS, justement) que je suis est forcément débordée par l’actualité : ayant exercé mes recherches dans un milieu par définition déserté par les preuves matérielles, j’ai étudié dans le sillage d’historiens comme Iouri Dmitriev et Dmitri Yurasov qui ont couru leur vie durant après des traces de massacres et leur dissimulation par les perpétrateurs (et les autorités), et me suis principalement employée à reconstituer des récits de violences de masse à partir d’éléments rares et lacunaires.

Depuis plusieurs années, c’est l’inverse qui se produit : pour enquêter, on est au contraire contraint de fouiller dans la masse de documents disponibles en ligne et de constituer des outils à même d’isoler le signal du bruit, le vrai du manufacturé et l’aiguille de la botte de foin. Nous investissons donc des terrains où les #preuves abondent. Pour autant, force est de constater qu’elles ne sont pas nécessairement retenues contre les auteurs des #crimes. J’ai pour ma part le sentiment que nous vivons collectivement une inversion paradoxale du #rapport_à_la_preuve, par lequel des #preuves_visuelles accablantes accompagnent des #violences pourtant ignorées ou niées.

Au cours de mes recherches ou en pratiquant l’#OSINT sur plusieurs épisodes de #violence ces dernières années, je suis travaillée par cette réflexion sur le #statut_de_l’image — notamment dans ce qu’elle change dans notre rapport à l’événement historique — et de la preuve ; l’affaiblissement paradoxal de la #charge_de_la_preuve par la pléthore d’images s’est vérifié tous les jours en Syrie, sur le front ukrainien, etc.

En ce moment, deux événements d’ordres en apparence très différents alimentent en continu cette réflexion : les crimes de guerre conduits par l’armée israélienne, et le #procès_de_Mazan.

PREUVES ET #DÉNI

Dans ces deux contextes, les vidéos provoquent une crise collective de notre rapport aux images et de notre rapport à la justice, philosophiquement, socialement mais aussi et surtout, c’est en tout cas l’enjeu, dans le cadre très précis du #droit_international et du #droit_pénal français, respectivement. On assiste à la rupture avec un paradigme dans lequel l’#absence_de_preuve justifiait que soient laissés impunis des actes, qu’il s’agisse de #crimes_sexuels ou de #crimes_de_guerre, dont la matérialité était suspendue aux déclarations des victimes, victimes qui, faute de preuves, n’étaient pas ou rarement crues.

Mais que se passe-t-il alors face à des faits amplement documentés ?

Alors qu’on pourrait s’attendre à ce que la #vérité éclate au grand jour, on vérifie tous les jours que ce n’est pas le cas. Le sort fait aux images y est pour beaucoup : selon le narratif qu’elles peuvent appuyer, elles verront leur circulation entravée ou encouragée et leur contenu validé ou discrédité. C’est de cette façon que des images propres à susciter l’#indignation se heurtent paradoxalement à l’#indifférence voire au #doute, qui sont bien sûr de puissants facteurs de #démobilisation.

Plusieurs dispositifs agissent dans ce sens, que renseigne abondamment une longue tradition de théorie de l’information et de critique des médias : d’une part, l’accès à l’information limité et cloisonné, de la bulle de filtres à la censure délibérée. D’autre part, face à l’impossibilité de contrôler le flux désormais intarissable des informations, se mettent en place des réponses cognitives telles que la #fatigue_de_compassion ou la #surcharge_cognitive, qui paralysent au lieu de mobiliser. Enfin, les médias d’#information_en_continu, la concentration des titres de presse et en général le fonctionnement des médias moderne est propice à l’#entropie, la #manipulation de l’information, la perméabilité à la #propagande. Face à ces phénomènes de d’#altération de l’information, l’émergence croissante de médias de #fact-checking ou de #debunk est salutaire mais à la fois insuffisante (c’est la fameuse loi dite de Brandolini) et sujette à caution, ces plateformes qui s’érigent en instances de neutralité devenant potentiellement des agents de contrôle de l’information.

Je parle souvent de notre usage des #réseaux_sociaux en politique, et notamment le dispositif de #spectacle par lequel nous assistons en live sur nos téléphones à des massacres filmés, et l’#impuissance acquise à laquelle nous cela nous réduit, dans une sorte de #conscientisation_sans_action. L’idée que des images puisse provoquer une #prise_de_conscience en même temps qu’une #distance_émotionnelle est au coeur de la réflexion de #Susan_Sontag dans Regarding the Pain of Others, et plus récemment dans le livre de #Samah_Karaki L’Empathie est politique (▻https://www.editions-jclattes.fr/livre/lempathie-est-politique-9782709672504), paru au début de ce mois.

Une forme de #militantisme_compassionnel consiste alors à liker, partager, s’indigner à longueur de stories (moi la première) en se raccrochant à l’idée de « faire quelque chose ». J’ai depuis appris qu’un mot existe en réalité depuis longtemps pour désigner ce phénomène : le #slacktivisme, autrement dit un #activisme_paresseux pratiqué depuis son canapé. Bien entendu, si ce qui se joue relevait de la seule paresse, cela ne vaudrait pas pour moi une minute de peine.

Je voudrais revenir sur la nature et le rôle du « spectacle » en question, c’est-à-dire ce que nous regardons : les images, en quantité désormais infinies, et leur caractère de preuve.

Si tout ce qui précède tend à montrer que la #démobilisation est un effet pervers de l’inflation des images, je pense qu’est également à l’œuvre un mécanisme délibéré de #disqualification de ces images. En effet, si l’#indifférence est une des conditions de l’#impunité, le #doute en est une autre et c’est ce qui m’intéresse plus particulièrement.

DU DÉNI AU #NÉGATIONNISME

Le procès Pélicot et les vidéos de Gaza présentent selon moi un point commun très fort et symptomatique de l’époque en ce qui concerne notre rapport aux images : dans ces deux cas de figure nous sommes en présence d’images qui se retrouvent au cœur du #débat_public.

Ce sont notamment des contextes de production d’images par les auteurs mêmes des crimes, et dans les deux cas, la controverse repose sur l’idée que ces images ne constituent pas des preuves. Dominique Pélicot, qui a drogué son épouse afin que plusieurs dizaines d’inconnus puissent la violer à son insu pendant des années, a tout filmé ; c’est même cette collection visuelle monumentale qui a conduit à la mise en examen des accusés. On peut aussi relever que c’est déjà le fait de filmer ses victimes, en public cette fois (sous les jupes de clientes d’une grande surface), qui a attiré l’attention des autorités sur lui et mené à la découverte du reste. La documentation systématique de ses propres agissements constitue donc une part fondamentale desdits agissements (dans un but principalement pornographique en l’occurrence). À l’issue de la fouille de son matériel, cette archive devient logiquement une #pièce_à_conviction.

Pourtant, depuis le début des audiences, s’est joué un retournement du rôle de ces images : les plaidoiries des avocats des accusés mobilisent massivement les vidéos incriminantes pour au contraire les dédouaner. Il a pu être ainsi avancé que ces images montraient en fait que la victime était consentante ; qu’elle faisait semblant de dormir ; que rien ne prouvait qu’elle n’avait pas sollicité ces actes.

Dans le cas de Mazan, le paradoxe est consommé : sans ces vidéos, les accusés auraient probablement continué leur vie sans être inquiétés, mais sur ces vidéos se construit désormais un #récit_alternatif visant à les disculper.

Depuis un an, une autre catégorie de vidéos sature nos écrans : les images en provenance de Gaza. Depuis un an Israël a imposé une interdiction stricte sur l’accès indépendant à Gaza pour les médias internationaux ; les vidéos qui nous parviennent sont donc nécessairement le fait d’individus impliqués dans les événements. Certaines sont filmées avec les téléphones des victimes ; d’autres sont, comme dans le cas de Dominique Pélicot, tournées par les auteurs des crimes : des soldats israéliens enregistrant des crimes de guerre en zone occupée, soit par souci nationaliste, soit par fanfaronnade individuelle pour se mettre en valeur sur Tiktok et Tinder. On note au passage qu’à Mazan comme à Gaza, la compilation des actes criminels par leurs auteurs dit quelque chose de leur #sentiment_d’impunité.

Dans les deux cas de figure, un enjeu fondamental est donc l’existence d’une #documentation_visuelle d’actes qui dans d’autres contextes restent impunis, précisément faute de preuves.

Tout l’argumentaire de notre idée de la justice est fondé sur la preuve, soit le fait que le flagrant délit ou la prise sur le fait rend les faits indéniables. C’est même ce qui justifie la #surveillance_de_masse.

Ici, cet argumentaire se retrouve mis à mal et les images font l’objet d’une entreprise de #disqualification : les victimes sont des menteurs et les vidéos sont fake. Nous le savons bien : dans le monde « #post-vérité », les faits ne sont plus aussi têtus.
 Ainsi encore tout récemment des images des frappes qui ont ciblé les patients d’un hôpital en ruines à Deir al Balah et notamment vu périr dans les flammes le jeune Shaban al-Dalou sur plusieurs vidéos ont suscité une émotion virale. Mais très rapidement en réponse à ces images se met en place une rhétorique de #négation d’ordre conspirationniste : les vidéos seraient le fruit de « #Pallywood », invention raciste et révisionniste qui prétend que les Palestiniens disposent d’une industrie cinématographique dédiée à la production « hollywoodienne » de films victimaires. Ainsi l’épisode très choquant de la mort de #Shaban_al-Dalou a été remis en question en ciblant l’auteur d’une des vidéos de l’attaque de l’hôpital ; dans ces contenus, le jeune Gazaoui est présenté comme un « acteur » et accusé de créer de faux contenu destinés à attirer la compassion. Bien que les vidéos aient été vérifiées comme bien réelles et la conspiration Pallywood largement debunkée, et notamment sur l’épisode précis en question, les tweets relayant cette opération de propagande autant par les comptes officiels de l’état israélien que de l’influenceur d’extrême-droite et ex-policier Bruno Attal mais aussi la vice-Présidente du CRIF, n’ont pas, à ce jour, été supprimés.
Ce #discrédit jeté sur la preuve peut sembler tellement grossier qu’on aurait du mal à le prendre au sérieux, mais il fonctionne très bien sur les spectateurs de bonne foi qui ne veulent pas croire aux images “choc” qui leur parviennent. Il a même pu être dit que ces images étaient "trop choquantes pour être réelles".

Ainsi, en présence d’images, la négation doit simplement passer par d’autres canaux : ces images prouveraient en fait le contraire de ce qu’elles montrent explicitement ; seraient fausses ou trafiquées ; les victimes seraient en fait consentantes, ou ne seraient que des acteurs jouant la comédie.

La #fictionnalisation des images documentaires participe donc de la mise en place d’un #déni_de_preuve. Priver les images de leur #charge_probatoire est alors un enjeu capital pour les perpétrateurs.

VICTIME PARFAITE, PARFAIT COUPABLE

Revenons sur Mazan.

Gisèle Pélicot, soumise chimiquement par son mari et livrée à des centaines d’hommes pour qu’ils la violent pendant qu’elle était inconsciente, pourrait incarner l’archétype de la "bonne victime" de viol : les preuves sont accablantes, les faits indiscutables.

Cette idée de "#bonne_victime" se retrouve chez Giulia Fois, qui évoque le viol dont elle a été victime comme un “bon viol”, expliquant qu’elle a été considérée comme une victime recevable parce que son viol a eu lieu dans un contexte conforme à l’idée qu’on veut se faire du viol à l’échelle de la société : un inconnu la nuit sur un parking sombre — cliché bien utile pour recouvrir complètement la réalité qui est toute autre : puisque 90% des #viols sont commis par un homme connu de la victime.

Pourtant, Gisèle Pélicot se voit harcelée par les avocats de la défense qui s’acharnent à démontrer qu’elle aurait été consentante, et par là mettre en doute son statut même de victime. On le voit bien : l’image, soit le plus haut niveau de preuve, dans ce contexte, ne sert plus à rien. Si ce n’est éventuellement à se retourner contre les victimes : on est même allé chercher des photographies érotiques réalisées par la victime pour étayer le portrait d’une femme lascive et libertine, donc essentiellement une femme qui a bien cherché à se faire passer dessus et certainement pas une « bonne victime ».

On voit donc la facilité avec laquelle, en dépit des preuves, la victime légitime peut être rétrogradée au statut d’irrecevable.

Dans le même ordre d’idées, Mona Chollet, toujours dans son texte si bien nommé « le génocide invisible », relève ceci (et je souligne) :

« Au fil des mois, déjà, on avait pu mesurer l’ampleur du “deux poids, deux mesures”. Les massacres, les viols : au vu de l’indignation générale soulevée, à juste titre, quand des Israélien·nes en ont été victimes, on avait pu en déduire, naïvement, que ces crimes étaient condamnables en eux-mêmes. Mais l’indifférence, voire l’approbation, rencontrées quand des Palestinien·nes en sont victimes à leur tour nous force à en déduire que ce qui est réellement terrifiant, ce n’est pas d’être violé·e, décapité·e, massacré·e : c’est de l’être par des Arabes ».

La #recevabilité du #statut_de_victime légitime semble donc moins inféodée au faisceau de preuves dont on dispose qu’au statut de l’auteur des actes dont elle est victime. En gros : dis-moi qui t’a agressé·e, je te dirai si c’est vrai.

En effet, la question de savoir qui est la "bonne victime" sert à détourner l’attention du véritable problème : celui des "#bons_coupables", ceux que la justice désigne comme des cibles légitimes — migrants, pauvres, minorités de race et de genre… (et il va de soi que ces coupables idéaux ne peuvent pas constituer à leur tour des victimes parfaites). Pour le dire simplement, le système protège les agresseurs quand ils correspondent à un certain profil.

Nous avons à Mazan un procès accablant pour les auteurs (avec 10 ans de vidéos à charge) mais comme comme ce sont des coupables irréprochables — un « #bon_père_de_famille » et des « monsieur tout-le-monde » —, on est en train de nous expliquer que c’est plus compliqué que ça, qu’ils n’ont pas fait grand chose de mal, qu’ils ont souffert dans leur enfance et que Gisèle Pélicot a peut-être un peu cherché ce qui lui est arrivé. La médiatisation du procès de Mazan rompt l’illusion et montre au grand jour l’arbitraire de la séparation entre bons et mauvais hommes, et entre vrais et faux coupables.

Le contraste est saisissant avec typiquement le battage médiatique tout récent autour de l’inculpé désigné sous la seule appellation de « Marocain sous OQTF » qui a tué la jeune Philippine, créant immédiatement une panique d’extrême-droite — extrême-droite qu’on a pas beaucoup vu s’émouvoir du procès Mazan.

Il apparaît clairement qu’on ne prend fait et cause pour les victimes qu’en fonction de qui les agresse, en faisant en réalité peu de cas de ces victimes.

CACHEZ CES VICTIMES QUI NE SAURAIENT EXISTER

Dans ce contexte, le huis clos judiciaire joue d’ailleurs un rôle clé : il devient le pilier d’un système qui, sous couvert de protéger les victimes, protège en réalité les coupables. Le refus du #huis_clos par Gisèle Pélicot est un enjeu de société car il expose publiquement ce qui était auparavant relégué à l’imaginaire sordide des « affaires de mœurs » et recouvert d’un voile pudique.

Dans le même ordre d’idées, les #smartphones utilisés par les populations ciblées ont en quelque sorte brisé le huis clos symbolique des scènes de crimes de guerre d’habitude considérés comme essentiellement incompréhensibles, exotiques, ambigus et frappés d’un flou artistique.

En ce moment, le monde traverse donc une #médiatisation_des_violences qui fait vaciller les conceptions de la justice des gens qui y assistent. Si l’idée d’une #justice_à_deux_vitesses n’est certes pas nouvelle, les niveaux d’impunité et de cynisme déployés dans ces deux contextes ont suscité des indignations très larges.

S’y pose à nouveaux frais la question centrale : qui a le droit d’exercer la #violence ?


Mythe fondateur de l’état de droit, le #monopole_de_la_violence_légitime réservé aux agents du pouvoir exécutif prouve jour après jour non seulement son échec à protéger les plus vulnérables, mais sa tendance croissante et de plus en plus manifeste à s’exercer contre eux, des violences policières aux persécutions institutionnelles contre les minorités. Je vois pour ma part dans l’acharnement à innocenter les violeurs de Mazan une extension tacite et conditionnelle de ce monopole de la violence à certaines catégories sociales (plutôt dominantes) pourvu qu’elles limitent leur action violente à certaines autres catégories (plutôt minoritaires).

Les images de Gaza et de Mazan concourent au même mouvement de révélation à grande échelle de l’étendue de l’arnaque d’un régime profondément illégaliste, au sens foucaldien : la gestion de la légalité ou de l’illégalité de certains phénomènes en fonction de qui en sont les acteurs.

S’y dévoile en fait la matrice d’un système fondé sur la #négation_des_victimes : face à l’impunité acquise de certains, selon une organisation finalement tout à fait suprémaciste, on le voit aujourd’hui : les preuves ne valent pas grand chose ; face à des perpétrateurs qui bénéficient à d’un totem d’#immunité, ou à minima de nombreux points d’avance, il n’y a pas de victime assez parfaite pour établir la #culpabilité de leur bourreau.

Le #victim_blaming (terme qui désigne l’attribution d’un acte malveillant à la responsabilité de la victime) est en fait le mode par défaut du parcours de la victime vers la reconnaissance de son statut et l’éventuelle réparation du préjudice et participe d’une #impunité_institutionnelle. Le huis clos que les images viennent briser n’est pas seulement géographique, mais aussi moral et idéologique : il est celui d’une société internationale qui refuse de reconnaître la pleine humanité des victimes, car cela impliquerait de remettre en question les structures de pouvoir qui la sous-tendent.

Si comme le veut l’adage le vieux monde peine à mourir, les monstres qui surgissent prennent pour l’instant la forme d’une ère post-factuelle où l’émotion et l’opinion remplacent les faits, et dans laquelle les spectateurs sont complices par leur inaction. Et si un nouveau monde tarde à apparaître c’est aussi parce l’#indifférence et le #déni prédominent et autorisent l’impunité à prospérer.

J’ai l’optimisme de penser que l’indignation suscitée par décalage entre les déclarations des pouvoirs publics et les actes qui sont documentés ne n’est pas vouée à tourner dans une boucle stérile et fera à terme bouger les lignes. Je caresse même la chimère que par le spectacle qui se donne de cas d’impunité tellement patents, après l’indignation incrédule se produise un déclic des consciences même chez les gens les plus enclins à avoir confiance en la justice nationale et internationale. Le régime actuel de coexistence des #récits_dominants avec les images qui les contredisent est en train de creuser une faille qui expose les processus par lesquels les systèmes de justice et les systèmes d’information sont à la fois régis par les #rapports_de_pouvoir qui traversent nos sociétés et producteurs de #récits dominants. Chaque jour qui passe montre un peu davantage combien le roi est nu.

Omar El Akkad tweetait il y a un an : “One day, when it’s safe, when there’s no personal downside to calling a thing what it is, when it’s too late to hold anyone accountable, everyone will have always been against this.” Ce tweet a été vu plus de 10 millions de fois. Pouvons-nous vraiment attendre que trois générations s’écoulent ?

▻https://blogs.mediapart.fr/cerisuelo/blog/171024/la-preuve-en-images
#viols_de_Mazan

Jeux Olympiques : fichage de masse et discrimination politique
▻https://www.laquadrature.net/2024/07/30/jeux-olympiques-fichage-de-masse-et-discrimination-politique

Les Jeux Olympiques viennent de débuter, la #Surveillance et la répression y sont reines. En vue de cet évènement, l’État a mis en œuvre tous les pouvoirs sécuritaires accumulés ces dernières années : drones, QR code,…

Le #règlement européen sur l’IA n’interdira pas la #surveillance_biométrique de masse

Le 8 décembre 2023, les législateurs de l’#Union_européenne se sont félicités d’être parvenus à un accord sur la proposition de #règlement tant attendue relative l’intelligence artificielle (« #règlement_IA »). Les principaux parlementaires avaient alors assuré à leurs collègues qu’ils avaient réussi à inscrire de solides protections aux #droits_humains dans le texte, notamment en excluant la #surveillance_biométrique_de_masse (#SBM).

Pourtant, malgré les annonces des décideurs européens faites alors, le règlement IA n’interdira pas la grande majorité des pratiques dangereuses liées à la surveillance biométrique de masse. Au contraire, elle définit, pour la première fois dans l’#UE, des conditions d’utilisation licites de ces systèmes. Les eurodéputés et les ministres des États membres de l’UE se prononceront sur l’acceptation de l’accord final au printemps 2024.

L’UE entre dans l’histoire – pour de mauvaises raisons

La coalition #Reclaim_Your_Face soutient depuis longtemps que les pratiques des SBM sont sujettes aux erreurs et risquées de par leur conception, et qu’elles n’ont pas leur place dans une société démocratique. La police et les autorités publiques disposent déjà d’un grand nombre de données sur chacun d’entre nous ; elles n’ont pas besoin de pouvoir nous identifier et nous profiler en permanence, en objectifiant nos #visages et nos #corps sur simple pression d’un bouton.

Pourtant, malgré une position de négociation forte de la part du Parlement européen qui demandait l’interdiction de la plupart des pratiques de SBM, très peu de choses avaient survécu aux négociations du règlement relatif à l’IA. Sous la pression des représentants des #forces_de_l’ordre, le Parlement a été contraint d’accepter des limitations particulièrement faibles autour des pratiques intrusives en matière de SBM.

L’une des rares garanties en la matière ayant apparemment survécu aux négociations – une restriction sur l’utilisation de la #reconnaissance_faciale a posteriori [par opposition à l’utilisation en temps réel] – a depuis été vidée de sa substance lors de discussions ultérieures dites « techniques » qui se sont tenues ces dernière semaines.

Malgré les promesses des représentants espagnols en charge des négociations, qui juraient que rien de substantiel ne changerait après le 8 décembre, cette édulcoration des protections contre la reconnaissance faciale a posteriori est une nouvelle déception dans notre lutte contre la #société_de_surveillance.

Quel est le contenu de l’accord ?

D’après ce que nous avons pu voir du texte final, le règlement IA est une occasion manquée de protéger les #libertés_publiques. Nos droits de participer à une #manifestation, d’accéder à des soins de #santé_reproductive ou même de nous asseoir sur un #banc pourraient ainsi être menacés par une surveillance biométrique omniprésente de l’#espace_public. Les restrictions à l’utilisation de la reconnaissance faciale en temps réel et a posteriori prévues par la loi sur l’IA apparaissent minimes et ne s’appliqueront ni aux entreprises privées ni aux autorités administratives.

Nous sommes également déçus de voir qu’en matière de « #reconnaissance_des_émotions » et les pratiques de #catégorisation_biométrique, seuls des cas d’utilisation très limités sont interdits dans le texte final, avec d’énormes lacunes.

Cela signifie que le règlement IA autorisera de nombreuses formes de reconnaissance des émotions – telles que l’utilisation par la police de systèmes d’IA pour évaluer qui dit ou ne dit pas la #vérité – bien que ces systèmes ne reposent sur aucune base scientifique crédible. Si elle est adoptée sous cette forme, le règlement IA légitimera une pratique qui, tout au long de l’histoire, a partie liée à l’#eugénisme.

Le texte final prévoit également d’autoriser la police à classer les personnes filmées par les caméras de #vidéosurveillance en fonction de leur #couleur_de_peau. Il est difficile de comprendre comment cela peut être autorisé étant donné que la législation européenne interdit normalement toute #discrimination. Il semble cependant que, lorsqu’elle est pratiquée par une machine, les législateurs considèrent de telles #discriminations comme acceptables.

Une seule chose positive était ressorti des travaux techniques menés à la suite des négociations finales du mois de décembre : l’accord entendait limiter la reconnaissance faciale publique a posteriori aux cas ayant trait à la poursuite de crimes transfrontaliers graves. Bien que la campagne « Reclaim Your Face » ait réclamé des règles encore plus strictes en la matière, cela constituait un progrès significatif par rapport à la situation actuelle, caractérisée par un recours massif à ces pratiques par les États membres de l’UE.

Il s’agissait d’une victoire pour le Parlement européen, dans un contexte où tant de largesses sont concédées à la surveillance biométrique. Or, les négociations menées ces derniers jours, sous la pression des gouvernements des États membres, ont conduit le Parlement à accepter de supprimer cette limitation aux #crimes_transfrontaliers graves tout en affaiblissant les garanties qui subsistent. Désormais, un vague lien avec la « #menace » d’un crime pourrait suffire à justifier l’utilisation de la #reconnaissance_faciale_rétrospective dans les espaces publics.

Il semblerait que ce soit la #France qui ait mené l’offensive visant à faire passer au rouleau compresseur notre droit à être protégés contre les abus de nos données biométriques. À l’approche des #Jeux_olympiques et paralympiques qui se tiendront à Paris cet été, la France s’est battue pour préserver ou étendre les pouvoirs de l’État afin d’éradiquer notre anonymat dans les espaces publics et pour utiliser des systèmes d’intelligence artificielle opaques et peu fiables afin de tenter de savoir ce que nous pensons. Les gouvernements des autres États membres et les principaux négociateurs du Parlement n’ont pas réussi à la contrer dans cette démarche.

En vertu du règlement IA, nous serons donc tous coupables par défaut et mis sous #surveillance_algorithmique, l’UE ayant accordé un blanc-seing à la surveillance biométrique de masse. Les pays de l’UE auront ainsi carte blanche pour renforcer la surveillance de nos visages et de nos corps, ce qui créera un précédent mondial à faire froid dans le dos.

►https://www.laquadrature.net/2024/01/19/le-reglement-europeen-sur-lia-ninterdira-pas-la-surveillance-biometriq
#surveillance_de_masse #surveillance #intelligence_artificielle #AI #IA #algorithme

voir aussi :
▻https://seenthis.net/messages/1037288

Opposez-vous à Chat Control !
►https://framablog.org/2023/10/25/opposez-vous-a-chat-control

Sur ce blog, nous transposons régulièrement différents points de vue concernant les luttes pour les #Libertés_numériques. Dans ce domaine, on constate souvent que les mouvements sociaux (solidariste, durabilistes, préfiguratifs, etc.) ne prennent que trop rarement en compte les implications … Lire la suite­­

#Enjeux_du_numérique

The State of #Chihuahua Is Building a 20-Story Tower in #Ciudad_Juarez to Surveil 13 Cities–and Texas Will Also Be Watching

https://www.eff.org/files/banner_library/el-paso-1.jpg

Chihuahua state officials and a notorious Mexican security contractor broke ground last summer on the #Torre_Centinela (Sentinel Tower), an ominous, 20-story high-rise in downtown Ciudad Juarez that will serve as the central node of a new AI-enhanced surveillance regime. With tentacles reaching into 13 Mexican cities and a data pipeline that will channel intelligence all the way to Austin, Texas, the monstrous project will be unlike anything seen before along the U.S.-Mexico border.

And that’s saying a lot, considering the last 30-plus years of surging technology on the U.S side of the border.

The Torre Centinela will stand in a former parking lot next to the city’s famous bullring, a mere half-mile south of where migrants and asylum seekers have camped and protested at the Paso del Norte International Bridge leading to El Paso. But its reach goes much further: the Torre Centinela is just one piece of the Plataforma Centinela (Sentinel Platform), an aggressive new technology strategy developed by Chihuahua’s Secretaria de Seguridad Pública Estatal (Secretary of State Public Security or SSPE) in collaboration with the company Seguritech.

With its sprawling infrastructure, the Plataforma Centinela will create an atmosphere of surveillance and data-streams blanketing the entire region. The plan calls for nearly every cutting-edge technology system marketed at law enforcement: 10,000 surveillance cameras, face recognition, automated license plate recognition, real-time crime analytics, a fleet of mobile surveillance vehicles, drone teams and counter-drone teams, and more.

If the project comes together as advertised in the Avengers-style trailer that SSPE released to influence public opinion, law enforcement personnel on site will be surrounded by wall-to-wall monitors (140 meters of screens per floor), while 2,000 officers in the field will be able to access live intelligence through handheld tablets.

▻https://www.youtube.com/watch?v=NKPuur6s4qg

Texas law enforcement will also have “eyes on this side of the border” via the Plataforma Centinela, Chihuahua Governor Maru Campos publicly stated last year. Texas Governor Greg Abbott signed a memorandum of understanding confirming the partnership.

Plataforma Centinela will transform public life and threaten human rights in the borderlands in ways that aren’t easy to assess. Regional newspapers and local advocates–especially Norte Digital and Frente Político Ciudadano para la Defensa de los Derechos Humanos (FPCDDH)—have raised significant concerns about the project, pointing to a low likelihood of success and high potential for waste and abuse.

“It is a myopic approach to security; the full emphasis is placed on situational prevention, while the social causes of crime and violence are not addressed,” FPCDDH member and analyst Victor M. Quintana tells EFF, noting that the Plataforma Centinela’s budget is significantly higher than what the state devotes to social services. “There are no strategies for the prevention of addiction, neither for rebuilding the fabric of society nor attending to dropouts from school or young people at risk, which are social causes of insecurity.”

Instead of providing access to unfiltered information about the project, the State of Chihuahua has launched a public relations blitz. In addition to press conferences and the highly-produced cinematic trailer, SSPE recently hosted a “Pabellón Centinel” (Sentinel Pavillion), a family-friendly carnival where the public was invited to check out a camera wall and drones, while children played with paintball guns, drove a toy ATV patrol vehicle around a model city, and colored in illustrations of a data center operator.

Behind that smoke screen, state officials are doing almost everything they can to control the narrative around the project and avoid public scrutiny.

According to news reports, the SSPE and the Secretaría de Hacienda (Finance Secretary) have simultaneously deemed most information about the project as classified and left dozens of public records requests unanswered. The Chihuahua State Congress also rejected a proposal to formally declassify the documents and stymied other oversight measures, including a proposed audit. Meanwhile, EFF has submitted public records requests to several Texas agencies and all have claimed they have no records related to the Plataforma Centinela.

This is all the more troubling considering the relationship between the state and Seguritech, a company whose business practices in 22 other jurisdictions have been called into question by public officials.

What we can be sure of is that the Plataforma Centinela project may serve as proof of concept of the kind of panopticon surveillance governments can get away with in both North America and Latin America.
What Is the Plataforma Centinela?

High-tech surveillance centers are not a new phenomenon on the Mexican side of the border. These facilities tend to use “C” distinctions to explain their functions and purposes. EFF has mapped out dozens of these in the six Mexican border states.

▻https://www.eff.org/files/2023/09/14/c-centers_map.png
▻https://www.google.com/maps/d/viewer?mid=1W73dMXnuXvPl5cSRGfi1x-BQAEivJH4&ll=25.210543464111723%2C-105.379

They include:

- C4 (Centro de Comunicación, Cómputo, Control y Comando) (Center for Communications, Calculation, Control, and Command),
- C5 (Centro de Coordinación Integral, de Control, Comando, Comunicación y Cómputo del Estado) (Center for Integral Coordination for Control, Command, Communications, and State Calculation),
- C5i (Centro de Control, Comando, Comunicación, Cómputo, Coordinación e Inteligencia) (Center for Control, Command, Communication, Calculation, Coordination and Intelligence).

Typically, these centers focus as a cross between a 911 call center and a real-time crime center, with operators handling emergency calls, analyzing crime data, and controlling a network of surveillance cameras via a wall bank of monitors. In some cases, the Cs may be presented in different order or stand for slightly different words. For example, some C5s might alternately stand for “Centros de Comando, Control, Comunicación, Cómputo y Calidad” (Centers for Command, Control, Communication, Computation and Quality). These facilities also exist in other parts of Mexico. The number of Cs often indicate scale and responsibilities, but more often than not, it seems to be a political or marketing designation.

The Plataforma Centinela however, goes far beyond the scope of previous projects and in fact will be known as the first C7 (Centro de Comando, Cómputo, Control, Coordinación, Contacto Ciudadano, Calidad, Comunicaciones e Inteligencia Artificial) (Center for Command, Calculation, Control, Coordination, Citizen Contact, Quality, Communications and Artificial Intelligence). The Torre Centinela in Ciudad Juarez will serve as the nerve center, with more than a dozen sub-centers throughout the state.

According to statistics that Gov. Campos disclosed as part of negotiations with Texas and news reports, the Plataforma Centinela will include:

- 1,791 automated license plate readers. These are cameras that photograph vehicles and their license plates, then upload that data along with the time and location where the vehicles were seen to a massive searchable database. Law enforcement can also create lists of license plates to track specific vehicles and receive alerts when those vehicles are seen.
- 4,800 fixed cameras. These are your run-of-the-mill cameras, positioned to permanently surveil a particular location from one angle.
- 3,065 pan-tilt-zoom (PTZ) cameras. These are more sophisticated cameras. While they are affixed to a specific location, such as a street light or a telephone pole, these cameras can be controlled remotely. An operator can swivel the camera around 360-degrees and zoom in on subjects.
- 2,000 tablets. Officers in the field will be issued handheld devices for accessing data directly from the Plataforma Centinela.
- 102 security arches. This is a common form of surveillance in Mexico, but not the United States. These are structures built over highways and roads to capture data on passing vehicles and their passengers.
- 74 drones (Unmanned Aerial Vehicles/UAVs). While the Chihuahua government has not disclosed what surveillance payload will be attached to these drones, it is common for law enforcement drones to deploy video, infrared, and thermal imaging technology.
- 40 mobile video surveillance trailers. While details on these systems are scant, it is likely these are camera towers that can be towed to and parked at targeted locations.
- 15 anti-drone systems. These systems are designed to intercept and disable drones operated by criminal organizations.
- Face recognition. The project calls for the application of “biometric filters” to be applied to camera feeds “to assist in the capture of cartel leaders,” and the collection of migrant biometrics. Such a system would require scanning the faces of the general public.
- Artificial intelligence. So far, the administration has thrown around the term AI without fully explaining how it will be used. However, typically law enforcement agencies have used this technology to “predict” where crime might occur, identify individuals mostly likely to be connected to crime, and to surface potential connections between suspects that would not have been obvious to a human observer. However, all these technologies have a propensity for making errors or exacerbating existing bias.

As of May, 60% of the Plataforma Centinela camera network had been installed, with an expected completion date of December, according to Norte Digital. However, the cameras were already being used in criminal investigations.

All combined, this technology amounts to an unprecedented expansion of the surveillance state in Latin America, as SSPE brags in its promotional material. The threat to privacy may also be unprecedented: creating cities where people can no longer move freely in their communities without being watched, scanned, and tagged.

But that’s assuming the system functions as advertised—and based on the main contractor’s history, that’s anything but guaranteed.
Who Is Seguritech?

The Plataforma Centinela project is being built by the megacorporation Seguritech, which has signed deals with more than a dozen government entities throughout Mexico. As of 2018, the company received no-bid contracts in at least 10 Mexican states and cities, which means it was able to sidestep the accountability process that requires companies to compete for projects.

And when it comes to the Plataforma Centinela, the company isn’t simply a contractor: It will actually have ownership over the project, the Torre Centinela, and all its related assets, including cameras and drones, until August 2027.

That’s what SSPE Secretary Gilberto Loya Chávez told the news organization Norte Digital, but the terms of the agreement between Seguritech and Chihuahua’s administration are not public. The SSPE’s Transparency Committee decided to classify the information “concerning the procedures for the acquisition of supplies, goods, and technology necessary for the development, implementation, and operation of the Platforma Centinela” for five years.

In spite of the opacity shrouding the project, journalists have surfaced some information about the investment plan. According to statements from government officials, the Plataforma Centinela will cost 4.2 billion pesos, with Chihuahua’s administration paying regular installments to the company every three months (Chihuahua’s governor had previously said that these would be yearly payments in the amount of 700 million to 1 billion pesos per year). According to news reports, when the payments are completed in 2027, the ownership of the platform’s assets and infrastructure are expected to pass from Seguritech to the state of Chihuahua.

The Plataforma Centinela project marks a new pinnacle in Seguritech’s trajectory as a Mexican security contractor. Founded in 1995 as a small business selling neighborhood alarms, SeguriTech Privada S.A de C.V. became a highly profitable brand, and currently operates in five areas: security, defense, telecommunications, aeronautics, and construction. According to Zeta Tijuana, Seguritech also secures contracts through its affiliated companies, including Comunicación Segura (focused on telecommunications and security) and Picorp S.A. de C.V. (focused on architecture and construction, including prisons and detention centers). Zeta also identified another SecuriTech company, Tres10 de C.V., as the contractor named in various C5i projects.

Thorough reporting by Mexican outlets such as Proceso, Zeta Tijuana, Norte Digital, and Zona Free paint an unsettling picture of Seguritech’s activities over the years.

Former President Felipe Calderón’s war on drug trafficking, initiated during his 2006-2012 term, marked an important turning point for surveillance in Mexico. As Proceso reported, Seguritech began to secure major government contracts beginning in 2007, receiving its first billion-peso deal in 2011 with Sinaloa’s state government. In 2013, avoiding the bidding process, the company secured a 6-billion peso contract assigned by Eruviel Ávila, then governor of the state of México (or Edomex, not to be confused with the country of Mexico). During Enrique Peña Nieto’s years as Edomex’s governor, and especially later, as Mexico’s president, Seguritech secured its status among Mexico’s top technology contractors.

According to Zeta Tijuana, during the six years that Peña Nieto served as president (2012-2018), the company monopolized contracts for the country’s main surveillance and intelligence projects, specifically the C5i centers. As Zeta Tijuana writes:

“More than 10 C5i units were opened or began construction during Peña Nieto’s six-year term. Federal entities committed budgets in the millions, amid opacity, violating parliamentary processes and administrative requirements. The purchase of obsolete technological equipment was authorized at an overpriced rate, hiding information under the pretext of protecting national security.”

Zeta Tijuana further cites records from the Mexican Institute of Industrial Property showing that Seguritech registered the term “C5i” as its own brand, an apparent attempt to make it more difficult for other surveillance contractors to provide services under that name to the government.

Despite promises from government officials that these huge investments in surveillance would improve public safety, the country’s number of violent deaths increased during Peña Nieto’s term in office.

“What is most shocking is how ineffective Seguritech’s system is,” says Quintana, the spokesperson for FPCDDH. By his analysis, Quintana says, “In five out of six states where Seguritech entered into contracts and provided security services, the annual crime rate shot up in proportions ranging from 11% to 85%.”

Seguritech has also been criticized for inflated prices, technical failures, and deploying obsolete equipment. According to Norte Digital, only 17% of surveillance cameras were working by the end of the company’s contract with Sinaloa’s state government. Proceso notes the rise of complaints about the malfunctioning of cameras in Cuauhtémoc Delegation (a borough of Mexico City) in 2016. Zeta Tijuana reported on the disproportionate amount the company charged for installing 200 obsolete 2-megapixel cameras in 2018.

Seguritech’s track record led to formal complaints and judicial cases against the company. The company has responded to this negative attention by hiring services to take down and censor critical stories about its activities published online, according to investigative reports published as part of the Global Investigative Journalism Network’s Forbidden Stories project.

Yet, none of this information dissuaded Chihuahua’s governor, Maru Campos, from closing a new no-bid contract with Seguritech to develop the Plataforma Centinela project.
A Cross-Border Collaboration

The Plataforma Centinela project presents a troubling escalation in cross-border partnerships between states, one that cuts out each nation’s respective federal governments. In April 2022, the states of Texas and Chihuahua signed a memorandum of understanding to collaborate on reducing “cartels’ human trafficking and smuggling of deadly fentanyl and other drugs” and to “stop the flow of migrants from over 100 countries who illegally enter Texas through Chihuahua.”

▻https://www.eff.org/files/2023/09/14/a_new_border_model.png

While much of the agreement centers around cargo at the points of entry, the document also specifically calls out the various technologies that make up the Plataforma Centinela. In attachments to the agreement, Gov. Campos promises Chihuahua is “willing to share that information with Texas State authorities and commercial partners directly.”

During a press conference announcing the MOU, Gov. Abbot declared, “Governor Campos has provided me with the best border security plan that I have seen from any governor from Mexico.” He held up a three-page outline and a slide, which were also provided to the public, but also referenced the existence of “a much more extensive detailed memo that explains in nuance” all the aspects of the program.

Abbott went on to read out a summary of Plataforma Centinela, adding, “This is a demonstration of commitment from a strong governor who is working collaboratively with the state of Texas.”

Then Campos, in response to a reporter’s question, added: “We are talking about sharing information and intelligence among states, which means the state of Texas will have eyes on this side of the border.” She added that the data collected through the Plataforma Centinela will be analyzed by both the states of Chihuahua and Texas.

Abbott provided an example of one way the collaboration will work: “We will identify hotspots where there will be an increase in the number of migrants showing up because it’s a location chosen by cartels to try to put people across the border at that particular location. The Chihuahua officials will work in collaboration with the Texas Department of Public Safety, where DPS has identified that hotspot and the Chihuahua side will work from a law enforcement side to disrupt that hotspot.”

In order to learn more about the scope of the project, EFF sent public records requests to several Texas agencies, including the Governor’s Office, the Texas Department of Public Safety, the Texas Attorney General’s Office, the El Paso County Sheriff, and the El Paso Police Department. Not one of the agencies produced records related to the Plataforma Centinela project.

Meanwhile, Texas is further beefing up its efforts to use technology at the border, including by enacting new laws that formally allow the Texas National Guard and State Guard to deploy drones at the border and authorize the governor to enter compacts with other states to share intelligence and resource to build “a comprehensive technological surveillance system” on state land to deter illegal activity at the border. In addition to the MOU with Chihuahua, Abbott also signed similar agreements with the states of Nuevo León and Coahuila in 2022.
Two Sides, One Border

The Plataforma Centinela has enormous potential to violate the rights of one of the largest cross-border populations along the U.S.-Mexico border. But while law enforcement officials are eager to collaborate and traffic data back and forth, advocacy efforts around surveillance too often are confined to their respective sides.

The Spanish-language press in Mexico has devoted significant resources to investigating the Plataforma Centinela and raising the alarm over its lack of transparency and accountability, as well as its potential for corruption. Yet, the project has received virtually no attention or scrutiny in the United States.

Fighting back against surveillance of cross-border communities requires cross-border efforts. EFF supports the efforts of advocacy groups in Ciudad Juarez and other regions of Chihuahua to expose the mistakes the Chihuahua government is making with the Plataforma Centinela and call out its mammoth surveillance approach for failing to address the root social issues. We also salute the efforts by local journalists to hold the government accountable. However, U.S-based journalists, activists, and policymakers—many of whom have done an excellent job surfacing criticism of Customs and Border Protection’s so-called virtual wall—must also turn their attention to the massive surveillance that is building up on the Mexican side.

In reality, there really is no Mexican surveillance and U.S. surveillance. It’s one massive surveillance monster that, ironically, in the name of border enforcement, recognizes no borders itself.

▻https://www.eff.org/deeplinks/2023/09/state-chihuahua-building-20-story-tower-ciudad-juarez-surveil-13-cities-and-sta
#surveillance #tour #surveillance_de_masse #cartographie #visualisation #intelligence_artificielle #AI #IA #frontières #contrôles_frontaliers #technologie #Plataforma_Centinela #données #reconnaissance_faciale #caméras_de_surveillance #drones #Seguritech #complexe_militaro-industriel #Mexique

#Chine : le drame ouïghour

https://m.media-amazon.com/images/M/MV5BZThhYTJjMTAtOWQwOC00NDkwLTkxYzQtMzJjODFmODQxM2Y0XkEyXkFqcGdeQXVyNTM2NTg3Nzg@._V1_FMjpg_UX1000_.jpg

La politique que mène la Chine au Xinjiang à l’égard de la population ouïghoure peut être considérée comme un #génocide : plus d’un million de personnes internées arbitrairement, travail forcé, tortures, stérilisations forcées, « rééducation » culturelle des enfants comme des adultes…
Quel est le veritable objectif du parti communiste chinois ?

 
▻http://www.film-documentaire.fr/4DACTION/w_fiche_film/64324

#Ouïghours #Xinjiang #camps_d'internement #torture #stérilisation_forcée #camps_de_concentration #persécution #crimes_contre_l'humanité #silence #matières_premières #assimilation #islam #islamophobie #internement #gaz #coton #charbon #route_de_la_soie #pétrole #Xi_Jinping #séparatisme #extrémisme #terrorisme #Kunming #peur #état_policier #répression #rééducation #Radio_Free_Asia #disparition #emprisonnement_de_masse #images_satellites #droits_humains #zone_de_non-droit #propagande #torture_psychique #lavage_de_cerveau #faim #Xinjiang_papers #surveillance #surveillance_de_masse #biométrie #vidéo-surveillance #politique_de_prévention #surveillance_d'Etat #identité #nationalisme #minorités #destruction #génocide_culturel #Ilham_Tohti #manuels_d'école #langue #patriotisme #contrôle_démographique #contrôle_de_la_natalité #politique_de_l'enfant_unique #travail_forcé #multinationales #déplacements_forcés #économie #colonisation #Turkestan_oriental #autonomie #Mao_Zedong #révolution_culturelle #assimilation_forcée #Chen_Quanguo #cour_pénale_internationale (#CPI) #sanctions

#film #film_documentaire #documentaire

#Taïwan, #Ouïghours : les dérives nationalistes de la #Chine de #Xi_Jinping

Xi Jinping se prépare à un troisième mandat de cinq ans et à une démonstration de force au cours du 20e #congrès_du_Parti_communiste_chinois. Alors que son nationalisme exacerbé se traduit à la fois à l’intérieur des frontières, avec la répression des Ouïghours, et dans son environnement proche, en #Mer_de_Chine_du_sud, avec une pression accrue sur Taïwan, nous analysons les enjeux de ce congrès avec nos invité·es, Laurence Defranoux, journaliste et autrice des Ouïghours, histoire d’un peuple sacrifié, Noé Hirsch, spécialiste de la Chine, Maya Kandel, historienne spécialiste des États-Unis, et Inès Cavalli, chercheuse en études chinoises.

▻https://www.youtube.com/watch?v=U4wiIwCaSY8

Classer pour dominer [et réprimer] : petite Histoire critique du fichage en France | LQDN | 07.09.22

►https://www.laquadrature.net/2022/09/07/classer-pour-dominer-petite-histoire-critique-du-fichage-en-france

Qui c’est les plus forts ? Évidemment c’est les Bleus !

Finalement abandonné face à la controverse, le projet SAFARI déboucha sur une commission d’enquête qui donna naissance à la Commission nationale de l’informatique et des libertés (CNIL) et à la loi Informatique et Libertés du 6 janvier 1978, socle de la protection des données personnelles encore en vigueur aujourd’hui. Au-delà de la création d’un encadrement juridique, cet épisode marque une amorce de politisation sur le sujet. Cette réflexion avait d’ailleurs débuté avant ce scandale, le directeur du « service des écoles et techniques » mentionné plus haut écrivait lui-même en 1969 :

« La mise en mémoire d’un certain nombre de données n’est-elle pas attentatoire à la liberté et même à la dignité de l’homme ? Ne présente t-elle pas des dangers si nous connaissons à nouveau comme naguère la férule d’un État totalitaire, le joug d’une police politique orientée non vers le maintien de l’ordre public, la prévention et la répression des crimes, mais vers l’asservissement des citoyens libres, privés par une minorité de leurs moyens d’expression ? Le problème vaut qu’on y réfléchisse longuement et profondément ».

[sauf que]

Malheureusement ce ne fut pas le cas, ces pratiques d’identification de surveillance étant probablement bien trop ancrées dans les rouages de l’institution policière.

Dès les années 1980, avec la généralisation des ordinateurs, la police commençait à collecter des informations de façon massive et désordonnée. Plutôt que de limiter ces pratiques, il fut au contraire décidé de rationaliser et d’organiser cette quantité de données au sein de fichiers centralisés pour en tirer une utilité. C’est dans ce contexte qu’est apparue l’idée du fichier STIC (Système de traitement des infractions constatées), visant à intégrer toutes les informations exploitées par les services de police dans une seule et même architecture, accessible à tous les échelons du territoire. Finalement mis en œuvre et expérimenté dans les années 1990, le fichier STIC cristallisa de nombreuses tensions entre le Ministère de l’Intérieur et la CNIL qui durent négocier pendant plusieurs années afin d’en fixer le cadre légal. Si la CNIL a obtenu des garanties dans un accord à l’arrachée en 1998, cette victoire a paradoxalement signé la fin de son influence et de sa légitimité. En effet, dans les années qui suivirent, toutes les réserves qu’elles avait pu obtenir ont été ostensiblement bafouées. Mais surtout, cette longue bataille qui avait concrètement ralenti et empêché le développement du fichier souhaité par le Ministère poussa le gouvernement à supprimer par la suite le pouvoir d’autorisation attribué à la CNIL afin de ne plus être gêné dans ses projets. C’est pourquoi, en 2004, la modification de la Loi pour la confiance dans l’économie numérique (LCEN) acta la suppression du pouvoir de contrainte de la CNIL pour le transformer en simple avis consultatif. Cela signifie qu’elle ne dispose plus de l’autorité nécessaire pour empêcher ou limiter la création de fichiers de police par le gouvernement. Cette modification législative marque un tournant dans le droit des fichiers et des données personnelles ainsi que dans la pratique policière. Les garde-fous ayant sauté, l’espace politique pour parvenir à une surveillance massive se libère, les limites légales devenant purement cosmétiques.

#chassez_le_naturel

Turchia, tutti i cittadini sotto sorveglianza
▻https://www.balcanicaucaso.org/aree/Turchia/Turchia-tutti-i-cittadini-sotto-sorveglianza-219694

Da quasi due anni l’Autorità per le telecomunicazioni e le tecnologie informatiche, ente ministeriale turco, richiede ai fornitori di servizi Internet i metadati di tutto il traffico dei loro clienti. A rivelare questa operazione di sorveglianza di massa un’inchiesta del giornalista Doğu Eroğlu

https://www.balcanicaucaso.org/var/obc/storage/images/articoli-da-pubblicare-2/turchia-tutti-i-cittadini-sotto-sorveglianza-219694/2116979-2-ita-IT/Turchia-tutti-i-cittadini-sotto-sorveglianza.jpg

Justice and the Pandemic City: How the Pandemic Has Revealed Social, Urban, and Data Injustices, and How a Narrative Approach Can Unlock Them
▻https://www.frontiersin.org/articles/10.3389/frsc.2022.838084

The global COVID-19 pandemic has exacerbated infrastructural, societal, and resource inequalities along racial and socioeconomic lines. Many countries have struggled to provide adequate COVID testing and healthcare. Denmark has been exceptional in its investment in a hyper-efficient and ever-present infrastructure, with testing tents distributed across the country. In this article we ask: What is the impact of this infrastructure in terms of the (urban) culture that is built around testing? And what does that mean in terms of data management and mass surveillance? As a public good, the COVID-19 testing infrastructure has costs and benefits, but these are not always clear. They concern future urban life and data management, and our ability to draw a boundary around ourselves—that is, (...)

Les drones policiers autorisés par le Conseil constitutionnel
21 janvier 2022 – La Quadrature du Net
▻https://www.laquadrature.net/2022/01/21/les-drones-policiers-autorises-par-le-conseil-constitutionnel

https://www.laquadrature.net/wp-content/uploads/sites/8/2022/01/philipp-deus-HpnhNp_u6WE-unsplash-scaled.jpg

Le Conseil constitutionnel vient de rendre sa décision sur la loi « responsabilité pénale et sécurité intérieure ». Ce texte, adopté le 18 novembre 2021 par le Parlement, prévoyait notamment de ré-autoriser les drones policiers. Si les drones avaient été interdits à quatre reprises depuis 2020 (deux fois par le Conseil d’État, une fois par la CNIL et une fois par le Conseil constitutionnel), l’entêtement du gouvernement a porté ses fruits. Après deux années d’illégalité, les drones vont ré-occuper le ciel et restaurer la surveillance de masse.

Cette mauvaise nouvelle ne vient pas seule : le Conseil constitutionnel valide aussi les caméras embarquées sur les véhicules de police (hélicoptères, voitures…) ainsi que la vidéosurveillance des cellules de garde-à-vue. À côté, le Conseil ne prend même pas la peine d’examiner les nombreuses autres dispositions de cette loi qui s’en prennent à d’autres libertés fondamentales (amendes forfaitaires, prise d’empreintes forcée, répression des mineurs isolés, modification du régime d’irresponsabilité pénale – voir notre analyse commune avec le SAF, le SM et la LDH). (...)

Comment les #réseaux_sociaux ont détruit la démocratie
▻https://www.les-crises.fr/fabrice-epelboin-comment-les-reseaux-sociaux-ont-detruit-la-democratie

Fabrice EPELBOIN est un spécialiste des médias sociaux, entrepreneur et enseignant. Depuis des années, il alerte sur les effets de l’astroturfing : la manipulation de l’opinion publique via les outils numériques. Dans ce contexte de crises sociale et politique majeures, #Fabrice_Epelboin a livré sur #Élucid son analyse des enjeux en cours : du Metaverse […]

#Vidéo #Facebook #GAFAM #Libertés_publiques #Olivier_Berruyer #Surveillance_de_masse #vie_privée #Vidéo,_Élucid,_Fabrice_Epelboin,_Facebook,_GAFAM,_Libertés_publiques,_Olivier_Berruyer,_réseaux_sociaux,_Surveillance_de_masse,_vie_privée

https://www.les-crises.fr/wp-content/uploads/2021/11/vignette-epelboin-760x400.jpg

Contre les migrants, toujours plus de #technologie

https://pbs.twimg.com/card_img/1452537468880887811/NQ3EG27f?format=jpg&name=small#.jpg

Reporterre s’est rendu au salon #Milipol pour découvrir les innovations technologiques sécuritaires. Elles sont de plus en plus déployées pour repousser les migrants.

« Viens ici pépère ! » lance un homme élancé en costume-cravate en direction d’un chien-robot en mouvement, faisant mine de lui proposer à manger. Derrière les regards amusés autour du robot développé par l’entreprise étasunienne #Ghost_Robotics, son « maître » le guide avec sa télécommande d’un œil malicieux. Ce chien-robot au look Black Mirror répond au nom de #Q-UGV et sa mission consiste à surveiller des sites ultrasensibles comme les centrales nucléaires.

Ce surveillant atypique, capable de courir, grimper et nager dans des environnements extrêmes, était l’une des nombreuses innovations présentées sur le salon Milipol de la sécurité intérieure au parc des expositions de Villepinte (Seine-Saint-Denis). Près de 1 000 exposants, dont deux tiers d’entreprises internationales, y ont élu domicile du mardi 19 au vendredi 22 octobre. Plus de 30 000 professionnels de la sécurité publique et privée de 150 pays déambulaient dans les allées. Entre une coupe de champagne et des petits fours, ils s’informaient pour en faire commerce sur les dernières grenades lacrymogènes, les dispositifs de reconnaissance faciale ou les fusils d’assaut.

L’heure est à la reprise pour le secteur de la #sécurité. « La première des libertés », comme l’a assuré le ministre de l’Intérieur, Gérald Darmanin, lors de sa visite du salon le premier jour. Après avoir subi la crise sanitaire à l’instar d’une large partie de l’économie mondiale, le marché mondial de la #sécurité_intérieure devrait rebondir. Sa prévision de croissance est de 8 % en 2021 et de 6 % en 2022, après une baisse de 3 % en 2020. En France, il n’a pas été épargné non plus et les dépenses étatiques consacrées à la sécurité ont baissé de 8,6 %, pour atteindre 3,6 milliards d’euros. Mais certains domaines, comme celui des #drones_de_surveillance, ont tiré leur épingle du jeu avec une progression de 5,8 %. Alors que l’Union européenne peine toujours à s’accorder sur une politique commune de gestion des #frontières, chaque État membre est tenté de renforcer la #surveillance des siennes grâce à des technologies toujours plus sophistiquées.

Mille et une façons de traquer les migrants

Déjà déployés, en passe d’être expérimentés ou pas encore autorisés, les dispositifs de #détection de migrants sont présentés aux quatre coins de l’immense salle d’exposition. Nichés entre deux stands de drones, les représentants de la société française #HGH, spécialisée dans les #systèmes_électro-optiques, sont ainsi très sollicités. La série de #caméras_thermiques #Spynel, qui promet une « #surveillance_panoramique 360 degrés, #jour et #nuit, jusqu’à l’horizon » sur les frontières des pays intéressés, a du succès. À l’occasion du salon, l’entreprise vient de finaliser un contrat d’un million d’euros avec un pays de l’#Otan (Organisation du traité de l’Atlantique Nord) — dont elle tait le nom — pour sécuriser et surveiller sur près de 1 000 kilomètres de côte et empêcher les passages des migrants et des trafiquants de drogues. « C’est impossible d’échapper à la #vigilance de cette caméra, et à l’inverse des drones, on ne peut pas brouiller son signal, car elle n’émet aucune onde », se félicite le responsable marketing. « Si un groupe de personnes ou un zodiac s’approche de nuit d’un littoral dans la zone surveillée, l’#intelligence_artificielle détectera automatiquement le #mouvement et une alerte sera envoyée aux forces de sécurité », poursuit-il.

De l’autre côté du salon, un groupe de gendarmes écoute attentivement les explications du représentant de l’entreprise néerlandaise #UVI-Scan. Sur la brochure commerciale, une page est consacrée à un #scanner capable de détecter les passagers clandestins sous les camions. Le visuel est explicite : accrochés sous un véhicule, deux migrants sont pris en flagrant délit. « Ce sont de vraies photos ! » assume le consultant technique. « C’est un système intégré à la chaussée qui détecte les #intrus et prend automatiquement une photo à l’approche des postes frontières et des ferrys », explique-t-il. « Nous en avons déployés un peu partout en Europe, notamment à #Dieppe, en France ». Là où de nombreux exilés tentent leur chance pour gagner les côtes anglaises par le ferry ou des embarcations de fortune.

Entre deux stands de fusils d’assaut et des tenues de camouflages, un drone blanc aux allures d’avion miniature surplombe le stand de #German_Drones. L’entreprise allemande propose un « service personnalisé » à ses clients en fonction des usages ». Pour la détection de passages de migrants à la frontière, Anis Fellahi, le chef de projet international du groupe, recommande « le modèle 150, le plus performant, qui peut voler une heure et demie, couvrir une centaine de kilomètres, et transmet une vidéo de meilleure qualité ». Le dit #Songbird est d’ores et déjà déployé aux frontières allemandes et belges, et cherche à étendre son empreinte.

Les industriels ne s’arrêtent pas là et proposent aux autorités des outils de #surveillance_aérienne toujours plus développées et intrusifs. L’entreprise française #T-ops intègre des #IMSI-Catcher directement embarqués sur les drones. Ce dispositif de #surveillance_de_masse est capable d’intercepter le trafic des communications téléphoniques, de récupérer et recouper ces informations à distance et de suivre les mouvements des utilisateurs. « Là nous proposons un produit avec une #efficacité au-delà du réel ! » s’exclame le représentant de la société. Cette technologie peut-elle être déployée pour repérer les migrants ? « C’est possible, oui. Mais nous ne fournissons qu’un service, le responsable de son utilisation est l’État », répond-il sobrement.

Certains produits attendent des évolutions législatives pour être pleinement déployés. C’est le cas du drone de surveillance très longue distance présenté par le groupe belge #John_Cockerill, traditionnel acteur de la défense, lancé depuis peu dans la sécurité intérieure. « Ce type d’appareil peut voir jusqu’à 30 kilomètres et il est en capacité d’identifier très clairement des personnes », explique #Jean-Marc_Tyberg, le président du conseil d’administration du groupe. « À ce stade, nous devons intégrer un logiciel qui floute automatiquement le visage de la personne pour ne pas la reconnaître ». Mais selon lui, « se priver de ces outils de reconnaissance revient à fermer les yeux en conduisant. Il faut que l’on rattrape notre retard législatif pour que ces solutions puissent être pleinement utilisées. » Jean-Marc Tyberg fait référence aux longs débats autour de la controversée #loi_Sécurité_globale. Le Conseil constitutionnel avait fini par censurer le dispositif d’encadrement de l’utilisation des images des drones utilisés les forces de l’ordre, jugée trop dangereux au regard du #droit_à_la_vie_privée. Mais le gouvernement est revenu à la charge à la rentrée avec une disposition remaniée dans le projet de loi relatif à la sécurité intérieure, actuellement débattu au Parlement.

Si la France n’est pas le terrain de jeu technologique idéal des industriels, d’autres États comme la #Grèce accueillent de nombreuses expérimentations plus poussées. Le pays frontalier de la Turquie est un passage obligé dans le parcours des migrants. Et il reçoit le soutien de l’agence de gardes-côtes européens #Frontex, accusée par des ONG et des médias d’opérer des refoulements illégaux à l’extérieur de l’UE. Si le gestionnaire des frontières européennes n’a pas de stand dédié ici, ses fournisseurs sont disséminés sur le salon. La société française #Cnim_Air_Space est l’un d’eux. « Notre modèle de #ballon_captif #Eagle_Owl gonflé à l’Hélium peut voler jusqu’à 600 mètres de haut, et possède une autonomie de 7 jours », expose fièrement le représentant de l’entreprise. Il est actuellement utilisé par les autorités grecques et l’agence Frontex. Un modèle plus petit a également été expérimenté autour de #Calais par la gendarmerie. Avec sa caméra embarquée, il renvoie en continu les #images vers une station positionnée au sol. « En cas d’alerte, si un zodiac débarque, les autorités grecques sont en capacité de les repérer à des kilomètres avant d’intervenir », précise-t-il. « Il mesure 22 mètres de long, donc le fait de le voir peut aussi avoir un effet dissuasif… ».

La Grèce accueille également l’expérimentation du projet #Roborder, contraction de #robot et de border (frontière en anglais), lancé en 2017, qui prévoit un #système_de_surveillance des frontières par un essaim de #drones_autonomes, capables par l’intelligence artificielle de déterminer les franchissements. Le projet #iborder_control ambitionne quant à lui de développer un #algorithme capable de détecter les #mensonges des migrants lors de leur passage à l’aéroport.

Mais sur le terrain, les associations d’aide aux personnes exilées observent que le renforcement de la surveillance des frontières ne décourage pas les candidats à l’asile, mais rend simplement leur parcours plus dangereux. Alors que la surveillance se renforce d’année en année, l’Organisation internationale des migrations a comptabilisé 1 146 décès de migrants sur les routes maritimes vers l’Europe au premier semestre 2021, contre 513 en 2020 et 674 en 2019 à la même période. Mais au salon Milipol, le rêve d’une Europe forteresse a de belles années devant lui.

▻https://reporterre.net/Contre-les-migrants-toujours-plus-de-technologie

ping @isskein @karine4

Surveillance « par algorithme » : quelles seront les conséquences d’une investigation par l’URL ? Dans quelle mesure une URL peut-elle donner des renseignements pertinents ? Quelles menaces feront courir ces nouvelles dispositions de la « loi anti-terroriste »

« Que faisons-nous ? Nous appliquons à internet, ce que nous appliquons aujourd’hui aux téléphones » .
Invité de France Inter, ce mercredi, le ministre de l’Intérieur s’est efforcé de synthétiser la partie la plus technique du nouveau projet de loi antiterroriste : la technique de l’algorithme. Un sujet au combien sensible en matière de libertés publiques : outil de détection de signaux faibles ou outil de surveillance de masse ?

▻https://www.publicsenat.fr/article/politique/lutte-antiterroriste-qu-est-ce-que-la-surveillance-par-algorithme-188855

#surveillance_de_masse #libertés_individuelles (menaces sur) #police

UE : Des défenseurs des droits humains sont exposés pour protéger le secteur de la surveillance - Amnesty International Belgique
▻https://www.amnesty.be/infos/actualites/article/ue-certains-etats-sont-prets-a-exposer-les-defenseurs-des-droits-humains-pou

les contrats juteux d’Amesys avec la Lybie ou l’Egypte font rêver ?
...sûr que ce ne sont pas les poursuites judiciaires en cours qui vont les effrayer !

#vente_armes #contrôle_démocratique #AMESYS #eagle #deep_packet_inspection #surveillance_de_masse

L’essor des réseaux de caméras intelligentes, et pourquoi nous devrions les interdire
▻https://www.les-crises.fr/l-essor-des-reseaux-de-cameras-intelligentes-et-pourquoi-nous-devrions-le

Source : The Intercept, Michael Kwet La #Reconnaissance_Faciale inquiète un peu partout. Qu’on puisse, par caméra, suivre nos moindres mouvements en public préoccupe beaucoup plus que l’existence et la prévalence exponentielle des réseaux de vidéosurveillance « intelligents », alors qu’il s’agit d’un sujet tout aussi inquiétant. Les ménages et les sociétés privées commencent à connecter leurs caméras sur les réseaux policiers, et les rapides progrès de l’intelligence artificielle donnent aux réseaux de télévision en circuit fermé le pouvoir de surveiller la totalité de l’espace public. Dans un avenir pas si lointain, nos forces de police, nos magasins, et notre administration municipale espèrent pouvoir filmer notre moindre mouvement, et même mieux, l’interpréter par le biais de l’analyse des métadonnées. (...)

#Libertés_Publiques #Surveillance_de_masse #Libertés_Publiques,_Reconnaissance_Faciale,_Surveillance_de_masse

https://www.les-crises.fr/wp-content/uploads/2020/05/Capture-d’écran-2020-05-26-à-20.44.59-760x400.png

WhiteHall Analytica : IA, sociétés de surveillance et santé publique – par Nafeez Ahmed
▻https://www.les-crises.fr/whitehall-analytica-ia-societes-de-surveillance-et-sante-publique-par-naf

Source : By Line Times – Nafeez Ahmed Première partie d’une grande enquête du journaliste d’investigation Nafeez Ahmed sur une importance convergence d’hommes, d’intérêts et de fonds autour de la question des données médicales. La crise sanitaire du Covid-19 est en train d’enrichir un réseau de sociétés de surveillance liées à de hauts fonctionnaires du […]

#Santé #Données_Personnelles #Intelligence_artificielle #Surveillance_de_masse #Santé,_Données_Personnelles,_Intelligence_artificielle,_Surveillance_de_masse

https://www.les-crises.fr/wp-content/uploads/2020/05/Nafeez-Ahmed-300x169.jpg

Penser la pandémie

Le déconfinement relève d’une décision politique. Cette décision, en démocratie, doit pouvoir être prise après un débat contradictoire. Elle doit se fonder sur la compréhension des phénomènes épidémiques par les sciences, toutes les sciences : virologie, épidémiologie et infectiologie, mais aussi sciences humaines et sociales. Si l’on pense aux errements politiques qui ont conduit au confinement pour tous au même moment et aux conséquences économiques, sociales, individuelles d’un tel choix, encore difficiles à mesurer, si l’on observe que suivre l’expérience chinoise signifierait pour la France un déconfinement entre mi-juin et fin juillet, on voit l’intérêt de discuter les stratégies possibles de déconfinement en mobilisant des disciplines et des savoirs complémentaires.

▻https://www.youtube.com/watch?v=iVH9GJzkxGs&feature=emb_logo

#déconfinement #épidémie #coronavirus #covid-19 #confinement #démocratie #chronologie #décision_politique #virus #Bruno_Canard #recherche #Hubert_Laude #appels_à_projets #politique_de_la_recherche #ressources_pédagogiques #incubation #patient_zéro #tests #dépistage #désindustrialisation #Allemagne #France #masques #clusters_familiaux #stocks #flux_tendus #LEAN_management #néo-management #santé_publique #OMS #épidémie #Agnès_Buzyn #asymptomatiques #porteurs_asymptomatiques #liberté_publique #Phillippe_Klein #Chine #Didier_Raoult #Raoult #modèle_SIR #taux_de_létalité #hôpitaux #services_hospitalités #hôpital #système_de_santé #UK #Angleterre #Boris_Johnson #immunité_de_groupe #immunité_collective #Dominic_Cummings #Dominic_Mckenzie_Cummings #économie #R0 #taux_de_reproduction #49_3 #49-3 #France #fil_chronologique #vidéo

–----

Les sources figurent sur la page dédiée du séminaire :
▻https://pds.hypotheses.org/2840

►https://lundi.am/Le-coronavirus-et-l-etat-d-exception-en-chacun

Rappel pour les élèves du premier rang : le contrat social qui a inspiré et inspire le plus le réseau de pouvoir n’est pas celui de Jean-Jacques Rousseau mais bien celui de Thomas Hobbes - « Le Léviathan » - ayant engendré entre autres le courant utilitariste dont le panoptique de Jeremy Bentham. Ce brillant ouvrage d’urbanisme (Le Panoptique !) à l’usage de nos gouvernants a enfanté l’architecture de la plupart de nos prisons mais aussi de nos écoles. Peu intéressés par la science-politique et l’urbanisme carcéral, vous vous demandez quel est le rapport entre ce contrat social et le caractère terrorisant de cette grippe ?

#coercition #terreur_d'état #gestionnaires_du_cheptel_humain

#cojonesvirus : compilation d’articles et de « seen » à propos de tous les biais suscités par cette Pan ! Pan ! Démie, des sottises que l’on pourra lire dans quelques recoins mal famés de la #médiasphère, mais aussi de quelques autres phénomènes tels que l’instauration d’une surveillance de masse généralisée, du lobbying des laboratoires pharmaceutiques, de la mise en évidence des gros bugs à tous les étages de nos sociétés marchandisées, etc.

Il semble se dessiner un début de solution du côté de Vittel ou Contrexéville (ch’ais plus trop ...) :

https://dl.dropbox.com/s/t9uk5gr5a6jbf1s/lorrains-vaccin.jpg?dl=0