#surveillance_biométrique

Le #règlement européen sur l’IA n’interdira pas la #surveillance_biométrique de masse

Le 8 décembre 2023, les législateurs de l’#Union_européenne se sont félicités d’être parvenus à un accord sur la proposition de #règlement tant attendue relative l’intelligence artificielle (« #règlement_IA »). Les principaux parlementaires avaient alors assuré à leurs collègues qu’ils avaient réussi à inscrire de solides protections aux #droits_humains dans le texte, notamment en excluant la #surveillance_biométrique_de_masse (#SBM).

Pourtant, malgré les annonces des décideurs européens faites alors, le règlement IA n’interdira pas la grande majorité des pratiques dangereuses liées à la surveillance biométrique de masse. Au contraire, elle définit, pour la première fois dans l’#UE, des conditions d’utilisation licites de ces systèmes. Les eurodéputés et les ministres des États membres de l’UE se prononceront sur l’acceptation de l’accord final au printemps 2024.

L’UE entre dans l’histoire – pour de mauvaises raisons

La coalition #Reclaim_Your_Face soutient depuis longtemps que les pratiques des SBM sont sujettes aux erreurs et risquées de par leur conception, et qu’elles n’ont pas leur place dans une société démocratique. La police et les autorités publiques disposent déjà d’un grand nombre de données sur chacun d’entre nous ; elles n’ont pas besoin de pouvoir nous identifier et nous profiler en permanence, en objectifiant nos #visages et nos #corps sur simple pression d’un bouton.

Pourtant, malgré une position de négociation forte de la part du Parlement européen qui demandait l’interdiction de la plupart des pratiques de SBM, très peu de choses avaient survécu aux négociations du règlement relatif à l’IA. Sous la pression des représentants des #forces_de_l’ordre, le Parlement a été contraint d’accepter des limitations particulièrement faibles autour des pratiques intrusives en matière de SBM.

L’une des rares garanties en la matière ayant apparemment survécu aux négociations – une restriction sur l’utilisation de la #reconnaissance_faciale a posteriori [par opposition à l’utilisation en temps réel] – a depuis été vidée de sa substance lors de discussions ultérieures dites « techniques » qui se sont tenues ces dernière semaines.

Malgré les promesses des représentants espagnols en charge des négociations, qui juraient que rien de substantiel ne changerait après le 8 décembre, cette édulcoration des protections contre la reconnaissance faciale a posteriori est une nouvelle déception dans notre lutte contre la #société_de_surveillance.

Quel est le contenu de l’accord ?

D’après ce que nous avons pu voir du texte final, le règlement IA est une occasion manquée de protéger les #libertés_publiques. Nos droits de participer à une #manifestation, d’accéder à des soins de #santé_reproductive ou même de nous asseoir sur un #banc pourraient ainsi être menacés par une surveillance biométrique omniprésente de l’#espace_public. Les restrictions à l’utilisation de la reconnaissance faciale en temps réel et a posteriori prévues par la loi sur l’IA apparaissent minimes et ne s’appliqueront ni aux entreprises privées ni aux autorités administratives.

Nous sommes également déçus de voir qu’en matière de « #reconnaissance_des_émotions » et les pratiques de #catégorisation_biométrique, seuls des cas d’utilisation très limités sont interdits dans le texte final, avec d’énormes lacunes.

Cela signifie que le règlement IA autorisera de nombreuses formes de reconnaissance des émotions – telles que l’utilisation par la police de systèmes d’IA pour évaluer qui dit ou ne dit pas la #vérité – bien que ces systèmes ne reposent sur aucune base scientifique crédible. Si elle est adoptée sous cette forme, le règlement IA légitimera une pratique qui, tout au long de l’histoire, a partie liée à l’#eugénisme.

Le texte final prévoit également d’autoriser la police à classer les personnes filmées par les caméras de #vidéosurveillance en fonction de leur #couleur_de_peau. Il est difficile de comprendre comment cela peut être autorisé étant donné que la législation européenne interdit normalement toute #discrimination. Il semble cependant que, lorsqu’elle est pratiquée par une machine, les législateurs considèrent de telles #discriminations comme acceptables.

Une seule chose positive était ressorti des travaux techniques menés à la suite des négociations finales du mois de décembre : l’accord entendait limiter la reconnaissance faciale publique a posteriori aux cas ayant trait à la poursuite de crimes transfrontaliers graves. Bien que la campagne « Reclaim Your Face » ait réclamé des règles encore plus strictes en la matière, cela constituait un progrès significatif par rapport à la situation actuelle, caractérisée par un recours massif à ces pratiques par les États membres de l’UE.

Il s’agissait d’une victoire pour le Parlement européen, dans un contexte où tant de largesses sont concédées à la surveillance biométrique. Or, les négociations menées ces derniers jours, sous la pression des gouvernements des États membres, ont conduit le Parlement à accepter de supprimer cette limitation aux #crimes_transfrontaliers graves tout en affaiblissant les garanties qui subsistent. Désormais, un vague lien avec la « #menace » d’un crime pourrait suffire à justifier l’utilisation de la #reconnaissance_faciale_rétrospective dans les espaces publics.

Il semblerait que ce soit la #France qui ait mené l’offensive visant à faire passer au rouleau compresseur notre droit à être protégés contre les abus de nos données biométriques. À l’approche des #Jeux_olympiques et paralympiques qui se tiendront à Paris cet été, la France s’est battue pour préserver ou étendre les pouvoirs de l’État afin d’éradiquer notre anonymat dans les espaces publics et pour utiliser des systèmes d’intelligence artificielle opaques et peu fiables afin de tenter de savoir ce que nous pensons. Les gouvernements des autres États membres et les principaux négociateurs du Parlement n’ont pas réussi à la contrer dans cette démarche.

En vertu du règlement IA, nous serons donc tous coupables par défaut et mis sous #surveillance_algorithmique, l’UE ayant accordé un blanc-seing à la surveillance biométrique de masse. Les pays de l’UE auront ainsi carte blanche pour renforcer la surveillance de nos visages et de nos corps, ce qui créera un précédent mondial à faire froid dans le dos.

►https://www.laquadrature.net/2024/01/19/le-reglement-europeen-sur-lia-ninterdira-pas-la-surveillance-biometriq
#surveillance_de_masse #surveillance #intelligence_artificielle #AI #IA #algorithme

voir aussi :
▻https://seenthis.net/messages/1037288

Refusons la #Surveillance biométrique
▻https://framablog.org/2023/02/24/refusons-la-surveillance-biometrique

Vous avez hâte de voir les JO de Paris en 2024 ? Non ? Roooh… et la petite #Loi surveillance qui va avec ? Vous avez hâte de la voir appliquée aussi ? Non ? Alors cette BD est pour vous… BD réalisée dans le … Lire la suite­­

#Lecture #Libertés_numériques #jeux_olympiques #Quadrature #surveillance_biométrique

Bordering under the corona virus pandemic

In our recent book Bordering (Yuval-Davis, Wemyss & Cassidy, 2019), we discuss the paradoxical phenomenon that, under neoliberal globalisation, borders did not disappear but rather proliferated off-and in-shore, from consulates across the globe to everyday spaces like railways and places of work. We described the functioning of bordering as processes rather than static boundary lines that, like computer firewalls, are invisible to some, impermeable to many others. We showed the ways these have crucially contributed to multi-scalar – from the global to the local – inequalities and precarities, forcing more and more people to be precariously stuck in limbo grey borderzones with no possibility of building regular lives with civil, political and social rights.

It is important to examine the ways the pandemic has affected these processes of everyday bordering, both locally and globally. Of course, it is far too early to know, or even predict, the longer-term transformations in bordering that the pandemic will bring. However, it is safe to say that, as after earlier major crises, such as 9/11 and the AIDS crises – to mention just two major transformatory crises in recent decades – the ‘new normal’ is not going to go back to how things were, in several major ways. Everyday bordering, from the lockdown of individuals in their homes to the lockdown of regional and national borders, is at the heart of the technologies of control used to try to contain the pandemic and it is thus hard to believe that free movement would be restored any time soon.

Except that, as we’ve shown in our book, free movement has never been free for most people. Border controls have been operating like computers’ firewalls, invisible to some, blocking many others, with money and required skills for the neoliberal economy being the main facilitators. We can see these firewalls continuing to operate today as well – at different ends of the scale, the super-rich flying in private jets able to travel without being subject to the usual restrictions and seasonal workers from Eastern Europe being flown into the UK by the farming industry to ensure that fruit is being picked. Two weeks into the lockdown, the Home Office published its guidance for post-Brexit immigration rules aimed at preventing low paid workers – the key workers on which healthcare services are depending – from working in the UK.

These are just some of the paradoxes of ‘lockdown’ and ‘social distancing’ policies. On the one hand, a neo-liberal governmentality that puts the onus of responsibility on the individuals, where people are required to isolate themselves at home and keep away from others, while others are forced to carry on working – not only because they fulfil essential medical, social and economic roles, but also because many of them would not get any money to live on if they stop working.

This is just one of the intersectional growing inequalities impacts of everyday bordering. Given their disproportionate presence in frontline health and public services, the percentage of BAME people who have died under the pandemic is still unknown but feared to be to very high. Of course, this is not just due to the kind of jobs they do, but also their poor and crowded living conditions, as well as a distrust of governmental and scientific authorities which have not helped them in the past.

In addition to unequal class and racialised effects, the lockdown bordering has also had a major gendered effect, such as a sharp rise in domestic violence, as can be expected when nuclear family members are locked down together.

In our book we discussed the ways everyday bordering as a top down technology of control has been reinforced by and reinforces the growth of bottom up nativist extreme right movements, which have brought to power authoritarian rulers in many countries in the globe and arguably Brexit in the UK. Blaming and scapegoating the ‘Others’ have been a major multi-scalar reaction to the pandemic, from Trump calling the corona virus ‘the Chinese virus’, to social media blaming George Soros in the traditional antisemitic blood conspiracy theories, to street hate crimes, including health workers reporting abuse from strangers for leaving their homes.

One of the positive ‘side effects’ of the lockdown has been the development and reinforcement of mutual aid groups in local communities. Neighbours have got to know each other, help elderly and vulnerable people with their shopping etc. However, the other side of the strengthening of local bonds has been the rejection of ‘others’. Local media report people crossing county borders’ violating lockdowns – Kent Online reported ‘Lockdown louts from London have been fined after once again invading the county’ and being found by ‘enforcement officers from the council who were patrolling the area’. This is aided by regional bordering policies, which in some countries, such as Italy, has meant the official closure of regional borders for non-essential traffic, while in the UK, Sussex police, for example, praised ‘the amazing community spirit across Sussex’, whilst noting that ‘Unfortunately, a small number of people from outside of the county deemed it appropriate to visit the area’.

The aim of this blog post is not to oppose bordering policies in the age of the pandemic, but rather to argue that using it as almost the only counter-pandemic measure is dangerous, both at present and for the future.

At present, we have seen that when voluntary lockdown policies are used, without mass testing and sufficient protective equipment for those who are not in isolation, they cost many lives as well as create psychological, social and economic hardships. In comparison, other states, including Germany and South Korea, have used mass testing and contact tracing to slow down the rate of infection.

Moreover, these borderings, like the borderings we described in our book, are an intersection of political projects of governance and of belonging. Very few states, including Ireland and Portugal, have recognised all migrants to be full entitled members of society during the pandemic; only a few states have recognized the right of all members of societies for minimum income during the pandemic, and policies aimed at exclusion and deprivation of all those in national and global grey limbo zones endanger the lives of millions across the globe.

Everyday bordering policies are evolving in which the surveillance of people is reaching sci-fi dimensions. Similar COVID-19 related technologies are being developed globally by authoritarian and liberal governments. While Israel has authorised counter-terrorism surveillance to track corona virus patients, compulsory colour-coded health apps determine whether individuals can travel in China, while Russia uses face recognition technologies to enforce self-isolation. In Hong Kong and Singapore, COVID 19 apps identify locations and contacts of individuals. European governments are copying these apps whilst also collecting telecom data and using drones to spot transgressors.

Such developments combine with rumours and debates about national and global digital monitoring of vaccinations, adding force to Yuval Noah Harari’s speculations that the epidemic may normalise biometric surveillance with authorities becoming able to detect people’s emotions as well as their lifestyles and whereabouts. This would be the utmost paradox: a borderless world with the most tightly operated everyday bordering technology.

https://i2.wp.com/politybooks.com/wp-content/uploads/2018/10/9781509504947-e1539183572658.jpg

#frontières #coronavirus #covid-19 #bordering #frontiérisation #surveillance #frontières_mobiles #riches #pauvres #immobilité #hyper-mobilité #travailleurs_étrangers #confinement #responsabilité_individuelle #travail #inégalités #everyday_bordering #classes_sociales #inégalités_raciales #violence_domestique #altérité #solidarité #racisme #xénophobie #surveillance_biométrique #drones

La conclusion autour d’un #paradoxe :

This would be the utmost paradox: a borderless world with the most tightly operated everyday bordering technology.

Pour @etraces :

Everyday bordering policies are evolving in which the surveillance of people is reaching sci-fi dimensions. Similar COVID-19 related technologies are being developed globally by authoritarian and liberal governments. While Israel has authorised counter-terrorism surveillance to track corona virus patients, compulsory colour-coded health apps determine whether individuals can travel in China, while Russia uses face recognition technologies to enforce self-isolation. In Hong Kong and Singapore, COVID 19 apps identify locations and contacts of individuals. European governments are copying these apps whilst also collecting telecom data and using drones to spot transgressors.

Pour @karine4 :

Moreover, these borderings, like the borderings we described in our book, are an intersection of political projects of governance and of belonging. Very few states, including Ireland and Portugal, have recognised all migrants to be full entitled members of society during the pandemic; only a few states have recognized the right of all members of societies for minimum income during the pandemic, and policies aimed at exclusion and deprivation of all those in national and global grey limbo zones endanger the lives of millions across the globe.

ping @isskein @mobileborders