#reconnaissance_faciale

Comment le #maquillage peut nous protéger de la #reconnaissance_faciale ?
▻https://www.ladn.eu/mondes-creatifs/maquillage-camouflage-devient-une-arme-anti-surveillance

Dans les rues de Londres, le collectif anti-surveillance The Dazzle Club milite silencieusement et à couvert. Son arme de prédilection ? Le maquillage asymétrique pour tromper les dispositifs biométriques de reconnaissance faciale. Trois de ses fondatrices, Emily Roderick, Georgina Rowlands et Anna Hart, nous racontent.

Août 2019. Le quartier de King’s Cross à Londres prévoit de déployer un système de #caméras de #surveillance utilisant la reconnaissance faciale sans consulter les #habitants. Les masques ne font pas encore partie de leur quotidien, mais le #collectif d’artistes The #Dazzle_Club s’interroge : « peut-on encore être libres dans l’espace public ? »

Affublées de maquillages mystérieusement graphiques, Emily Roderick, Georgina Rowlands, Anna Hart et Evie Price se mettent alors à marcher, en silence, dans les rues de la capitale. Derrière la performance artistique se cache une véritable technique de camouflage, CV Dazzle, développée en 2010 par le chercheur Adam Harvey. Le but ? Protéger nos visages des algorithmes de reconnaissance faciale.

This is how we lost control of our faces | MIT Technology Review
▻https://www.technologyreview.com/2021/02/05/1017388/ai-deep-learning-facial-recognition-data-history

https://wp.technologyreview.com/wp-content/uploads/2021/02/GettyImages-672156981-crop.jpeg?resize=1200,600

The largest ever study of facial-recognition data shows how much the rise of deep learning has fueled a loss of privacy.
by

Karen Hao
February 5, 2021

In 1964, mathematician and computer scientist Woodrow Bledsoe first attempted the task of matching suspects’ faces to mugshots. He measured out the distances between different facial features in printed photographs and fed them into a computer program. His rudimentary successes would set off decades of research into teaching machines to recognize human faces.

Now a new study shows just how much this enterprise has eroded our privacy. It hasn’t just fueled an increasingly powerful tool of surveillance. The latest generation of deep-learning-based facial recognition has completely disrupted our norms of consent.

People were extremely cautious about collecting, documenting, and verifying face data in the early days, says Raji. “Now we don’t care anymore. All of that has been abandoned,” she says. “You just can’t keep track of a million faces. After a certain point, you can’t even pretend that you have control.”

A history of facial-recognition data

The researchers identified four major eras of facial recognition, each driven by an increasing desire to improve the technology. The first phase, which ran until the 1990s, was largely characterized by manually intensive and computationally slow methods.

But then, spurred by the realization that facial recognition could track and identify individuals more effectively than fingerprints, the US Department of Defense pumped $6.5 million into creating the first large-scale face data set. Over 15 photography sessions in three years, the project captured 14,126 images of 1,199 individuals. The Face Recognition Technology (FERET) database was released in 1996.

The following decade saw an uptick in academic and commercial facial-recognition research, and many more data sets were created. The vast majority were sourced through photo shoots like FERET’s and had full participant consent. Many also included meticulous metadata, Raji says, such as the age and ethnicity of subjects, or illumination information. But these early systems struggled in real-world settings, which drove researchers to seek larger and more diverse data sets.

In 2007, the release of the Labeled Faces in the Wild (LFW) data set opened the floodgates to data collection through web search. Researchers began downloading images directly from Google, Flickr, and Yahoo without concern for consent. LFW also relaxed standards around the inclusion of minors, using photos found with search terms like “baby,” “juvenile,” and “teen” to increase diversity. This process made it possible to create significantly larger data sets in a short time, but facial recognition still faced many of the same challenges as before. This pushed researchers to seek yet more methods and data to overcome the technology’s poor performance.

Then, in 2014, Facebook used its user photos to train a deep-learning model called DeepFace. While the company never released the data set, the system’s superhuman performance elevated deep learning to the de facto method for analyzing faces. This is when manual verification and labeling became nearly impossible as data sets grew to tens of millions of photos, says Raji. It’s also when really strange phenomena start appearing, like auto-generated labels that include offensive terminology.

Image-generation algorithms are regurgitating the same sexist, racist ideas that exist on the internet.

The way the data sets were used began to change around this time, too. Instead of trying to match individuals, new models began focusing more on classification. “Instead of saying, ‘Is this a photo of Karen? Yes or no,’ it turned into ‘Let’s predict Karen’s internal personality, or her ethnicity,’ and boxing people into these categories,” Raji says.

Amba Kak, the global policy director at AI Now, who did not participate in the research, says the paper offers a stark picture of how the biometrics industry has evolved. Deep learning may have rescued the technology from some of its struggles, but “that technological advance also has come at a cost,” she says. “It’s thrown up all these issues that we now are quite familiar with: consent, extraction, IP issues, privacy.”

Raji says her investigation into the data has made her gravely concerned about deep-learning-based facial recognition.

“It’s so much more dangerous,” she says. “The data requirement forces you to collect incredibly sensitive information about, at minimum, tens of thousands of people. It forces you to violate their privacy. That in itself is a basis of harm. And then we’re hoarding all this information that you can’t control to build something that likely will function in ways you can’t even predict. That’s really the nature of where we’re at.”

#Reconnaissance_faciale #éthique #Histoire_numérique #Surveillance

How the Pandemic Turned Refugees Into ‘Guinea Pigs’ for Surveillance Tech

An interview with Dr. Petra Molnar, who spent 2020 investigating the use of drones, facial recognition, and lidar on refugees

The coronavirus pandemic unleashed a new era in surveillance technology, and arguably no group has felt this more acutely than refugees. Even before the pandemic, refugees were subjected to contact tracing, drone and LIDAR tracking, and facial recognition en masse. Since the pandemic, it’s only gotten worse. For a microcosm of how bad the pandemic has been for refugees — both in terms of civil liberties and suffering under the virus — look no further than Greece.

Greek refugee camps are among the largest in Europe, and they are overpopulated, with scarce access to water, food, and basic necessities, and under constant surveillance. Researchers say that many of the surveillance techniques and technologies — especially experimental, rudimentary, and low-cost ones — used to corral refugees around the world were often tested in these camps first.

“Certain communities already marginalized, disenfranchised are being used as guinea pigs, but the concern is that all of these technologies will be rolled out against the broader population and normalized,” says Petra Molnar, Associate Director of the Refugee Law Lab, York University.

Molnar traveled to the Greek refugee camps on Lesbos in 2020 as part of a fact-finding project with the advocacy group European Digital Rights (EDRi). She arrived right after the Moria camp — the largest in Europe at the time — burned down and forced the relocation of thousands of refugees. Since her visit, she has been concerned about the rise of authoritarian technology and how it might be used against the powerless.

With the pandemic still raging and states more desperate than ever to contain it, it seemed a good time to discuss the uses and implications of surveillance in the refugee camps. Molnar, who is still in Greece and plans to continue visiting the camps once the nation’s second lockdown lifts, spoke to OneZero about the kinds of surveillance technology she saw deployed there, and what the future holds — particularly with the European Border and Coast Guard Agency, Molnar says, adding “that they’ve been using Greece as a testing ground for all sorts of aerial surveillance technology.”

This interview has been edited and condensed for clarity.

OneZero: What kinds of surveillance practices and technologies did you see in the camps?

Petra Molnar: I went to Lesbos in September, right after the Moria camp burned down and thousands of people were displaced and sent to a new camp. We were essentially witnessing the birth of the Kara Tepes camp, a new containment center, and talked to the people about surveillance, and also how this particular tragedy was being used as a new excuse to bring more technology, more surveillance. The [Greek] government is… basically weaponizing Covid to use it as an excuse to lock the camps down and make it impossible to do any research.

When you are in Lesbos, it is very clear that it is a testing ground, in the sense that the use of tech is quite rudimentary — we are not talking about thermal cameras, iris scans, anything like that, but there’s an increase in the appetite of the Greek government to explore the use of it, particularly when they try to control large groups of people and also large groups coming from the Aegean. It’s very early days for a lot of these technologies, but everything points to the fact that Greece is Europe’s testing ground.

They are talking about bringing biometric control to the camps, but we know for example that the Hellenic Coast Guard has a drone that they have been using for self-promotion, propaganda, and they’ve now been using it to follow specific people as they are leaving and entering the camp. I’m not sure if the use of drones was restricted to following refugees once they left the camps, but with the lockdown, it was impossible to verify. [OneZero had access to a local source who confirmed that drones are also being used inside the camps to monitor refugees during lockdown.]

Also, people can come and go to buy things at stores, but they have to sign in and out at the gate, and we don’t know how they are going to use such data and for what purposes.

Surveillance has been used on refugees long before the pandemic — in what ways have refugees been treated as guinea pigs for the policies and technologies we’re seeing deployed more widely now? And what are some of the worst examples of authoritarian technologies being deployed against refugees in Europe?

The most egregious examples that we’ve been seeing are that ill-fated pilot projects — A.I. lie detectors and risk scorings which were essentially trying to use facial recognition and facial expressions’ micro-targeting to determine whether a person was more likely than others to lie at the border. Luckily, that technology was debunked and also generated a lot of debate around the ethics and human rights implications of using something like that.

Technologies such as voice printing have been used in Germany to try to track a person’s country of origin or their ethnicity, facial recognition made its way into the new Migration’s Pact, and Greece is thinking about automating the triage of refugees, so there’s an appetite at the EU level and globally to use this tech. I think 2021 will be very interesting as more resources are being diverted to these types of tech.

We saw, right when the pandemic started, that migration data used for population modeling became kind of co-opted and used to try and model flows of Covid. And this is very problematic because they are assuming that the mobile population, people on the move, and refugees are more likely to be bringing in Covid and diseases — but the numbers don’t bear out. We are also seeing the gathering of vast amounts of data for all these databases that Europe is using or will be using for a variety of border enforcement and policing in general.

The concern is that fear’s being weaponized around the pandemic and technologies such as mobile tracking and data collection are being used as ways to control people. It is also broader, it deals with a kind of discourse around migration, on limiting people’s rights to move. Our concern is that it’ll open the door to further, broader rollout of this kind of tech against the general population.

What are some of the most invasive technologies you’ve seen? And are you worried these authoritarian technologies will continue to expand, and not just in refugee camps?

In Greece, the most invasive technologies being used now would probably be drones and unpiloted surveillance technologies, because it’s a really easy way to dehumanize that kind of area where people are crossing, coming from Turkey, trying to claim asylum. There’s also the appetite to try facial recognition technology.

It shows just how dangerous these technologies can be both because they facilitate pushbacks, border enforcement, and throwing people away, and it really plays into this kind of idea of instead of humane responses you’d hope to happen when you see a boat in distress in the Aegean or the Mediterranean, now entities are turning towards drones and the whole kind of surveillance apparatus. It highlights how the humanity in this process has been lost.

And the normalization of it all. Now it is so normal to use drones — everything is about policing Europe’s shore, Greece being a shield, to normalize the use of invasive surveillance tech. A lot of us are worried with talks of expanding the scope of action, mandate, and powers of Frontex [the European Border and Coast Guard Agency] and its utter lack of accountability — it is crystal clear that entities like Frontex are going to do Europe’s dirty work.

There’s a particular framing applied when governments and companies talk about migrants and refugees, often linking them to ISIS and using careless terms and phrases to discuss serious issues. Our concern is that this kind of use of technology is going to become more advanced and more efficient.

What is happening with regard to contact tracing apps — have there been cases where the technology was forced on refugees?

I’ve heard about the possibility of refugees being tracked through their phones, but I couldn’t confirm. I prefer not to interact with the state through my phone, but that’s a privilege I have, a choice I can make. If you’re living in a refugee camp your options are much more constrained. Often people in the camps feel they are compelled to give access to their phones, to give their phone numbers, etc. And then there are concerns that tracking is being done. It’s really hard to track the tracking; it is not clear what’s being done.

Aside from contact tracing, there’s the concern with the Wi-Fi connection provided in the camps. There’s often just one connection or one specific place where Wi-Fi works and people need to be connected to their families, spouses, friends, or get access to information through their phones, sometimes their only lifeline. It’s a difficult situation because, on the one hand, people are worried about privacy and surveillance, but on the other, you want to call your family, your spouse, and you can only do that through Wi-Fi and people feel they need to be connected. They have to rely on what’s available, but there’s a concern that because it’s provided by the authorities, no one knows exactly what’s being collected and how they are being watched and surveilled.

How do we fight this surveillance creep?

That’s the hard question. I think one of the ways that we can fight some of this is knowledge. Knowing what is happening, sharing resources among different communities, having a broader understanding of the systemic way this is playing out, and using such knowledge generated by the community itself to push for regulation and governance when it comes to these particular uses of technologies.

We call for a moratorium or abolition of all high-risk technology in and around the border because right now we don’t have a governance mechanism in place or integrated regional or international way to regulate these uses of tech.

Meanwhile, we have in the EU a General Data Protection Law, a very strong tool to protect data and data sharing, but it doesn’t really touch on surveillance, automation, A.I., so the law is really far behind.

One of the ways to fight A.I. is to make policymakers understand the real harm that these technologies have. We are talking about ways that discrimination and inequality are reinforced by this kind of tech, and how damaging they are to people.

We are trying to highlight this systemic approach to see it as an interconnected system in which all of these technologies play a part in this increasingly draconian way that migration management is being done.

▻https://onezero.medium.com/how-the-pandemic-turned-refugees-into-guinea-pigs-for-surveillance-t

#réfugiés #cobaye #surveillance #technologie #pandémie #covid-19 #coroanvirus #LIDAR #drones #reconnaissance_faciale #Grèce #camps_de_réfugiés #Lesbos #Moria #European_Digital_Rights (#EDRi) #surveillance_aérienne #complexe_militaro-industriel #Kara_Tepes #weaponization #biométrie #IA #intelligence_artificielle #détecteurs_de_mensonges #empreinte_vocale #tri #catégorisation #donneés #base_de_données #contrôle #technologies_autoritaires #déshumanisation #normalisation #Frontex #wifi #internet #smartphone #frontières

ping @isskein @karine4

ping @etraces

Artificial intelligence : #Frontex improves its maritime surveillance

https://digit.site36.net/files/2021/01/Frontex-detects-mother-boat-smuggling-people-1024x576.jpeg

Frontex wants to use a new platform to automatically detect and assess „risks“ on the seas of the European Union. Suspected irregular activities are to be displayed in a constantly updated „threat map“ with the help of self-learning software.

The EU border agency has renewed a contract with Israeli company Windward for a „maritime analytics“ platform. It will put the application into regular operation. Frontex had initially procured a licence for around 800,000 Euros. For now 2.6 million Euros, the agency will receive access for four workstations. The contract can be extended three times for one year at a time.

Windward specialises in the digital aggregation and assessment of vessel tracking and maritime surveillance data. Investors in the company, which was founded in 2011, include former US CIA director David Petraeus and former CEO’s of Thomson Reuters and British Petroleum. The former chief of staff of the Israeli military, Gabi Ashkenazi, is considered one of the advisors.

Signature for each observed ship

The platform is based on artificial intelligence techniques. For analysis, it uses maritime reporting systems, including position data from the AIS transponders of larger ships and weather data. These are enriched with information about the ship owners and shipping companies as well as the history of previous ship movements. For this purpose, the software queries openly accessible information from the internet.

In this way, a „fingerprint“ is created for each observed ship, which can be used to identify suspicious activities. If the captain switches off the transponder, for example, the analysis platform can recognise this as a suspicuous event and take over further tracking based on the recorded patterns. It is also possible to integrate satellite images.

Windward uses the register of the International Maritime Organisation (IMO) as its database, which lists about 70,000 ships. Allegedly, however, it also processes data on a total of 400,000 watercraft, including smaller fishing boats. One of the clients is therefore the UN Security Council, which uses the technology to monitor sanctions.

Against „bad guys“ at sea

The company advertises its applications with the slogan „Catch the bad guys at sea“. At Frontex, the application is used to combat and prevent unwanted migration and cross-border crime as well as terrorism. Subsequently, „policy makers“ and law enforcement agencies are to be informed about results. For this purpose, the „risks“ found are visualised in a „threat map“.

Windward put such a „threat map“ online two years ago. At the time, the software rated the Black Sea as significantly more risky than the Mediterranean. Commercial shipping activity off the Crimea was interpreted as „probable sanction evasions“. Ship owners from the British Guernsey Islands as well as Romania recorded the highest proportion of ships exhibiting „risky“ behaviour. 42 vessels were classified as suspicious for drug smuggling based on their patterns.

Frontex „early warning“ units

The information from maritime surveillance is likely to be processed first by the „Risk Analysis Unit“ (RAU) at Frontex. It is supposed to support strategic decisions taken by the headquarters in Warsaw on issues of border control, return, prevention of cross-border crime as well as threats of a „hybrid nature“. Frontex calls the applications used there „intelligence products“ and „integrated data services“. Their results flow together in the „Common Integrated Risk Analysis Model“ (CIRAM).

For the operational monitoring of the situation at the EU’s external borders, the agency also maintains the „Frontex Situation Centre“ (FSC). The department is supposed to provide a constantly updated picture of migration movements, if possible in real time. From these reports, Frontex produces „early warnings“ and situation reports to the border authorities of the member states as well as to the Commission and the Council in Brussels.

More surveillance capacity in Warsaw

According to its own information, Windward’s clients include the Italian Guardia di Finanza, which is responsible for controlling Italian territorial waters. The Ministry of the Interior in Rome is also responsible for numerous EU projects aimed at improving surveillance of the central Mediterranean. For the training and equipment of the Libyan coast guard, Italy receives around 67 million euros from EU funds in three different projects. Italian coast guard authorities are also installing a surveillance system for Tunisia’s external maritime borders.

Frontex now wants to improve its own surveillance capacities with further tenders. Together with the fisheries agency, The agency is awarding further contracts for manned maritime surveillance. It has been operating such a „Frontex Aerial Surveillance Service“ (FASS) in the central Mediterranean since 2017 and in the Adriatic Sea since 2018. Frontex also wants to station large drones in the Mediterranean. Furthermore, it is testing Aerostats in the eastern Mediterranean for a second time. These are zeppelins attached to a 1,000-metre long line.

▻https://digit.site36.net/2021/01/15/artificial-intelligence-frontex-improves-its-maritime-surveillance
#intelligence_artificielle #surveillance #surveillance_maritime #mer #asile #migrations #réfugiés #frontières #AI #Windward #Israël #complexe_militaro-industriel #militarisation_des_frontières #David_Petraeus #Thomson_Reuters #British_Petroleum #armée_israélienne #Gabi_Ashkenazi #International_Maritime_Organisation (#IMO) #thread_map #Risk_Analysis_Unit (#RAU) #Common_Integrated_Risk_Analysis_Model (#CIRAM) #Frontex_Situation_Centre (#FSC) #Frontex_Aerial_Surveillance_Service (#FASS) #zeppelins

ping @etraces

Flawed Facial Recognition Leads To Arrest and Jail for New Jersey Man - The New York Times
▻https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html

A New Jersey man was accused of shoplifting and trying to hit an officer with a car. He is the third known Black man to be wrongfully arrested based on face recognition.

#reconnaissance_faciale #police #justice #racisme

Non avrai mai più i miei dati | il manifesto
▻https://ilmanifesto.it/non-avrai-mai-piu-i-miei-dati

https://static.ilmanifesto.it/2020/11/21-ultima-facial-recognition-china-.jpg

par Simone Pieranni (auteur de «Red Mirror»)

Cina. Sotto la spinta dell’opinione pubblica cinese, per la prima volta una metropoli ha presentato una bozza di legge per arginare il riconoscimento facciale all’interno dei complessi residenziali

Spesso in Occidente rimaniamo impressionati dalla facilità con la quale la tecnologia è entrata nella vita quotidiana dei cinesi. Certi aspetti di questo tema, per altro, ci riguardano da vicino e faremmo bene a osservare cosa accade in un posto così lontano, ma pur sempre inserito – sebbene con le proprie «caratteristiche» – all’interno di un contesto globale.

Uno degli aspetti più rilevanti è senza dubbio quello del riconoscimento facciale, ormai utilizzato in molte attività e luoghi anche in Occidente, spesso senza neanche il consenso, o quanto meno un parere, della cittadinanza.

#Simone Pieranni #Chine #Reconnaissance_faciale

Les possibilités de #fichage de la #police discrètement élargies par trois #décrets

Trois décrets publiés vendredi au #Journal_Officiel, et passés quasiment inaperçus, créent la polémique et l’inquiétude des défenseurs des libertés. Ils vont permettre aux #forces_de_l'ordre et aux renseignements de collecter beaucoup plus d’#informations et des données très personnelles.

Ficher les #opinions_politiques de certains Français, les #orientations_sexuelles, la #pratique_sportive, les #comportements_religieux, les activités sur les #réseaux_sociaux, c’est une nouvelle prérogative des forces de l’ordre, grâce à trois décrets parus vendredi en toute discrétion. Concrètement, avec ces décrets, l’exécutif élargit les possibilités de fichage de certains services de police et de #gendarmerie.

Il ne s’agit pas, théoriquement, de collecter des données de tous les citoyens, mais, selon le décret, de personnes « susceptibles de porter atteinte aux #intérêts_fondamentaux_de_la_Nation, à l’#intégrité_du_territoire, ou des #institutions de la République. Ou encore de constituer une #menace_terroriste ».

Données relatives aux #troubles_psychologiques, psychiatriques

Ces nouvelles données, concernant de nouvelles personnes, viendront grossir trois fichiers : le fichier #Prévention_des_atteintes_à_la_sécurité_publique (#PASP), le fichier #Gestion_de_l’information_et_prévention_des_atteintes_à_la_sécurité_publique (#GIPASP) et le fichier #Enquêtes_administratives_liées_à_la_sécurité_publique (#EASP). Ce dernier fichier est utilisé pour réaliser les #enquêtes_administratives_préalables à certains recrutements dans la #fonction_publique.

Des voix s’élèvent aujourd’hui pour s’inquiéter du périmètre - notamment - très large accordé au recueil des données, sachant que pour les terroristes potentiels, il existe d’autres fichiers. Il est question aussi de mieux surveiller les personnes morales et les groupements, autrement dit les #associations.

Quant au contenu des données collectées : ce ne sont plus seulement les activités politiques, religieuses, syndicales, mais dorénavant également les #opinions_politiques, les #convictions_philosophiques, religieuses, ainsi que les comportements et habitudes de vie, les #pratiques_sportives... Autant de notions intrusives, sur lesquelles la CNIL a demandé des précisions. Avis non pris en compte.

Le #renseignement_territorial pourra également enregistrer des données relatives aux troubles psychologiques ou psychiatriques qui peuvent être considérées comme des atteintes au #secret_médical.

« Les fichiers de police dont on parle ne sont pas des #fichiers_judiciaires, ce sont des fichiers qui sont gérés par la police, seule, pour la police, explique Arthur Messaud, porte-parole de La Quadrature du Net. Ce ne sont pas non plus des fichiers de #contre-terrorisme. On est dans la lutte contre les sectes, la lutte contre les hooligans et la lutte contre les violences autour des trafics de drogue, mais aussi toutes les luttes, les #violences ou les #manifestations non déclarées autour des #mouvements_idéologiques. Il faut bien comprendre que là, quand je dis #violence, c’est tel qu’interprété par la police. »

« Ce n’est pas un #juge qui va qualifier des #infractions_pénales. Non, c’est la police toute seule pour ces renseignements à elle, qui va surveiller des gens qu’elle considère comme dangereux pour le pouvoir en place » - Arthur Messaud

Le décret comporte également un couplet sur les réseaux sociaux

Surveillance actée des activités sur ces réseaux avec possibilité de recueil des #pseudonymes et #identifiant, pas les mots de passe, uniquement les informations mises en ligne volontairement en source ouverte. Mais il sera possible de capter les commentaires et surtout les #photos, #reconnaissance_faciale non exclue.

La CNIL souligne que le résultat devra être recoupé et qu’il ne suffira en aucune manière à lui seul à fonder une décision à l’égard de la personne.

Ces décrets apparaissent comme une nouvelle encoche dans nos #libertés. A minima une bombe à retardement si notre histoire démocratique venait à vaciller.

Il y a 12 ans, le #fichier_Edwige prévoyait de collecter - déjà - des informations sur les opinions des personnes fichées. Des mobilisations citoyennes avaient permis de modifier la donne et le gouvernement avait autorisé le recueil de fichier uniquement sur les activités politiques des personnes et non plus leurs #opinions.

▻https://www.franceinter.fr/societe/les-possibilites-de-fichage-de-la-police-discretement-elargit-par-trois-
#décret #France #données_personnelles

ping @etraces

La #Technopolice, moteur de la « #sécurité_globale »

L’article 24 de la #loi_Sécurité_Globale ne doit pas devenir l’arbre qui cache la forêt d’une politique de fond, au cœur de ce texte, visant à faire passer la #surveillance et le #contrôle_de_la_population par la police à une nouvelle ère technologique.

Quelques jours avant le vote de la loi Sécurité Globale à l’Assemblée Nationale, le ministère de l’Intérieur présentait son #Livre_blanc. Ce long #rapport de #prospective révèle la #feuille_de_route du ministère de l’Intérieur pour les années à venir. Comme l’explique Gérard Darmanin devant les députés, la proposition de loi Sécurité Globale n’est que le début de la transposition du Livre dans la législation. Car cette loi, au-delà de l’interdiction de diffusion d’#images de la police (#article_24), vise surtout à renforcer considérablement les pouvoirs de surveillance des #forces_de_l’ordre, notamment à travers la légalisation des #drones (article 22), la diffusion en direct des #caméras_piétons au centre d’opération (article 21), les nouvelles prérogatives de la #police_municipale (article 20), la #vidéosurveillance dans les hall d’immeubles (article 20bis). Cette loi sera la première pierre d’un vaste chantier qui s’étalera sur plusieurs années.

Toujours plus de pouvoirs pour la police

Le Livre blanc du ministère de l’Intérieur envisage d’accroître, à tous les niveaux, les pouvoirs des différentes #forces_de_sécurité (la #Police_nationale, la police municipale, la #gendarmerie et les agents de #sécurité_privée) : ce qu’ils appellent, dans la novlangue officielle, le « #continuum_de_la_sécurité_intérieure ». Souhaitant « renforcer la police et la rendre plus efficace », le livre blanc se concentre sur quatre angles principaux :

- Il ambitionne de (re)créer une #confiance de la population en ses forces de sécurité, notamment par une #communication_renforcée, pour « contribuer à [leur] légitimité », par un embrigadement de la jeunesse – le #Service_National_Universel, ou encore par la création de « #journées_de_cohésion_nationale » (page 61). Dans la loi Sécurité Globale, cette volonté s’est déjà illustrée par la possibilité pour les policiers de participer à la « #guerre_de_l’image » en publiant les vidéos prises à l’aide de leurs #caméras_portatives (article 21).
- Il prévoit d’augmenter les compétences des #maires en terme de sécurité, notamment par un élargissement des compétences de la police municipale : un accès simplifié aux #fichiers_de_police, de nouvelles compétences en terme de lutte contre les #incivilités … (page 135). Cette partie-là est déjà en partie présente dans la loi Sécurité Globale (article 20).
- Il pousse à une #professionnalisation de la sécurité privée qui deviendrait ainsi les petites mains de la police, en vu notamment des #Jeux_olympiques Paris 2024, où le besoin en sécurité privée s’annonce colossal. Et cela passe par l’augmentation de ses #compétences : extension de leur #armement, possibilité d’intervention sur la #voie_publique, pouvoir de visionner les caméras, et même le port d’un #uniforme_spécifique (page 145).
- Enfin, le dernier grand axe de ce livre concerne l’intégration de #nouvelles_technologies dans l’arsenal policier. Le titre de cette partie est évocateur, il s’agit de « porter le Ministère de l’Intérieur à la #frontière_technologique » (la notion de #frontière évoque la conquête de l’Ouest aux États-Unis, où il fallait coloniser les terres et les premières nations — la reprise de ce vocable relève d’une esthétique coloniale et viriliste).

Ce livre prévoit une multitude de projets plus délirants et effrayants les uns que les autres. Il propose une #analyse_automatisée des #réseaux_sociaux (page 221), des #gilets_connectés pour les forces de l’ordre (page 227), ou encore des lunettes ou #casques_augmentés (page 227). Enfin, le Livre blanc insiste sur l’importance de la #biométrie pour la police. Entre proposition d’#interconnexion des #fichiers_biométriques (#TAJ, #FNAEG, #FAED…) (page 256), d’utilisation des #empreintes_digitales comme outil d’#identification lors des #contrôles_d’identité et l’équipement des #tablettes des policiers et gendarmes (#NEO et #NEOGEND) de lecteur d’empreinte sans contact (page 258), de faire plus de recherche sur la #reconnaissance_vocale et d’#odeur (!) (page 260) ou enfin de presser le législateur pour pouvoir expérimenter la #reconnaissance_faciale dans l’#espace_public (page 263).

Le basculement technologique de la #surveillance par drones

Parmi les nouveaux dispositifs promus par le Livre blanc : les #drones_de_police, ici appelés « #drones_de_sécurité_intérieure ». S’ils étaient autorisés par la loi « Sécurité Globale », ils modifieraient radicalement les pouvoirs de la police en lui donnant une capacité de surveillance totale.

Il est d’ailleurs particulièrement marquant de voir que les rapporteurs de la loi considèrent cette légalisation comme une simple étape sans conséquence, parlant ainsi en une phrase « d’autoriser les services de l’État concourant à la #sécurité_intérieure et à la #défense_nationale et les forces de sécurité civile à filmer par voie aérienne (…) ». Cela alors que, du côté de la police et des industriels, les drones représentent une révolution dans le domaine de la sécurité, un acteur privé de premier plan évoquant au sujet des drones leur « potentiel quasiment inépuisable », car « rapides, faciles à opérer, discrets » et « tout simplement parfaits pour des missions de surveillance »

Dans les discours sécuritaires qui font la promotion de ces dispositifs, il est en effet frappant de voir la frustration sur les capacités « limitées » (selon eux) des caméras fixes et combien ils fantasment sur le « potentiel » de ces drones. C’est le cas du maire LR d’Asnières-sur-Seine qui en 2016 se plaignait qu’on ne puisse matériellement pas « doter chaque coin de rue de #vidéoprotection » et que les drones « sont les outils techniques les plus adaptés » pour pallier aux limites de la présence humaine. La police met ainsi elle-même en avant la toute-puissance du #robot par le fait, par exemple pour les #contrôles_routiers, que « la caméra du drone détecte chaque infraction », que « les agents démontrent que plus rien ne leur échappe ». Même chose pour la #discrétion de ces outils qui peuvent, « à un coût nettement moindre » qu’un hélicoptère, « opérer des surveillances plus loin sur l’horizon sans être positionné à la verticale au-dessus des suspects ». Du côté des constructeurs, on vante les « #zooms puissants », les « #caméras_thermiques », leur donnant une « #vision_d’aigle », ainsi que « le #décollage possible pratiquement de n’importe où ».

Tout cela n’est pas que du fantasme. Selon un rapport de l’Assemblée nationale, la police avait, en 2019, par exemple 30 drones « de type #Phantom_4 » et « #Mavic_Pro » (ou « #Mavic_2_Enterprise » comme nous l’avons appris lors de notre contentieux contre la préfecture de police de Paris). Il suffit d’aller voir les fiches descriptives du constructeur pour être inondé de termes techniques vantant l’omniscience de son produit : « caméra de nacelle à 3 axes », « vidéos 4K », « photos de 12 mégapixels », « caméra thermique infrarouge », « vitesse de vol maximale à 72 km/h » … Tant de termes qui recoupent les descriptions faites par leurs promoteurs : une machine volante, discrète, avec une capacité de surveiller tout (espace public ou non), et de loin.

Il ne s’agit donc pas d’améliorer le dispositif de la vidéosurveillance déjà existant, mais d’un passage à l’échelle qui transforme sa nature, engageant une surveillance massive et largement invisible de l’espace public. Et cela bien loin du léger cadre qu’on avait réussi à imposer aux caméras fixes, qui imposait notamment que chaque caméra installée puisse faire la preuve de son utilité et de son intérêt, c’est-à-dire de la nécessité et de la #proportionnalité de son installation. Au lieu de cela, la vidéosurveillance demeure une politique publique dispendieuse et pourtant jamais évaluée. Comme le rappelle un récent rapport de la Cour des comptes, « aucune corrélation globale n’a été relevée entre l’existence de dispositifs de vidéoprotection et le niveau de la délinquance commise sur la voie publique, ou encore les taux d’élucidation ». Autre principe fondamental du droit entourant actuellement la vidéosurveillance (et lui aussi déjà largement inappliqué) : chaque personne filmée doit être informée de cette surveillance. Les drones semblent en contradiction avec ces deux principes : leur utilisation s’oppose à toute notion d’information des personnes et de nécessité ou proportionnalité.

Où serons-nous dans 4 ans ?

En pratique, c’est un basculement total des #pratiques_policières (et donc de notre quotidien) que préparent ces évolutions technologiques et législatives. Le Livre blanc fixe une échéance importante à cet égard : « les Jeux olympiques et paralympiques de Paris de 2024 seront un événement aux dimensions hors normes posant des enjeux de sécurité majeurs » (p. 159). Or, « les Jeux olympiques ne seront pas un lieu d’expérimentation : ces technologies devront être déjà éprouvées, notamment à l’occasion de la coupe de monde de Rugby de 2023 » (p. 159).

En juillet 2019, le rapport parlementaire cité plus haut constatait que la Police nationale disposait de 30 drones et de 23 pilotes. En novembre 2020, le Livre blanc (p. 231) décompte 235 drones et 146 pilotes. En 14 mois, le nombre de drones et pilotes aura été multiplié par 7. Dès avril 2020, le ministère de l’Intérieur a publié un appel d’offre pour acquérir 650 drones de plus. Rappelons-le : ces dotations se sont faites en violation de la loi. Qu’en sera-t-il lorsque les drones seront autorisés par la loi « sécurité globale » ? Avec combien de milliers d’appareils volants devra-t-on bientôt partager nos rues ? Faut-il redouter, au cours des #JO de 2024, que des dizaines de drones soient attribués à la surveillance de chaque quartier de la région parisienne, survolant plus ou moins automatiquement chaque rue, sans répit, tout au long de la journée ?

Les évolutions en matières de reconnaissance faciale invite à des projections encore plus glaçantes et irréelles. Dès 2016, nous dénoncions que le méga-fichier #TES, destiné à contenir le visage de l’ensemble de la population, servirait surtout, à terme, à généraliser la reconnaissance faciale à l’ensemble des activités policières : enquêtes, maintien de l’ordre, contrôles d’identité. Avec le port d’une caméra mobile par chaque brigade de police et de gendarmerie, tel que promis par Macron pour 2021, et la retransmission en temps réel permise par la loi « sécurité globale », ce rêve policier sera à portée de main : le gouvernement n’aura plus qu’à modifier unilatéralement son #décret_TES pour y joindre un système de reconnaissance faciale (exactement comme il avait fait en 2012 pour permettre la reconnaissance faciale à partir du TAJ qui, à lui seul, contient déjà 8 millions de photos). Aux robots dans le ciel s’ajouteraient des humains mutiques, dont le casque de réalité augmentée évoqué par le Livre Blanc, couplé à l’analyse d’image automatisée et aux tablettes numériques NEO, permettrait des contrôles systématiques et silencieux, rompus uniquement par la violence des interventions dirigées discrètement et à distance à travers la myriade de drones et de #cyborgs.

En somme, ce Livre Blanc, dont une large partie est déjà transposée dans la proposition de loi sécurité globale, annonce le passage d’un #cap_sécuritaire historique : toujours plus de surveillance, plus de moyens et de pouvoirs pour la police et consorts, dans des proportions et à un rythme jamais égalés. De fait, c’est un #État_autoritaire qui s’affirme et se consolide à grand renfort d’argent public. Le Livre blanc propose ainsi de multiplier par trois le #budget dévolu au ministère de l’Intérieur, avec une augmentation de 6,7 milliards € sur 10 ans et de 3 milliards entre 2020 et 2025. Une provocation insupportable qui invite à réfléchir sérieusement au définancement de la police au profit de services publiques dont le délabrement plonge la population dans une #insécurité bien plus profonde que celle prétendument gérée par la police.

►https://www.laquadrature.net/2020/11/19/la-technopolice-moteur-de-la-securite-globale
#France #Etat_autoritaire

ping @isskein @karine4 @simplicissimus @reka @etraces

L’ONU met en garde contre l’impact des frontières intelligentes sur les réfugiés
▻https://www.nextinpact.com/lebrief/44611/lonu-met-en-garde-contre-impact-frontieres-intelligentes-sur-refugies

https://cdnx.nextinpact.com/data-next/images/bd/wide-linked-media/4202.jpg

Tendayi Achiume, rapporteure spéciale de l’ONU sur le racisme, la discrimination raciale, la xénophobie et l’intolérance, a appelé à un moratoire sur l’utilisation de certaines technologies de surveillance utilisées dans les programmes de « frontières intelligentes », révèle The Guardian.

Dans un rapport à paraître, elle qualifie de « troublants » les détecteurs de mensonge dans les aéroports européens, les scans oculaires effectués dans les camps de réfugiés ou les logiciels de reconnaissance vocale utilisés dans les demandes d’asile. Elle estime que ces technologies peuvent en outre être injustes et enfreindre les droits de l’homme.

Elle a également cité les efforts de Donald Trump pour construire un mur entre les États-Unis et le Mexique : « il s’avère que les décès aux frontières ont augmenté dans les endroits où des frontières intelligentes ont été mises en place ».

Petra Molnar, du Refugee Law Lab de Toronto, qui a contribué au rapport du rapporteur de l’ONU, a noté dans ses propres recherches l’impact déshumanisant de certaines technologies sur les personnes déplacées . Un demandeur d’asile, avec qui elle s’est entretenue en Belgique, a déclaré que la quantité de données personnelles auxquelles il avait renoncé lui faisait se sentir « comme un morceau de viande sans vie, juste des empreintes digitales et des scans oculaires ».

« L’un des messages clés du rapport est que nous devons être très attentifs à l’impact disparate de cette technologie et pas seulement supposer que parce que la technologie va être juste ou neutre ou objective d’une manière ou d’une autre ».

« La collecte de données n’est pas un exercice apolitique », note le rapport d’Achiume, « en particulier lorsque de puissants acteurs du Nord mondial collectent des informations sur les populations vulnérables sans méthodes réglementées de surveillance et de responsabilité. »

L’année dernière, le Programme alimentaire mondial des Nations Unies s’est ainsi associé à Palantir Technologies, rappelle The Guardian, sur un contrat de 45 millions de dollars, partageant les données de 92 millions de bénéficiaires de l’aide.

Achiume a déclaré que jusqu’à ce que l’impact des technologies de surveillance sur les droits de l’homme puisse être compris, l’utilisation de ces technologies devrait être interrompue. « Jusqu’à ce que nous puissions comprendre et atténuer ces préjudices, il devrait y avoir un moratoire à leur encontre. »

#Reconnaissance_faciale #Migrants #Droits_humains #Frontières

UN warns of impact of smart borders on refugees: ‘Data collection isn’t apolitical’

Special rapporteur on racism and xenophobia believes there is a misconception that biosurveillance technology is without bias

Robotic lie detector tests at European airports, eye scans for refugees and voice-imprinting software for use in asylum applications are among new technologies flagged as “troubling” in a UN report.

The UN’s special rapporteur on racism, racial discrimination, xenophobia and related intolerance, Prof Tendayi Achiume, said digital technologies can be unfair and regularly breach human rights. In her new report, she has called for a moratorium on the use of certain surveillance technologies.

Achiume, who is from Zambia, told the Guardian she was concerned about the rights of displaced people being compromised. She said there was a misconception that such technologies, often considered “a humane” option in border enforcement, are without bias.

“One of the key messages of the report is that we have to be paying very close attention to the disparate impact of this technology and not just assuming that because it’s technology, it’s going to be fair or be neutral or objective in some way.”

She cited the example of pushback against Donald Trump’s effort to build a wall between the US and Mexico. “You see that there isn’t a similar sense of outrage when digital technologies are deployed to serve the same function … if you actually look at some of the statistics, and if you look at some of the research, which I cite in my report, it turns out that border deaths have increased in places where smart borders have been implemented.”

She also raised concerns about the ways in which humanitarian agencies are engaging with surveillance. The report notes that in Afghanistan, the UN refugee agency (UNHCR) requires returning refugees to undergo iris registration as a prerequisite for receiving assistance.

While the UNHCR has justified the use of this technology as a way to prevent fraud, “the impact of processing such sensitive data can be grave when systems are flawed or abused”, the report said.

Last year the UN’s World Food Programme partnered with Palantir Technologies, a data mining company, on a $45m (£34m) contract, sharing the data of 92 million aid recipients.

“Data collection is not an apolitical exercise,” notes Achiume’s report, “especially when powerful global north actors collect information on vulnerable populations with no regulated methods of oversights and accountability.”

Covid-19 has also accelerated “biosurveillance” – focused on tracking people’s movements and health. Biosurveillance has everyday uses, such as the “track and trace” app in the UK, but there are concerns about the regulation of large-scale data harvested from populations.

One example is the “Covi-Pass”, a health passport developed by Mastercard and Gavi, a private-public health alliance, that is reportedly due to be rolled out across west Africa. The UN report highlighted the implications of such passports for freedom of movement, “especially for refugees”.

Petra Molnar from the Refugee Law Lab in Toronto said it was clear that the pandemic was increasing digital rights violations. “State responses to the pandemic are exacerbating the turn towards biosurveillance, with refugees and people on the move acting as communities on which to test various interventions and fast-track tech development,” she said.

Molnar, who contributed to the UN rapporteur’s report, has noted the dehumanising impact of some technologies on displaced people in her own research. One asylum seeker she spoke to in Belgium said the amount of personal data he’d given up made him feel, “like a piece of meat without a life, just fingerprints and eye scans”.

“Our conversations with refugees and people crossing borders show how little attention is being paid to the lived experiences of people who are at the sharp edges of these high-risk technological experiments,” said Molnar.

The intersection of technology and human rights violations were highlighted in a recent investigation into the European border agency Frontex, which allegedly witnessed pushbacks of migrants in the Aegean Sea via some of its assets, including drones.

Konstantinos Kakavoulis from Homo Digitalis, a Greek organisation focused on digital rights, said technologies often outpaced the legal framework.

“There is no clear regulation for the use of drones or body-worn cameras by the Greek police,” he said. “The police have signed a contract for the provision of a facial recognition software with Intracom Telecom, a Greek company, without receiving the opinion of the Greek data protection authority.”

He added: “Apart from the insufficiency of legal safeguards, we also lack transparency; and this is not only remarkable, but highly problematic.”

Achiume said that until the impact of surveillance technologies on human rights could be understood, use of such technologies should be halted. “Until we can understand and mitigate those harms, there should just be a moratorium on them.”

▻https://www.theguardian.com/global-development/2020/nov/11/un-warns-of-impact-of-smart-borders-on-refugees-data-collection-isnt-ap

#frontières #smart_borders #frontières_intelligentes #réfugiés #asile #migrations #technologie #politique #biopolitique #technologies_digitales #droits_fondamentau #droits_humains #surveillance #contrôles_frontaliers #neutralité #Palantir_Technologies #données #biosurveillance #Covi-Pass #Mastercard #Gavi #complexe_militaro-industriel #covid-19 #coronavirus #reconnaissance_faciale #Intracom_Telecom

ping @karine4 @isskein @etraces @thomas_lacroix

[vidéo] « Pourtant la ville t’appartient » | Mačko Dràgàn
▻https://technopolice.fr/blog/pourtant-la-ville-tappartient-un-film-pour-enrayer-la-machine-technopol

C’est quoi, un espace public ? Pour le pouvoir c’est un lieu à gentrifier, privatiser, fliquer. Pour nous, habitant.e.s des quartiers, précaires, sans-abris, squatteurs, artistes de rue, manifestant.e.s, c’est un lieu de vie. Nous avons donné la parole à ces invisibles, afin de voir ce que nous avons perdu –et ce qu’il nous faut reprendre. Parce qu’on peut vivre ensemble. Sans répression. Durée : 1h22. Source : Technopolice

À l’aéroport de Lyon, Vinci banalise la reconnaissance faciale
▻https://technopolice.fr/blog/a-laeroport-de-lyon-vinci-banalise-la-reconnaissance-faciale

L’expérimentation de reconnaissance faciale lancée la semaine dernière par Vinci Airports est un nouveau pas vers la banalisation des technologies de surveillance biométrique. Grâce aux financements de l’Etat et au soutien implicite de la Cnil, l’entreprise Idemia a pu déployer sans inquiétude son dispositif biométrique dans l’espace public. Nulle doute qu’elle et les autres entreprises de la Technopolice sauront en profiter. Lundi 5 octobre, l’entreprise Vinci Airports a annoncé le lancement d’une (...)

#Vinci #algorithme #CCTV #biométrie #facial #reconnaissance #vidéo-surveillance #surveillance # #LaQuadratureduNet (...)

##_ ##Technopolice

https://technopolice.fr/wp-content/uploads/2020/06/Site.jpg

L’#artiste #Paolo_Cirio affiche des visages de policiers dans Paris pour dénoncer la reconnaissance faciale
►https://information.tv5monde.com/info/l-artiste-paolo-cirio-affiche-des-visages-de-policiers-dans-pa

La #pétition pour « bannir la #reconnaissance_faciale en Europe » a recueilli près de 14 000 signatures. Le #hacker militant et artiste Paolo Cirio y participe grâce à une performance bien particulière, en placardant à travers la capitale française des centaines d’affiches de visages de policiers récupérés sur Internet. Entretien.
Paolo Cirio est très connu dans le milieu des défenseurs de la vie privée sur Internet. Il l’est moins du grand public, ce qui pourrait changer après sa performance artistique urbaine nommée "Capture "et lancée ce premier octobre 2020.

►https://www.laquadrature.net/2020/09/22/nous-soutenons-la-petition-pour-bannir-la-reconnaissance-faciale-en-eu

pétition :
▻https://ban-facial-recognition.wesign.it/droitshumains/bannissons-la-reconnaissance-faciale-en-europe#sign

L’artiste Paolo Cirio affiche des visages de policiers dans Paris pour dénoncer la reconnaissance faciale.
►https://information.tv5monde.com/info/l-artiste-paolo-cirio-affiche-des-visages-de-policiers-dans-pa

https://d16kd6gzalkogb.cloudfront.net/__sized__/artist_images/Paolo-Cirio-artist-photo-credits-Future-Everything-crop-c0-5__0-5-555x312-70.jpg

Paolo Cirio — pour son dernier projet nommé Capture — a créé une base de données contenant 4000 visages de policiers français pour les identifier avec une technologie de reconnaissance faciale, via sa plateforme ▻https://capture-police.com. Ce jeudi premier octobre 2020, l’artiste effectue donc une performance de « street art » en dévoilant une partie des portraits des officiers de police tirés de sa plateforme, affichés un peu partout dans la capitale française.

J’ai choisi le mot Capture parce qu’il est court et qu’il résume bien le concept qu’il y a derrière la reconnaissance faciale. Particulièrement lorsque cette technologie est utilisée par la police. Ils l’utilisent pour capturer des criminels, des manifestants, pour les attraper, donc les capturer grâce à des logiciels et des caméras.

Quand vous capturez un visage avec un appareil photo vous faites la même chose que ce que fait la police qui tente de capturer quelqu’un. C’est comme ça que m’est venue l’idée de ce projet Capture, en utilisant des photos de visages de policiers, des visages que j’ai capturés moi aussi, sur le Net.

Tout le monde doit être inquiet par l’émergence de cette technologie qui va permettre la surveillance de masse, les analyses des comportements, des émotions des gens dans la rue, comme en Chine.

J’ai en fait renversé le procédé de la reconnaissance faciale en l’utilisant contre ceux qui normalement l’utilisent contre des citoyens, c’est-à-dire les policiers. Je veux démontrer que cette technologie est très puissante et qu’elle peut être utilisée par des activistes, des citoyens, mais aussi par des criminels ou des terroristes, et ce, contre la police.

Cela peut ressembler à une grosse provocation, mais en fait, cela peut-être aussi pris comme une manière de protéger la police en leur montrant les dangers de cette technologie. En fait, j’aimerais que les policiers signent eux aussi la pétition pour bannir la reconnaissance faciale en Europe.

L’essor des réseaux de caméras intelligentes, et pourquoi nous devrions les interdire
▻https://www.les-crises.fr/l-essor-des-reseaux-de-cameras-intelligentes-et-pourquoi-nous-devrions-le

Source : The Intercept, Michael Kwet La #Reconnaissance_Faciale inquiète un peu partout. Qu’on puisse, par caméra, suivre nos moindres mouvements en public préoccupe beaucoup plus que l’existence et la prévalence exponentielle des réseaux de vidéosurveillance « intelligents », alors qu’il s’agit d’un sujet tout aussi inquiétant. Les ménages et les sociétés privées commencent à connecter leurs caméras sur les réseaux policiers, et les rapides progrès de l’intelligence artificielle donnent aux réseaux de télévision en circuit fermé le pouvoir de surveiller la totalité de l’espace public. Dans un avenir pas si lointain, nos forces de police, nos magasins, et notre administration municipale espèrent pouvoir filmer notre moindre mouvement, et même mieux, l’interpréter par le biais de l’analyse des métadonnées. (...)

#Libertés_Publiques #Surveillance_de_masse #Libertés_Publiques,_Reconnaissance_Faciale,_Surveillance_de_masse

https://www.les-crises.fr/wp-content/uploads/2020/05/Capture-d’écran-2020-05-26-à-20.44.59-760x400.png

Racisme policier : les géants du Net font mine d’arrêter la reconnaissance faciale
▻https://www.laquadrature.net/2020/06/22/racisme-policier-les-geants-du-net-font-mine-darreter-la-reconnaissanc

À un moment où l’institution policière est remise en question, les multinationales de la sécurité tentent de se racheter une image par des effets d’annonce : elles arrêteraient la reconnaissance faciale car la technologie ne serait…

#Non_classé

Les réseaux politiques de Benalla lui ouvrent le marché de la reconnaissance faciale - Page 1 | Mediapart
▻https://www.mediapart.fr/journal/france/100620/les-reseaux-politiques-de-benalla-lui-ouvrent-le-marche-de-la-reconnaissan

En pleine pandémie du Covid-19, Alexandre Benalla a mis un pied dans le marché de la reconnaissance faciale, secteur en pleine expansion en France, notamment pour ses applications en matière de sécurité, grâce au concours de plusieurs intermédiaires politiques, selon les informations de Mediapart.

En pleine pandémie du Covid-19, Alexandre Benalla a mis un pied dans le marché de la reconnaissance faciale, secteur en pleine expansion en France, notamment pour ses applications en matière de sécurité, grâce au concours de plusieurs intermédiaires politiques, selon les informations de Mediapart : l’ancien collaborateur du député Joachim Son-Forget et l’homme d’affaires Yazid Sabeg, ex-commissaire à la diversité de Nicolas Sarkozy.

L’ancien collaborateur d’Emmanuel Macron a été reçu une première fois, mardi 26 mai, à Suresnes (Hauts-de-Seine), dans les locaux de la société française « XXII », une jeune entreprise française qui développe la technologie prometteuse de « vision par ordinateur » (une branche de l’intelligence artificielle qui permet le traitement de données visuelles).

Fondée en 2016, l’entreprise travaille notamment avec Airbus, Safran, Total, Aéroports de Paris ou des collectivités territoriales, en vue de développer des « safe cities », des réseaux urbains sécurisés par la reconnaissance faciale.

Alexandre Benalla a été introduit auprès de XXII par l’ex-assistant parlementaire du député des Français de l’étranger Joachim Son-Forget, un certain Romain Chantemargue. Ce dernier, âgé de 20 ans, et ancien stagiaire chez XXII, vient d’être élu aux municipales dans la commune de Cormeilles-en-Parisis (Val-d’Oise). Il présidait, jusqu’au 2 juin, le micro-parti « Valeur absolue », fondé par Son-Forget après sa démission fracassante de La République en marche, en décembre 2018.

L’ancien chargé de mission élyséen a rencontré l’assistant « à l’automne dernier », par l’intermédiaire de Joachim Son-Forget. Le jeune homme lui aurait d’abord offert ses services pour s’occuper de la certification de ses comptes sur les réseaux sociaux « gratuitement », « à titre amical », précise à Mediapart Alexandre Benalla. Puis il lui aurait proposé de rencontrer le patron de la start-up XXII, William Eldin.

Pour Romain Chantemargue, il s’agissait de valoriser XXII, qui « est le seul acteur à faire de l’intelligence artificielle avec de la vision par ordinateur dans le domaine de la sécurité ». « C’est quelque chose qui se développe énormément. En Chine, en Israël avec Anyvision [voir ce documentaire ►https://www.arte.tv/fr/videos/083310-000-A/tous-surveilles-7-milliards-de-suspects sur le leader mondial de la reconnaissance faciale, proche des services de sécurité israéliens – ndlr]. En France, il y a XXII », explique à Mediapart le jeune homme, passionné d’informatique.

Dans un premier temps, l’assistant parlementaire avait prévu d’organiser un rendez-vous entre XXII et Emmanuel Macron. « Romain Chantemargue m’a dit : “Je pourrais te faire rencontrer le président, ce serait cool.” Je dis : vas-y, go pour le président », confirme à Mediapart William Eldin, enthousiaste à l’idée de présenter au chef de l’État les enjeux de la technologie qu’il développe. « On a abordé le sujet ensemble avec William Eldin. J’ai dit que ça peut être intéressant de proposer au chef de cabinet une rencontre entre le président et une start-up qui travaille sur ce sujet », justifie l’assistant, en assurant toutefois qu’il s’agit d’une « réflexion » qui n’a pas abouti à ce stade.

Contacté, l’Élysée n’a pas souhaité faire de commentaires.

Quelques jours plus tard, le projet a changé de dimension. « Au dernier moment ça s’est réorienté, Romain Chantemargue m’a envoyé un message en me disant : “Et Alexandre Benalla ça te tente de le voir ?” », raconte William Eldin. Le patron de XXII accepte la proposition en se disant qu’Alexandre Benalla « n’est pas loin du président » et qu’il dispose d’un réseau important dans le domaine de la sécurité.

Aucun projet concret n’a été acté lors de cette première rencontre du 26 mai. « Alexandre Benalla pense que j’ai une pépite dans les mains. Il m’a dit qu’il voit très bien le genre de cas d’utilisation qui pourraient lui être utiles », explique William Eldin. Romain Chantemargue explique ne pas avoir été rémunéré pour organiser ce rendez-vous : « Je ne suis pas payé par Alexandre, répond-il. J’ai une relation purement de travail avec lui. Si je peux faire des mises en relation autant le faire. Alexandre est quelqu’un d’adorable et très sérieux. »

Selon le patron de XXII, l’ancien collaborateur du président a notamment indiqué « qu’il agissait beaucoup dans des pays étrangers ». Alexandre Benalla indique à Mediapart que cette rencontre a eu lieu dans le cadre du « développement » des activités de sa société, Comya Group, qui « est basée au Maroc » et qu’il est en train « de rebaser en France ». « [Le but] c’est de développer des propositions et des solutions vis-à-vis de mes clients : solutions globales de sécurité, solutions intégrées, cybersécurité, reconnaissance faciale, digitalisation des smart cities », détaille-t-il.

Cette rencontre, dit-il, « n’intervenait en aucun cas dans le cadre d’un quelconque rapport avec M. Macron ». « Si à un moment l’Élysée a été abordé, c’est par M. Eldin, qui a soulevé le fait qu’il adorerait rencontrer Emmanuel Macron, et je n’ai pas répondu à cette phrase d’ailleurs », ajoute-t-il.

L’ex-collaborateur d’Emmanuel Macron souligne n’avoir « plus de liens avec l’Élysée ». « Je ne veux plus avoir de liens avec aucun politique, aucun collaborateur, ça m’a apporté et ça m’apporterait plus de problèmes que de solutions. Je bosse aujourd’hui à titre privé, personnel, avec ma boîte. [...] Je développe mes activités de manière tout à fait – non pas transparente, parce que c’est un domaine qui n’est pas transparent –, mais en tout cas de manière légale. »

Ses marges de manœuvre sont en tout cas, en théorie, très limitées : comme l’avait révélé Mediapart ▻https://www.mediapart.fr/journal/france/160419/la-commission-de-deontologie-interdit-certaines-activites-alexandre-benall, la commission de déontologie de la fonction publique (CDFP) lui a interdit d’entretenir toute relation professionnelle avec des services publics de sécurité français ou avec des autorités publiques étrangères. Ces interdictions sont valables trois ans à compter du départ de M. Benalla de la présidence, soit jusqu’au 1er août 2021, mais – preuve supplémentaire de la faiblesse des dispositifs de contrôle en France – elles ne font l’objet d’aucune vérification systématique.

Depuis son départ de l’Élysée après sa mise en cause pour des violences volontaires, l’ancien chargé de mission élyséen est concerné par plusieurs procédures judiciaires ▻https://www.mediapart.fr/journal/france/220120/benalla-un-temoin-cle-implique-l-elysee-dans-l-affaire-des-coffres (violences du 1er Mai, selfie armé, passeports diplomatiques, contrats russes, soupçons de « faux témoignage », disparition du coffre-fort, absence de déclaration auprès de la HATVP) et mis en examen dans plusieurs d’entre elles.

Alexandre Benalla affirme respecter « complètement » l’avis de la CDFP en ne travaillant « pas pour la sphère publique, pas pour des clients nationaux en France » mais « à l’international », et que pour « des personnes physiques ou morales privées ». Mais « dans un an, j’aurai la possibilité à nouveau de pouvoir dialoguer, proposer des offres commerciales à des entités, des États publics étrangers », précise-t-il. Actuellement, il maintient des contacts noués « avant l’Élysée », « à titre personnel, avec des chefs d’État étrangers », et qui « n’ont aucun lien et aucune incidence sur le professionnel », dit-il.

Signe de son intérêt pour les technologies de XXII, Alexandre Benalla est revenu dès le lendemain du premier rendez-vous, mercredi 27 mai, au siège de la start-up. Encore entouré de Romain Chantemargue, l’ancien collaborateur d’Emmanuel Macron était cette fois accompagné de Yazid Sabeg, PDG de CS Group, une société de services informatiques et de cybersécurité.

« J’ai reçu un petit message qui me disait : “William, on veut revenir avec quelqu’un d’important.” Moi je croyais que c’était Emmanuel Macron », explique M. Eldin.

Yazid Sabeg n’est pas un simple entrepreneur. Ce patron d’origine algérienne est avant tout un homme de réseaux, qui cultive un épais carnet d’adresses, au carrefour de la politique et des affaires. Apparu sur le devant de la scène en 2004, à la faveur d’un livre déroulant ses propositions pour lutter contre les discriminations (Les Oubliés de l’égalité des chances issu d’un rapport commandé par l’Institut Montaigne ▻https://www.institutmontaigne.org/publications/les-oublies-de-legalite-des-chances ), Sabeg fut, entre 2008 et 2012, le commissaire à la diversité et à l’égalité des chances de Nicolas Sarkozy.

Il est aussi un proche de longue date de l’homme d’affaires franco-algérien Alexandre Djouhri – protagoniste clé de l’affaire Sarkozy-Kadhafi, mis en examen pour neuf délits présumés, dont « corruption active », « complicité de détournement de fonds publics » et « blanchiment ». Sous la présidence de Nicolas Sarkozy, le trio s’est rencontré à plusieurs reprises, comme en attestent les agendas de l’ex-chef de l’État, saisis dans le cadre de l’affaire Bettencourt ▻https://www.leparisien.fr/politique/affaires-les-troublants-rendez-vous-de-sarkozy-05-04-2014-3742969.php .

Yazid Sabeg est visé depuis 2013 par une enquête préliminaire menée par le parquet national financier pour « abus de biens sociaux » dans l’affaire Altis, cette usine de puces électroniques qu’il avait reprise à la demande et avec l’argent de feu Serge Dassault. Son nom apparaît également dans l’affaire Qatar/Veolia, qui porte sur la constitution d’une caisse noire de 180 millions d’euros par le Qatar lors de son entrée au capital de Veolia (lire ici ▻https://www.mediapart.fr/journal/france/090620/%20https://www.mediapart.fr/journal/france/030415/qatar-veolia-henri-proglio-perquisitionne?onglet=full et là ▻https://www.liberation.fr/futurs/2014/10/06/l-operation-velo-de-chypre-a-singapour_1116160 ). Sabeg dit n’avoir bénéficié d’aucun « mandat ou autre contrat » lié à cette opération.

Questionné par Mediapart sur ce rendez-vous dans les locaux de XXII, Yazid Sabeg évoque une « réunion informelle » avec William Eldin, pour négocier les technologies d’acquisition visuelle de la société, « très intéressantes pour certaines de nos applications ».

Il dément en revanche « tout rendez-vous commun » et « tout projet commun » avec Alexandre Benalla, en se contredisant sur la présence de l’ex-collaborateur d’Emmanuel Macron : il explique d’abord l’avoir « croisé » de manière « fortuite » au siège de XXII, puis dit avoir été « averti de sa présence en raison de ses relations techniques avec XXII ». Il affirme que l’ancien chargé de mission élyséen, « entouré d’un ou deux collaborateurs », « était là pour d’autres sujets, pour parler de vidéosurveillance ». « Lui s’intéresse à la reconnaissance faciale, la surveillance. Moi ce n’est pas mon sujet. Nos projets avec M. Eldin n’ont rien à voir avec M. Benalla ».

Malgré ce démenti, nous avons reçu, après notre entretien, le 2 juin, avec Yazid Sabeg, des appels et messages d’Alexandre Benalla nous demandant de lui laisser « le droit de travailler ». Puis la Lettre A ▻https://www.lalettrea.fr/action-publique_executif/2020/06/09/alexandre-benalla-approche-yazid-sabeg-sur-le-creneau-de-la-cybersecurite, a annoncé, le 9 juin, des « négociations » entre Benalla, Sabeg et XXII dans ce secteur de la surveillance et de la cybersécurité.

À Mediapart, l’ancien collaborateur d’Emmanuel Macron confirme la rencontre du trio, mais affirme que ces rendez-vous « ont été des discussions de présentation et en aucun cas commerciales, de négociations ou contractuelles ».

Comment sa route a-t-elle croisé celle de Yazid Sabeg ? Alexandre Benalla dit le connaître « depuis peu », et l’avoir rencontré « bien après l’Élysée », « à cinq reprises », par l’intermédiaire d’un « cadre supérieur dans un grand groupe français privé ». De son côté, Sabeg qualifie Benalla de « relation très lointaine », et dit l’avoir « croisé une fois ou deux avant », « par hasard », via des « relations amicales communes ». « Je ne vous en dirai pas plus », coupe-t-il court. « Arrêtez, arrêtez sur ces histoires, Benalla, tout ça, je n’ai pas envie de parler de tout ça. Je n’ai pas envie de répondre. »

Tous deux démentent que cette rencontre se soit faite par l’intermédiaire d’Alexandre Djouhri, lui aussi une connaissance d’Alexandre Benalla.

Benalla a nourri une vraie fascination pour Djouhri, d’extraction populaire (comme lui) et ayant fréquenté les ors de la République (comme lui). Il était allé au contact de l’intermédiaire sarkozyste au culot, dans un célèbre restaurant japonais du quartier de Knightsbridge, à Londres, à l’automne 2018.

Questionné par Mediapart fin 2018 ▻https://www.mediapart.fr/journal/france/191218/macron-sarkozy-benalla-djouhri-les-etranges-alliances-du-nouveau-monde?ong , l’ancien collaborateur d’Emmanuel Macron avait d’abord nié connaître Alexandre Djouhri, avant d’admettre l’avoir rencontré « plusieurs fois ». Aujourd’hui, il affirme n’avoir « plus aucun lien avec M. Djouhri ». « Il ne m’a jamais présenté personne, comme moi je ne lui ai jamais présenté personne », ajoute-t-il.

#surveillance #benalla #technopolice #reconnaissance_faciale #bandits #contrôle_social #technomafia

Amazon suspend l’utilisation de sa reconnaissance faciale par la police pendant un an
▻https://www.lemonde.fr/economie/article/2020/06/11/amazon-suspend-l-utilisation-de-sa-reconnaissance-faciale-par-la-police-pend

https://img.lemde.fr/2020/05/16/662/0/4538/2269/1440/720/60/0/d4d35d7_487588837cc34817b8434461e891e756-487588837cc34817b8434461e891e756-0.jpg

La société basée à Seattle n’a pas dit pourquoi, mais les manifestations après la mort de George Floyd ont attiré l’attention sur l’injustice raciale aux Etats-Unis et sur la façon dont la police utilise la technologie pour suivre les personnes.

Amazon a annoncé, mercredi 10 juin, interdire pendant un an à la police d’utiliser son logiciel de reconnaissance faciale Rekognition, dans un contexte de manifestations contre les violences policières et le racisme aux Etats-Unis depuis deux semaines.

« Nous prônons des régulations plus strictes des gouvernements sur le recours éthique aux technologies de reconnaissance faciale, et le Congrès semble prêt à relever le défi », a indiqué le géant du commerce en ligne dans un communiqué.

Risque de cibler les minorités
L’annonce d’Amazon intervient un jour après qu’IBM a annoncé se retirer du secteur de la reconnaissance faciale – cette entreprise étant préoccupée par la façon dont la technologie peut être utilisée pour la surveillance de masse et le profilage racial.

Riconoscimento facciale, perché Como è tra le prime città a usarlo - Wired

Perché Como è diventata una delle prime città in Italia a usare il riconoscimento facciale
Il Comune ha già fatto due appalti per dotarsi di sistemi di videosorveglianza con riconoscimento facciale. Ma su che basi? L’inchiesta di Wired con le carte della gara

▻https://www.wired.it/internet/regole/2020/06/09/riconoscimento-facciale-como

https://images.wired.it/wp-content/uploads/2020/05/11132204/ComoFR4.jpg

#come #como #italie #controlefaciale #migration #gare @cdb_77

#Webinars. #COVID-19 Capitalism #Webinar Series

Since 1 April, #TNI with allies has brought together experts and activists weekly to discuss how this pandemic health crisis exposes the injustices of the global economic order and how it must be a turning point towards creating the systems, structures and policies that can always protect those who are marginalised and allow everyone to live with dignity. Every Wednesday at 4pm CET.

TNI works closely with allied organisations and partners around the world in organising these webinars. AIDC and Focus on the Global South are co-sponsors for the full series.

–—

Les conférences déjà en ligne sont ci-dessous en commentaire.

–----

Les prochains webinars:

On 10 June, TNI will hold a webinar on Taking on the Tech Titans: Reclaiming our Data Commons.

https://www.tni.org/files/styles/content_full_width/public/copy_of_copy_of_fb_event_cover_10th_june_2.png?itok=tIbBJWYX#.jpg

Upcoming webinars - Wednesdays at 4pm CET

17 June: Borders and migration
#frontières #migrations

24 June: Broken Trade System
#commerce

▻https://www.tni.org/en/webinars
#capitalisme #vidéo #conférence #coronavirus

ping @isskein @reka

Dossier / Reconnaissance faciale : Dans le viseur | Politis
▻http://www.politis.fr/dossiers/reconnaissance-faciale-dans-le-viseur-478

https://static.politis.fr/medias/articles/2020/01/reconnaissance-faciale-une-technologie-davenir-deja-la-41255/thumbnail_hero-41255.jpg

Articles du dossier :
PAR ROMAIN HAILLARD

Reconnaissance faciale : Une technologie d’avenir déjà là
Surveillance : Petites phrases pour grand sujet

Quadrature du Net : « Faire du visage une clé instaure une société du suspect. »

#Reconnaissance_faciale #Surveillance

How Well Can Algorithms Recognize Your Masked Face? | WIRED
▻https://www.wired.com/story/algorithms-recognize-masked-face

https://media.wired.com/photos/5ea9d268640d500008d511c5/191:100/w_1280,c_limit/Biz-maskman-1217070531.jpg

Facial-recognition algorithms from Los Angeles startup TrueFace are good enough that the US Air Force uses them to speed security checks at base entrances. But CEO Shaun Moore says he’s facing a new question: How good is TrueFace’s technology when people are wearing face masks?

“It’s something we don’t know yet because it’s not been deployed in that environment,” Moore says. His engineers are testing their technology on masked faces and are hurriedly gathering images of masked faces to tune their machine-learning algorithms for pandemic times.

Some vendors and users of facial recognition say the technology works well enough on masked faces. “We can identify a person wearing a balaclava, or a medical mask and a hat covering the forehead,” says Artem Kuharenko, founder of NtechLab, a Russian company whose technology is deployed on 150,000 cameras in Moscow. He says that the company has experience with face masks through contracts in southeast Asia, where masks are worn to curb colds and flu. US Customs and Border Protection, which uses facial recognition on travelers boarding international flights at US airports, says its technology can identify masked faces.

But Anil Jain, a professor at Michigan State University who works on facial recognition and biometrics, says such claims can’t be easily verified. “Companies can quote internal numbers, but we don’t have a trusted database or evaluation to check that yet,” says. “There’s no third-party validation.”

Early in March, China’s SenseTime, which became the world’s most valuable AI startup in part through providing face recognition to companies and government agencies, said it had upgraded its product for controlling access to buildings and workplaces to work with face masks. The software attends to facial features left uncovered, such as eyes, eyebrows, and the bridge of the nose, a spokesperson said. The US restricted sales to SenseTime and other Chinese AI companies last year for allegedly supplying technology used to oppress Uighur Muslims in China’s northwest.

Reports from China of the systems’ effectiveness with masks are mixed. One Beijing resident told WIRED she appreciated the convenience of not having to remove her mask to use Alipay, China’s leading mobile payments network, which has updated its facial-recognition system. But Daniel Sun, a Gartner analyst also in Beijing, says he has had to step out of crowds to pull down his mask to use facial recognition for payments. Still, he believes facial recognition will continue to grow in usage, perhaps helped by interest in more hygienic, touch-free transactions. “I don’t think Covid-19 will stop the increase in usage of this technology in China,” Sun says.

#Reconnaissance_faciale

Fooling Facial Detection with Fashion

Usage of facial recognition is on the rise. With the recent debates over the ethics of facial recognition potential adversarial attacks against facial detection have been on my mind. Facial recognition is being used everywhere from airports to social media. It seems to be near impossible to opt-out of having your face scanned.

An ideal attack on facial detection would be an article of clothing that looks inconspicuous to the uninformed. With inspiration from the Hyperface project I decided to research and implement a wearable adversarial example. In this article I’ll detail the process of creating an adversarial image to fool a selected type of facial detection and how I implemented a practical example on a face mask.

https://towardsdatascience.com/fooling-facial-detection-with-fashion-d668ed919eb

https://github.com/BruceMacD/Adversarial-Faces

https://raw.githubusercontent.com/BruceMacD/Adversarial-Faces/master/data/mock_mask.png

#surveillance #vidéo-surveillance #reconnaissance_faciale #Hyperface_project #biométrie #CCTV #algorithme #Surveillance #intelligence_artificielle

Dans les universités, la tentation de la télésurveillance des examens - Page 1 | Mediapart
▻https://www.mediapart.fr/journal/france/010520/dans-les-universites-la-tentation-de-la-telesurveillance-des-examens

Faute de pouvoir organiser des partiels classiques pour cause de risque sanitaire, certaines universités réfléchissent à une télésurveillance des examens, via des prestataires privés. Un dispositif contesté et coûteux, que le gouvernement encourage.

Évaluera ou n’évaluera pas ? « Pour l’instant, c’est les grandes négociations », glisse un vice-président d’une université parisienne. Depuis le début du mois d’avril, les discussions sur les modalités d’examen font rage dans les facultés, qui ne rouvriront pas leurs portes avant la rentrée de septembre.

Mercredi 22 avril, la ministre de l’enseignement supérieur Frédérique Vidal, dans une interview accordée à 20 Minutes, a recommandé d’organiser « un maximum d’épreuves ne nécessitant pas la présence physique des étudiants sur les campus », tout en estimant que les modalités de ces épreuves relevaient de la « liberté pédagogique » des établissements.

Les votes s’enchaînent dans les CFVU, les commissions chargées des règles des examens dans chaque université. Une partie des syndicats étudiants, comme l’Unef, s’opposent à l’organisation de partiels classiques, certains réclamant une neutralisation du semestre ou l’instauration du « 10 améliorable » (validation automatique du semestre, avec une note minimale de 10 pour tous les étudiants). Des demandes irrecevables pour la plupart des établissements, qui souhaitent maintenir une forme d’évaluation et mettent sur pied les modalités filière par filière.

La plupart des universités ont déjà annoncé vouloir privilégier le contrôle continu et adapter fortement les examens de fin d’année. À l’université Lumière-Lyon II, la consigne est d’éviter ou d’alléger autant que possible les examens « en temps contraint », explique Valérie Haas, vice-présidente à la formation. Les enseignants sont donc invités à privilégier des « devoirs maison », sans que l’étudiant ne soit obligé de se connecter à une heure fixe. Certains étudiants pourront bénéficier d’un accès à l’examen « pendant 24 heures ». Le tout en passant par des plateformes comme Moodle, installées dans la plupart des universités.

D’autres établissements ont déjà annoncé l’organisation d’examens à distance, selon des modalités très diverses, comme les universités de Bretagne (UBO), de Nancy, de Lille ou de Rouen. Avec une inquiétude : ces partiels ne risquent-ils pas d’entraîner une hausse des fraudes et de mettre en péril la sacro-sainte valeur des diplômes ? C’est sur cette angoisse que cherchent à se positionner les entreprises spécialisées dans la télésurveillance des examens.

Pour réduire les risques de triche, le ministère de l’enseignement supérieur conseille aux universités de privilégier les épreuves « simples » et courtes, comme des questionnaires à choix multiples (QCM), ou au contraire des examens mettant l’accent sur « l’esprit critique », moins propices au copier-coller. « Il s’avère difficile d’éviter la recherche d’informations sur le Web », note-t-il, lucide.

Les disciplines comptant peu d’étudiants pourraient aussi s’orienter vers l’organisation d’oraux par visioconférence, qui permettent de vérifier l’identité du candidat. Mais, dans des facultés comptant souvent des centaines d’étudiants par amphithéâtre, la surveillance des partiels reste une grande illusion. D’où la tentation de recourir à des prestataires extérieurs.

Dès le début du confinement, le ministère de l’enseignement supérieur a transmis aux universités une fiche mentionnant les noms de plusieurs entreprises spécialisées dans la télésurveillance d’examens, en précisant les volumes de partiels pouvant être organisés et les tarifs pratiqués, de l’ordre de 10 euros par heure d’examen et par étudiant en moyenne. Une manière de mettre l’option sur la table, sans remettre en cause la liberté de choix des établissements.

Techniquement, les détails divergent, mais la plupart des entreprises listées par le ministère proposent une captation d’image. « D’abord, l’étudiant installe le logiciel et l’autorise à fermer toutes les autres applications. Ensuite il se prend en photo avec sa carte d’identité », explique Benoît Sillard, PDG de TestWe, l’une des sociétés citées par le ministère.

« Pendant l’examen, une photo est prise toutes les quelques secondes. Cela forme un mini-film qui est automatiquement analysé pour détecter des anomalies : un autre visage qui apparaît ou l’étudiant qui s’en va. Dans ce cas, une vérification est faite par une personne physique pour voir ce qu’il s’est passé », détaille l’entrepreneur, lui-même passé par les ministères de l’éducation nationale et de la recherche en tant que spécialiste numérique au début des années 2000. Ces surveillants peuvent être fournis par les universités ou par les prestataires, moyennant finance.

Contacté par Mediapart, le ministère de l’enseignement supérieur et de la recherche minimise le recours à ce type de prestation : « Le nombre d’établissements ayant prévu de recourir aux examens télésurveillés devrait être limité. Il s’agirait majoritairement d’écoles, et dans une moindre mesure d’universités. » Les facultés de médecine ou de pharmacie, en particulier, pourraient être tentées par le dispositif.

Le ministère estime que l’ordonnance du 27 mars « donne aux établissements assez de souplesse pour organiser les évaluations sous des formes variées », citant notamment « l’organisation d’oraux en visioconférence ou de quizz à questions et réponses aléatoires », et que la plupart des solutions envisagées rendent « le risque de triche très faible et donc ne nécessitent pas de recours à la télésurveillance ».

Reste que le sujet suscite de vives oppositions dans les universités, où chaque UFR – ou filière disciplinaire – dispose d’une certaine marge de manœuvre. « Nous voulions interdire l’organisation d’examens synchrones [en temps réel] », raconte Jennifer Buyck, élue du syndicat Snesup à la CFVU de l’université Grenoble-Alpes, qui soulève des objections éthiques et pratiques à la télésurveillance : fracture numérique pour de nombreux étudiants, mauvaises conditions de travail au domicile, accentuation de la précarité en période de confinement, logiciel jugé intrusif et liberticide…

« Le point commun entre tout ça, c’est une rupture d’égalité des étudiants », souligne l’enseignante-chercheuse, dont la proposition a été rejetée. « Il n’y a pas de garde-fous », s’inquiète-t-elle.

Des reproches injustifiés, tente de pondérer Benoît Sillard, qui estime que les examens encadrés par sa société sont « exactement les mêmes, en dématérialisé, que dans une salle de cours ». Le PDG de TestWe affirme avoir été très sollicité par des établissements du supérieur ces dernières semaines et avoir déjà organisé plusieurs milliers d’examens surveillés. « Les grandes écoles ont vite basculé », résume-t-il, rappelant que sa société a déjà travaillé avec l’ENA ou de grosses écoles de commerce comme l’EM Lyon. « C’est plus long du côté des facs », admet-il, tout en assurant être en « négociations très avancées » avec plusieurs universités.

Ces dernières années, des universités ont déjà eu recours à ce type de télésurveillance pour contourner des blocages dus à des mouvements étudiants. C’est le cas à Nanterre ou à l’université Paul-Valéry de Montpellier, où des examens à distance se sont tenus au printemps 2018 après le rejet d’un recours administratif déposé par des syndicats étudiants.

Ailleurs, la télésurveillance est expérimentée à petite échelle, notamment pour les étudiants dans l’impossibilité d’assister aux examens pour raisons professionnelles ou médicales. Ce devait être le cas cette année pour certaines licences de langue à Nancy, où les étudiants volontaires se voyaient demander le paiement de 200 euros de frais « non remboursables » pour bénéficier de ce service, confié par l’université de Lorraine à la société Managexam.

La société vend aussi son outil à l’université de Caen, présentée comme « en pointe sur la question » par le ministère, tout comme Sorbonne-Université, qui travaille avec Proctorexam, un concurrent.

À l’université de Caen, le dispositif est expérimenté depuis plusieurs années sur « une petite centaine d’étudiants », sur les 30 000 que compte l’université, précise son président, Pierre Denis. Essentiellement dans le cadre de formations à distance, par exemple pour des étudiants résidant à l’étranger. « Nous n’envisageons pas d’étendre ce système massivement », affirme-t-il, s’exprimant également au nom de la conférence des présidents d’université (CPU). « Avec la fracture numérique, ce ne serait ni adapté, ni éthique, ni peut-être même faisable », estime-t-il.

Selon un sondage en cours de finalisation réalisé par l’université de Caen, au moins 5 % des effectifs, soit 1 500 étudiants, ne sont actuellement pas dans des conditions leur permettant de passer des examens. Des solutions techniques (clefs 4G, autorisations de déplacement) ou organisationnelles (évaluation décalée ou par oral) sont actuellement à l’étude.

L’université d’Aix-Marseille a déjà acté qu’elle n’aurait pas recours à la télésurveillance d’examens et qu’elle s’orienterait principalement vers le contrôle continu. « Nous distribuons 1 500 colis alimentaires par semaine. Près de 600 étudiants n’ont pas un accès numérique satisfaisant, les conditions d’égalité n’étaient pas réunies pour organiser des examens », détaille Éric Berton, président d’Aix-Marseille Université (AMU).

Un choix qui est aussi économique. Lionel Nicod, le vice-président à la formation de l’AMU, a fait ses comptes : « On arrivait à 1,6 million d’euros rien que pour les premières années de licence. Entre dépenser cette somme pour des examens ou la garder pour soutenir nos étudiants à la rentrée, le choix a été vite fait. » Les tarifs indicatifs recensés par le ministère auprès des différentes entreprises varient de 1,50 euro pour des « examens non surveillés », ressemblant à une simple visioconférence, jusqu’à 17 euros par étudiant et par examen, si l’entreprise fournit les surveillants.

Le gouvernement a trouvé une parade pour réduire ces coûts prohibitifs : une sorte de commande groupée. Le ministère de l’enseignement supérieur indique à Mediapart que la Fédération inter-universitaire de l’enseignement à distance (Fied) propose une adhésion gratuite à tous les établissements du supérieur. Une action « discutée » avec les services du ministère, précise-t-il.

L’opération doit permettre aux établissements de passer une sorte de commande groupée et de « profiter du contrat cadre que la Fied a passé avec la société Managexam et permettant un tarif préférentiel de 1 euro HT l’examen (par étudiant) réalisé en télésurveillance par prise de photos […]. Compte tenu du fait que le recours à la télésurveillance ne sera pas massif, cela restera très acceptable dans les coûts », détaille le ministère.

Même avec une réduction, l’idée fait bondir Mélanie Luce, présidente de l’Unef. « Les étudiants sont dans des situations très précaires, sans emploi ni droits au chômage ou au RSA, vivent parfois dans des taudis ou peinent à se nourrir, et on serait prêts à dépenser des millions d’euros pour nous forcer à passer des examens télésurveillés ? C’est aberrant. » Et le temps presse pour les universités, qui doivent se positionner ces semaines-ci sur la question : selon la loi, elles doivent informer les étudiants des modalités d’évaluation choisies au moins 15 jours avant la date de l’examen.

#université #facs #ESR #surveillance #examens #reconnaissance_faciale

Crise sanitaire : la Technopolice envahit l’université
▻https://www.laquadrature.net/2020/04/30/crise-sanitaire-la-technopolice-envahit-luniversite

Dans le contexte de la pandémie, le gouvernement recommande officiellement aux établissements d’enseignement supérieur la télésurveillance des examens à l’aide de dispositifs invasifs, discriminants et manifestement illégaux : reconnaissance faciale, vidéosurveillance par webcam et smartphone, détection…

#Surveillance