• Prédire les flux migratoires grâce à l’intelligence artificielle, le pari risqué de l’Union européenne
    https://disclose.ngo/fr/article/union-europeenne-veut-predire-les-flux-migratoires-grace-a-lintelligence-a

    Depuis plusieurs mois, l’Union européenne développe une intelligence artificielle censée prédire les flux migratoires afin d’améliorer l’accueil des migrants sur son sol. Or, selon plusieurs documents obtenus par Disclose, l’outil baptisé Itflows pourrait vite se transformer en une arme redoutable pour contrôler, discriminer et harceler les personnes cherchant refuge en Europe. Lire l’article

    • C’est un logiciel qui pourrait sa place dans une dystopie. Une intelligence artificielle capable de compiler des milliers de données afin de prédire des flux migratoires et identifier les risques de tensions liées à l’arrivée de réfugiés aux frontières de l’Europe. Son nom : Itflows, pour « outils et méthodes informatiques de gestion des flux migratoires ». Financé à hauteur de 5 millions d’euros par l’Union européenne et développé par un consortium composé d’instituts de recherche, d’une société privée (Terracom) et d’organisations caritatives, Itflows qui est en phase de test devrait rentrer en service à partir d’août 2023. Et ce, malgré des alertes répétées quant aux risques de détournement de ses capacités prédictives à des fins de contrôle et de restrictions des droits des réfugiés sur le sol européen.

      Encore méconnu, ce programme doit venir compléter un dispositif technologique destiné à la surveillance des frontières, notamment espagnoles, italiennes et grecques. Financé sur le budget d’« Horizon 2020 », le programme de recherche et d’innovation de l’Union européenne, Itflows s’ajoutera alors aux drones de surveillance autonome, aux détecteurs de mensonges dans les zones de passages ou à l’utilisation de logiciels d’extraction de données cellulaires.

      D’après notre enquête, les deux ONG contribuent à nourrir l’intelligence artificielle de Itflows en lui fournissant des informations précieuses. Des données directement issues d’entretiens réalisés dans des camps de réfugiés, auprès de Nigérians, de Maliens, d’Érythréens ou encore de Soudanais. Il pourra s’agir d’éléments liés à l’origine ethnique, l’orientation sexuelle ou encore la religion des personnes interrogées. Pour leur contribution, les branches italiennes de la Croix-Rouge et d’Oxfam ont respectivement reçu 167 000 euros et 116 000 euros de fonds publics européens.

      « Nous avons contribué à réaliser trente entretiens de migrants arrivés en Italie au cours des six dernières années », confirme la Croix rouge Italie, sollicitée par Disclose. Une fois analysées, puis rendues accessibles via une application baptisée EUMigraTool, ces informations serviront aux autorités italiennes dans leur analyse « des routes migratoires et des raisons qui poussent les gens à faire le voyage », ajoute l’association. Même son de cloche du côté de Oxfam Italie, qui salue l’intérêt pour « les responsables politiques des pays les plus exposés aux flux migratoires. » Les dirigeants pourront également s’appuyer sur l’analyse des risques politiques liés à l’arrivée de migrants sur leur sol. Le projet inclut en effet la possibilité d’étudier l’opinion publique dans certains pays européens vis-à-vis des migrants à travers une veille sur le réseau social Twitter.
      Des rapports internes alarmants

      En réalité, les risques de détournement du programme existent bel et bien. C’est ce que révèlent des rapports internes (https://www.documentcloud.org/projects/logiciel-itflows-208987) au consortium que Disclose a obtenu à la suite d’une demande d’accès à des documents administratifs. Lesdits rapports, datés de janvier et juin 2021, ont été rédigés par les membres du comité éthique du projet Itflows. Leurs conclusions sont alarmantes. Le premier document, une somme de 225 pages, révèle que « le consortium Itflows est pleinement conscient des risques et des impacts potentiels en matière de droits de l’homme, que les activités de recherche empirique sur les migrations (…) et les développements technologiques prévus dans le projet peuvent poser ». Plus loin, les auteurs enfoncent le clou. Selon eux, les informations fournies par l’algorithme pourraient servir, si elles devaient être utilisées « à mauvais escient », à « stigmatiser, discriminer, harceler ou intimider des personnes, en particulier celles qui sont vulnérables comme les migrants, les réfugiés et les demandeurs d’asile ».

      Cinq mois plus tard, le comité éthique rend un second rapport. Il détaille un peu plus le danger : « Les États membres pourraient utiliser les données fournies pour créer des ghettos de migrants » ; « risque d’identification physique des migrants » ; « discrimination sur la base de la race, du genre, de la religion, de l’orientation sexuelle, d’un handicap ou de l’âge » ; « risque que les migrants puissent être identifiés et sanctionnés pour irrégularités ». Et le régulateur d’alerter sur un autre péril : la poussée des « discours de haine » que pourrait induire une éventuelle diffusion des prédictions du logiciel dans « les zones où les habitants sont informés de déplacements » de populations.
      L’Europe fait la sourde oreille

      Des alertes qui ne semblent pas avoir été entendues. Comme en atteste un bilan dressé lors d’une réunion (https://www.documentcloud.org/documents/22120596-emt-symposium-agenda-16-sep-2021?responsive=1&title=1) en ligne le 16 septembre 2021 par la coordinatrice du comité éthique de Itflows, #Alexandra_Xanthaki, devant des responsables européens, dont #Zsuzsanna_Felkai_Janssen, rattachée à la direction générale des affaires intérieures de la Commission. « Nous avons passé six mois à travailler jour et nuit pour rédiger un rapport instaurant un cadre qui intègre les droits de l’homme », débute la responsable du comité éthique, selon un enregistrement que Disclose s’est procuré. Elle poursuit : « Il me semble pourtant que ce que disent les techniciens de l’équipe aujourd’hui c’est : nous n’en tenons pas compte ». Un manque de précaution qui inquiète jusqu’au sein du conseil d’administration d’Itflows. Joint par Disclose, Alexander Kjærum, analyste pour le conseil danois pour les réfugiés et membre du conseil de surveillance estime en effet qu’il existe « un risque important que des informations se retrouvent entre les mains d’États ou de gouvernements qui les utiliseront pour implanter davantage de barbelés le long des frontières. »

      Sollicitée, la coordinatrice du programme, #Cristina_Blasi_Casagran, assure que le logiciel « ne sera pas utilisé à mauvais escient ». Selon elle, Itflows « devrait même faciliter l’entrée des migrants [dans l’Union européenne] en permettant une meilleure affectation des ressources engagées dans l’#accueil ».

      #Frontex inquiète

      Un dernier point vient renforcer le risque d’un détournement du logiciel : l’intérêt de Frontex pour Iflows. D’après des documents internes, l’agence en charge de la surveillance des frontières de l’UE suit étroitement les avancées du programme. Jusqu’à y contribuer activement via la fourniture de données récoltées dans le cadre de ses missions. Or, depuis plusieurs années, l’agence européenne est régulièrement accusée d’expulsions illégales et de violations des droits de l’homme. Interrogée sur ce point, l’ONG Oxfam considère qu’il n’y a pas de risque de détournement du logiciel au profit de l’agence. La branche italienne de la Croix rouge déclare quant à elle que « la convention de subvention régissant la mise en œuvre du projet Itflows ne désigne pas Frontex comme utilisateur de l’outil, mais simplement comme source de données ouvertes ». En 2021, Frontex a élu l’interface Itflows parmi les projets d’Horizon 2020 au « potentiel opérationnel et innovant » le plus élevé.

      #AI #IA #intelligence_artificielle #complexe_militaro-industriel #asile #migrations #frontières #EU #UE #Union_européenne #prédiction #Itflows #contrôle #logiciel #risques #Terracom #surveillance #Espagne #Italie #Grèce #horizon_2020 #camps_de_réfugiés #Croix-Rouge #Oxfam #religion #origine_ethnique #ethnie #orientation_sexuelle #données #EUMigraTool #risques #risques_politiques #twitter #réseaux_sociaux #opinion_publique #technologie #algorithme #discrimination #identification #Croix_Rouge

      ping @reka @isskein @karine4 @_kg_

  • Projet de #loi sur les #principes_républicains : le niveau des eaux continue de monter

    Il se passe quelque chose d’assez étrange en ce moment : si de nombreux·ses collègues et de nombreuses institutions se sont résolument élevé·es contre les attaques en « #islamo-gauchisme » et autres « #militantismes » lancées de toutes parts dans le sillage de #Frédérique_Vidal, les dispositions concernant les #universités qui ont été introduites dans le projet de loi confortant le respect des principes de la République ne semblent, en revanche, pas émouvoir grand monde.

    Pourtant, nous avons désormais dépassé le seul stade des paroles odieuses sur les plateaux de télévision : le parlement travaille en ce moment à les transformer en #obligations et #interdictions concrètes.

    Peut-être cet intérêt tout relatif de la communauté universitaire s’explique-t-il par le fait que ce sont les étudiant·es qui se trouvent le plus frontalement visé·es. Peut-être est-ce aussi l’effet d’une grande fatigue : le caractère ininterrompu des #attaques contre l’ESR fait qu’il est de moins en moins pertinent de parler de « vagues » réactionnaires, alors qu’il s’agit, en réalité, d’une implacable et continue montée des eaux aux émanations pestilentielles.

    Double discours de la #CPU

    Rien, pas une réaction de la #conférence_des_présidents_d’université (CPU), par exemple, à la suite des deux nouveaux articles introduits le 18 mars 2021 dans le projet de loi confortant le respect des principes de la République, alors que c’est le versant étudiant des #franchises_universitaires qui se trouve remis en question par le parlement, comme nous l’avons déjà expliqué.

    Pire même, le président de la CPU, #Manuel_Tunon_de_Lara a fait le choix de mettre encore un peu d’huile sur le feu : le 16 mars dernier, il a écrit à tou·tes les membres de la commission des lois et membres de la commission de la culture, de l’éducation et de la communication du Sénat – dans une lettre qu’Academia s’est procurée, mais que la CPU s’est bien gardée de rendre publique – pour alimenter la grande peur panique en cours :

    « La vraie #menace [écrit Manuel Tunon de Lara] réside dans le risque d’#intrusion des #religions et d’#idéologies diverses dans la #science, le contenu des #enseignements ou des champs de #recherche, au mépris de la #liberté de chaque enseignant d’exprimer sa pensée et de la #liberté des étudiantes et étudiants inscrits d’assister aux enseignements dispensés, et en violation des franchises universitaires ».

    Il apparaît que c’est un véritable double discours que tient la CPU, quand on sait que deux jours plus tard, elle twittait publiquement toute autre chose de sa rencontre avec le président du Sénat, #Gérard_Larcher :

    https://twitter.com/CPUniversite/status/1372593687000125440

    https://twitter.com/mtunondelara/status/1374734620533608452

    Très introduit, le président Tunon de Lara n’hésite jamais à utiliser ses rencontres parlementaires pour sa communication personnelle1. Au vu des éléments dont nous disposons et du ciblage dont les étudiant·es font l’objet, tant d’un point de vue social que politique, on peu s’intérroger sur ce que prépare réellement la CPU à leur endroit.

    Que le nouvel #article_24 sexies du projet de loi confortant le respect des principes de la République subordonne la mise à disposition de locaux aux étudiant·es à la signature d’un « #contrat_d’engagement_républicain » – dont, pourtant, la Commission nationale consultative des droits de l’homme vient solennellement de demander l’abandon – cela ne pose aucun problème à la CPU. Faire des communiqués grandiloquents contre la ministre, elle sait faire. Défendre concrètement les libertés étudiantes – l’un des grands acquis de la #loi_Faure de 1968 – en revanche, elle s’en garde bien. Peut-être même est-elle directement à l’origine de l’autre article du projet de loi qui concerne les étudiant·es, l’#article_24_septies qui, lui, élargit de manière considérable les possibilités, pour les présidences d’établissement, de limiter la #liberté_de_réunion et la #liberté_d’expression des étudiant·es chaque fois qu’elles estiment être en présence d’ « actions de #propagande » et de « #troubles » au « bon fonctionnement du #service_public », comme Academia l’a déjà expliqué.

    Nouvelle vague d’#amendements au Sénat

    Il est désormais presque certain que ces deux articles seront adoptés lors de l’examen en hémicycle du projet de loi par le Sénat, qui commence demain, mardi 30 mars 2021, à 14h30 au Sénat et durera jusqu’au 8 avril.

    Pour cet examen en hémicycle, d’autres amendements ont en outre été déposés ces tout derniers jours. Ces amendements ont une chance moindre d’être adoptés, mais il nous paraît important de les signaler pour rappeler à quel point, au Parlement, les universités sont désormais visées de manière quasi ininterrompue.

    1° Bien sûr, comme plusieurs fois déjà ces trois derniers mois, des élus Républicains sont remontés au front pour faire interdire le port du #voile dans les établissements d’enseignement supérieur. C’est le cas de l’amendement n° 379 du sénateur #Henri_Leroy ou de l’amendement n° 35 du sénateur #Bascher – qui entend d’ailleurs interdire tous

    signes, tenues ou actes qui constitueraient des actes de pression, de provocation, de #prosélytisme ou de propagande, perturberaient le déroulement des activités d’enseignement de recherche ou troubleraient le fonctionnement normal du service public ».

    On signalera tout particulièrement l’amendement n° 487 du sénateur des Bouches-du-Rhône #Stéphane_Ravier, qui recourt allègrement au vocabulaire de l’#extrême_droite pour parler des « #racistes_anti-blancs de l’UNEF«  :

    À l’Université, des professeurs sont empêchés de citer des auteurs ou d’aborder certains thèmes sous la pression de groupes d’élèves. Le rôle des syndicats d’étudiants, les racistes anti-blancs de l’UNEF en tête, qui organisent ou participent à des évènements de ségrégation et de division, n’y est pas pour rien. Il convient donc de rétablir l’enseignement public dans sa vocation de #neutralité, de #laïcité et d’#universalité en interdisant les avancées communautaires, via le port de tenues ou de #signes_religieux ostensibles, au premier rang desquels le #voile_islamique est le plus conquérant.

    2° À côté de ces amendements sur les signes religieux, on trouve plusieurs offensives directement dirigées contre les associations étudiantes que le code de l’éducation désignent comme représentatives et qui, à ce titre, siègent au CNESER. Par un amendement n° 81, vingt-cinq sénateurs et sénatrices de droite se sont en particulier allié·s pour proposer que l’on inscrive dans la loi que ces associations « sont soumises au respect strict de l’ensemble des #valeurs de la République et de la laïcité ». Le retour, donc, des fameuses « valeurs de la République« , dans lesquelles on pourra tout mettre à l’avenir et qui avaient tant agité les #facs en novembre dernier lorsqu’elles avaient surgi dans la loi de programmation de la recherche…

    Le sénateur #Max_Brisson, par ailleurs inspecteur général de l’éducation nationale et plutôt mesuré jusqu’ici dès qu’il s’agissait d’ESR, fait mieux encore : dans un amendement n° 235, il propose rien moins que :

    « Ne peuvent participer aux élections d’associations représentatives d’étudiants les listes dont un ou plusieurs candidats ont tenu dans des lieux publics, par quelque moyen que ce soit, y compris écrit, des propos contraires aux principes de la #souveraineté_nationale, de la #démocratie ou de la laïcité afin de soutenir les revendications d’une section du peuple fondées sur l’#origine_ethnique ou l’#appartenance_religieuse. »

    3° Quant aux sénateurs et sénatrices socialistes, ils et elles ne veulent visiblement pas être en reste, proposant de subordonner le droit à la mise à disposition de locaux dont disposent les étudiant·es au titre des franchises universitaires depuis 1968 à la signature non d’un « #contrat_d’engagement_républicain » comme le prévoit le nouveau #article_24_sexies, mais, grande différence, à une « #charte_d’engagements_réciproques » par laquelle ces étudiant·es s’engageraient à « promouvoir et à faire respecter toutes les valeurs de la République » (amendement n° 109). « Contrat d’engagement républicain » ou « charte d’engagements réciproques », il existe sans doute des différences, mais le problème de principe demeure : voilà donc que l’exercice même d’une liberté – la liberté de réunion des étudiant·es qui est particulièrement protégée sur les campus grâce au versant étudiant des franchises universitaires – se trouvera subordonné à la signature d’un contrat imposant des obligations dont le contenu est, n’en doutons pas, appelé à augmenter tendanciellement.

    C’est bien le niveau des eaux pestilentielles qui monte.

    Encore et encore.

    https://academia.hypotheses.org/32007

  • Un tiers des #salariés disent être victimes de #discriminations
    http://www.lemonde.fr/societe/article/2014/02/03/un-tiers-des-salaries-disent-etre-victimes-de-discriminations_4359269_3224.h

    Trois actifs sur dix se disent concernés. Selon le 7e baromètre IFOP du Défenseur des droits et de l’Organisation internationale du travail, publié lundi 3 février, 31 % des agents de la fonction publique et 29 % des salariés du privé déclarent être victimes de discriminations.

    Le #genre et la #maternité sont les principaux critères de discrimination cités par ceux qui s’en disent victimes. Les #femmes sont d’ailleurs plus nombreuses à affirmer être concernées. Salariés du secteur privé et du public se distinguent ensuite. Dans les entreprises, l’#origine_ethnique est le deuxième critère de discrimination mis en avant. Il est beaucoup plus cité qu’auparavant (+ 10 points comparé à décembre 2012), tout comme les convictions religieuses (13 points supplémentaires).

    Pour les agents du public, l’#apparence physique arrive en seconde position. Là aussi la progression est forte par rapport au baromètre de 2012 (+ 9 points dans le public et + 6 dans le privé). C’est aussi l’apparence physique « non conventionnelle » qui est vue par les actifs comme le principal inconvénient pour l’embauche et l’évolution professionnelle des jeunes.