Le Home Office épinglé pour son usage « opaque » de l’intelligence artificielle dans le traitement des #demandes_d'asile
Comptes-rendus d’entretiens d’asile, estimation de l’âge des demandeurs, détection des « mariages blancs », #surveillance de la frontière... Le Home Office, équivalent britannique du ministère de l’Intérieur, recourt de plus en plus à des outils d’intelligence artificielle pour sa gestion de l’immigration et de l’asile. Or, ce développement se produit de façon opaque et avec des risques d’erreur pour le traitement des dossiers, selon un rapport de l’Open Rights Group (ORG). Des ONG et responsables politiques s’en inquiètent et exigent davantage de transparence.
Le Home Office pourrait bientôt être visé par une enquête de l’Independent Chief Inspector of Borders and Immigration (ICIBI), un organisme indépendant évaluant la politique de gestion des frontières et de l’immigration au Royaume-Uni.
Selon plusieurs médias dont Wired, l’ICIBI envisage d’ouvrir une investigation sur l’usage de l’intelligence artificielle par le Home Office. Cette annonce fait suite aux révélations de l’ONG Open Rights Group (ORG) selon lesquelles l’Intérieur britannique recourt de façon accrue, opaque et risquée à l’IA pour traiter les dossiers d’asile et d’immigration.
Ce rapport de l’ORG, intitulé « Discrimination automatisée : décryptage de l’environnement numérique hostile », est paru le 27 octobre. Il épingle un développement de l’IA « dans un secret quasi total », pour des domaines divers, entraînant son lot de questionnements éthiques et d’erreurs sous-évaluées.
Comptes-rendus d’entretiens d’asile, estimation de l’âge des demandeurs détection des « mariages blancs »...
Selon l’ONG, l’IA est utilisée ou testée par le Home Office notamment pour rédiger des comptes-rendus d’entretiens d’asile, pour estimer l’âge des demandeurs d’asile, ou encore pour hiérarchiser et prioriser les dossiers d’immigration, grâce à son outil dédié Identify and Prioritise Immigration Cases (Ipic).
De premières alertes avaient été données dès 2024 par l’ONG Privacy International concernant l’Ipic. L’ONG avait révélé au grand public que le but était de faciliter la prise de décision concernant les migrants susceptibles d’être expulsés en scannant des données personnelles comme l’état de santé, l’ethnicité ou encore le casier judiciaire, avant d’émettre un avis en faveur ou non de l’expulsion.
Depuis, le recours à l’IA n’a fait que s’étendre au sein du Home Office. Par exemple, pour analyser les données de téléphonie mobile des personnes migrantes. Un arrêt rendu en 2022 par la Haute Cour avait révélé que le ministère de l’Intérieur avait mis en place une « politique générale illégale et secrète visant à saisir quelque 2 000 téléphones portables appartenant à des personnes arrivant au Royaume-Uni » à bord de « small-boats ». Les contenus de ces téléphones étaient transférés vers une base de données des services de renseignement, appelée « Project Sunshine ».
Si le Home Office refuse de communiquer sur ce sujet, il est « fort probable » aujourd’hui que des outils d’IA soit utilisés pour analyser cette base de données, selon le rapport de l’ORG, qui mentionne des paiements versés par la Border Force et les services de l’immigration à la société israélienne de surveillance Cellebrite, qui développe des outils IA de fouille des téléphones.
Autre exemple détaillé par l’ORG : les tâches confiées à l’IA par le Home office vont jusqu’à la détection de « mariages blancs potentiels ». Les dossiers de couples demandant à se marier sont classés « vert » ou « rouge », selon des critères opaques. Le média The Guardian avait révélé que cet outil IA classait en « rouge », « de manière disproportionnée » des personnes « issues de certaines nationalités », en particulier celles originaires d’Albanie, de Grèce, de Roumanie et de Bulgarie.
Enfin, ce recours à l’IA grandit aussi dans le domaine de la surveillance des frontières : reconnaissance faciale en direct, drones et satellites alimentés par l’IA... Aujourd’hui, « des programmes obscurs tels que ’Cerberus’ promettent d’anticiper des menaces inconnues, marquant ainsi un tournant décisif : on passe d’une approche réactive à une approche ’prédictive’ et proactive en matière de contrôle des frontières », analyse l’ORG.
« La migration est une expérience humaine, et non un problème technique que l’IA peut résoudre »
« L’utilisation de l’IA n’est qu’un des outils à notre disposition pour protéger nos frontières et ne remplace ni n’automatise le rôle des décideurs humains. Les décisions relatives à l’asile sont prises par des agents d’assistance sociale qualifiés, les outils d’IA servant uniquement à faciliter la consultation des comptes rendus d’entretiens et des informations sur les politiques en vigueur. Ils ne peuvent être utilisés isolément et ne prennent aucune décision concernant les demandes d’asile », a défend un porte-parole du Home Office auprès du Guardian.
Pas de quoi rassurer les responsables politiques et ONG qui s’inquiètent de ce recours de plus en plus étendu à l’IA. « Nous traitons des vies humaines... Je ne pense tout simplement pas qu’il soit approprié que des machines fassent cela », a réagi Bell Ribeiro-Addy, députée du Labour (parti travailliste), dans la presse britannique suite à la publication du rapport.
« Nous craignons que des comptes rendus d’entretiens erronés ne soient intégrés dans des logiciels d’IA et ne donnent lieu à des décisions peu fiables qui ne tiennent pas compte du contexte réel dans lequel ces entretiens se déroulent », a réagi Nick Beales, de l’ONG Refugee and Migrant Justice, auprès de The Independent.
Un taux d’erreur élevé
Cette question de la marge d’erreur est en effet au coeur du rapport paru le 27 octobre. Pour bien comprendre : le Home Office a fait des tests pilotes à partir de la fin 2024 pour développer ses outils Asylum Case Summarisation (ACS, « résumé d’un dossier d’asile ») et Asylum Policy Search (APS, « recherche sur la politique d’asile »). Ceux-ci sont construits sur le modèle GPT-4 d’OpenAI, l’entreprise américaine à l’origine de ChatGPT.
Ces tests ont fait l’objet d’une évaluation rendue publique par le Home Office. Il y était estimé que le gain de temps était de « 23 minutes par dossier ». Et le taux d’erreur dans les résumés faits par l’IA des entretiens d’asile de « 9 % » seulement. Le Home Office affirmait alors que « ces outils ne semblaient avoir aucun impact, ni négatif ni positif, sur la qualité des décisions ».
Or, l’ORG a découvert que le pourcentage de résumés fait par l’ACS et jugés inutilisables est en fait nettement supérieur à ce taux d’erreur officiel de 9 %. En ayant eu accès aux données, l’ORG a découvert que, sur 203 résumés examinés une fois par les évaluateurs, 45 (22%) ne répondaient pas aux normes de précision, relate The Independent.
Sur les 56 résumés qui ont été examinés deux fois par les évaluateurs, la moitié ont été jugés non conformes, toujours selon les informations obtenues par l’ORG.
Autrement dit : ces résumés contenaient « de multiples erreurs factuelles ou des inexactitudes », voire étaient « largement incohérents » par rapport à ce que le demandeur d’asile avait réellement déclaré lors de son entretien.
Des demandeurs d’asile pas toujours informés
Autre problème majeur soulevé par le rapport : les demandeurs d’asile ne sont pas toujours informés de l’utilisation de ces outils IA. Or, l’ONG rappelle que le manque d’informations des personnes migrantes et de leurs avocats prive ces personnes d’un recours juridique équitable, face au risque de traitement faussé de leurs dossiers.
« Je dénonce depuis de nombreuses années l’utilisation d’algorithmes dans le système d’immigration, car cette opacité protège les détenteurs du pouvoir de tout contrôle, tandis que les personnes jugées, notamment les migrants et les réfugiés, en subissent les conséquences », expose Bell Ribeiro-Addy, la députée du Labour.
De fait, le rapport de l’ORG souligne que les autorités ont refusé de fournir davantage de détails sur l’acquisition, la précision et le déploiement de ces outils. « Les responsables invoquent systématiquement la ’sécurité nationale’ pour bloquer les demandes d’accès à l’information et censurer les documents divulgués », regrette l’ORG.
La Commission de l’Information (ICO), organisme chargé de l’accès aux données, enquête déjà sur le refus du Home Office de fournir des détails sur la formation des agents à l’usage de ces outils, selon LaTech’Info.
Un usage qui promet de s’accroître
Or, de nouveaux marchés sont passés pour accroître le recours à l’IA : le Home office vient de signer un contrat pour développer l’usage de l’IA dans sa plateforme interne Atlas destinée à la gestion des dossiers d’immigration et d’asile. Dans ce cadre, l’IA permet la numérisation du traitement des dossiers et l’information des demandeurs par e-mail, SMS ou courrier postal de manière automatique à certaines étapes clés du traitement de leur dossier.
En mai, le ministère de l’Intérieur a aussi attribué un nouveau contrat portant sur l’estimation de l’âge par reconnaissance faciale à la société Akhter Computers Limited, basée à Harlow, et à la société allemande Cognitec Systems GmbH, précise l’ORG. Ce contrat vise à poursuivre les essais et à accompagner le déploiement de cette technologie IA à la mi-2027.
« La migration est un phénomène et une expérience humaine, et non un problème technique que l’intelligence artificielle peut résoudre. Nous avons besoin de toute urgence de transparence, de responsabilité et d’une réglementation stricte pour encadrer l’utilisation de l’IA et empêcher son déploiement à plus grande échelle », a soutenu Sara Alsherif, responsable de programme chez ORG
Face à ces critiques, en plus de ses réponses apportées à l’ONG et à la presse, le Home Office s’est engagé à publier des évaluations actualisées de ses outils IA.
▻https://www.infomigrants.net/fr/post/74476/le-home-office-epingle-pour-son-usage-opaque-de-lintelligence-artifici
#migrations #réfugiés #asile #UK #Angleterre #home_office #IA #AI #intelligence_artificielle




















