/nouvelles

Discrimination 2.0 : ces algorithmes qui perpétuent le racisme

L’IA et les systèmes algorithmiques peuvent désavantager des personnes en raison de leur origine, voire conduire à des discriminations raciales sur le marché du travail. A l’occasion de la Journée internationale pour l’élimination de la discrimination raciale, AlgorithmWatch CH, humanrights.ch et le National Coalition Building Institute NCBI mettent en lumière la manière dont les systèmes automatisés utilisés dans les procédures de recrutement peuvent reproduire les inégalités.

Les procédures d’embauche sont et ont toujours été caractérisées par une certaine inégalité des chances. Aujourd’hui, les entreprises utilisent souvent des systèmes algorithmiques pour traiter les candidatures, les trier et faire des recommandations pour sélectionner des candidat·e·x·s. Si les départements des ressources humaines des grandes entreprises souhaitent augmenter leur efficacité grâce aux « Applicant Tracking Systems » (ATS), l’utilisation de tels systèmes peut renforcer les stéréotypes discriminatoires ou même en créer de nouveaux. Les personnes issues de l’immigration sont souvent concernées par cette problématique.
Exemple 1 : un algorithme qui préfère les CV « indigènes »

Une étude récente menée en Grande-Bretagne a comparé les CV sélectionnés par une personne experte en ressources humaines et ceux qu’un système de recommandation algorithmique avait identifiés comme étant ceux de candidat·e·x·s compétent·e·x·s. La comparaison a montré que les personnes que les recruteur·euse·x·s considéraient comme les meilleur·e·x·s candidat·e·x·s ne faisaient parfois même pas partie de la sélection effectuée par les systèmes basés sur des algorithmes. Ces systèmes ne sont pas capables pas lire tous les formats avec la même efficacité ; aussi les candidatures compétentes ne correspondant pas au format approprié sont-elles automatiquement éliminées. Une étude portant sur un autre système a également permis de constater des différences claires dans l’évaluation des CV. Ainsi, il s’est avéré que le système attribuait davantage de points aux candidatures « indigènes », en l’occurrence britanniques, qu’aux CV internationaux. Les candidat·e·x·s britanniques avaient donc un avantage par rapport aux personnes migrantes ou ayant une origine étrangère pour obtenir une meilleure place dans le classement.
Exemple 2 : les formations à l’étranger moins bien classées

En règle générale, les systèmes de recrutement automatisés sont entraînés de manière à éviter l’influence de facteurs tels que le pays d’origine, l’âge ou le sexe sur la sélection. Les candidatures contiennent toutefois également des attributs plus subtils, appelés « proxies » (en français : variables de substitution), qui peuvent indirectement donner des informations sur ces caractéristiques démographiques, par exemple les compétences linguistiques ou encore l’expérience professionnelle ou les études à l’étranger. Ainsi, la même étude a révélé que le fait d’avoir étudié à l’étranger entraînait une baisse des points attribués par le système pour 80% des candidatures. Cela peut conduire à des inégalités de traitement dans le processus de recrutement pour les personnes n’ayant pas grandi ou étudié dans le pays dans lequel le poste est proposé.

Les critères de sélection de nombreux systèmes de recrutement basés sur les algorithmes utilisés par les entreprises sont souvent totalement opaques. De même, les jeux de données utilisés pour entraîner les algorithmes d’auto-apprentissage se basent généralement sur des données historiques. Si une entreprise a par exemple jusqu’à présent recruté principalement des hommes blancs âgés de 25 à 30 ans, il se peut que l’algorithme « apprenne » sur cette base que de tels profils doivent également être privilégiés pour les nouveaux postes à pourvoir. Ces stéréotypes et effets discriminatoires ne viennent pas de l’algorithme lui-même, mais découlent de structures ancrées dans notre société ; ils peuvent toutefois être répétés, repris et donc renforcés par l’algorithme.

Ces exemples illustrent la discrimination par les algorithmes de personnes sur la base de leur origine. Les algorithmes discriminent également de nombreux autres groupes de population. En Suisse aussi, de plus en plus d’entreprises font usage d’algorithmes pour leurs processus de recrutement ainsi que sur le lieu de travail.

Discrimination algorithmique en Suisse : le cadre légal de protection contre la discrimination en Suisse ne protège pas suffisamment contre la discrimination par les systèmes algorithmiques et doit être renforcé. Ce papier de position présente les problématiques liées à la discrimination algorithmique et décrit les moyens d’améliorer la protection contre ce type de discrimination.

Les algorithmes discriminent également de nombreux autres groupes de population. Dans la série « Discrimination 2.0 : ces algorithmes qui discriminent », AlgorithmWatch CH et humanrights.ch, en collaboration avec d’autres organisations, mettent en lumière divers cas de discrimination algorithmique.

▻https://www.humanrights.ch/fr/nouvelles/discrimination-20-algorithmes-perpetuent-racisme
#discrimination #racisme #algorithme #xénophobie #IA #AI #intelligence_artificielle #travail #recrutement #discrimination_raciale #inégalités #ressources_humaines #Applicant_Tracking_Systems (#ATS) #CV #curriculum_vitae #sélection #tri

#Profilage_raciste : la Suisse doit appliquer l’arrêt de la Cour européenne des droits de l’homme sans attendre

Jusqu’à la mi-février 2024, les personnes ayant subi des contrôles de police racistes et souhaitant se défendre sur le plan judiciaire devaient s’engager dans des procédures qui duraient des années, nécessitaient d’importantes ressources et n’avaient généralement aucune chance d’aboutir. Dans l’affaire Wilson A., les fonctionnaires de police impliqué⸱e⸱s ont été provisoirement acquitté⸱e⸱s après 15 ans, tout comme dans le cas de #Mike_Ben_Peter, décédé lors d’un contrôle de police. Le Ministère public a classé la procédure liée à l’affaire #Roger_Nzoy, également décédé dans le cadre d’un contrôle de police. Après la condamnation de la #Suisse dans l’affaire #Mohammed_Wa_Baile, il est urgent que les responsables à tous les échelons agissent sérieusement contre les structures qui sous-tendent les actes racistes.

« Alors qu’il se dirige vers la sortie, un homme Noir est contrôlé. Les fonctionnaires de police justifient leur contrôle en évoquant la description de la personne recherchée, qui ne correspond toutefois pas à celle de la personne interpellée. L’homme leur rétorque qu’il n’est pas la personne recherchée et refuse dans un premier temps de leur montrer sa carte d’identité. Lorsqu’il saisit finalement son portefeuille pour la sortir, les fonctionnaires de police l’empoignent, le jettent violemment au sol, lui passent les menottes et l’emmènent au poste de police au motif qu’il s’est rendu coupable d’opposition aux actes de l’autorité. »

Les structures membres du Réseau des centres de conseil pour les victimes du racisme coordonné par humanrights.ch sont confrontées depuis des années à la problématique du profilage racial - des contrôles de police arbitraires qui peuvent parfois s’avérer violents, comme le montre l’exemple ci-dessus. Les personnes concernées rapportent que ces contrôles sont effectués de manière souvent très agressive et qu’elles ne sont pas entendues par la police, les agent⸱e⸱x⸱s refusant de répondre à leurs questions, ce qui provoque souvent des tensions. Elles rapportent également des dérapages verbaux et des propos discriminatoires de la part des fonctionnaires de police, qui se réfèrent à l’origine présumée de la personne. Par conséquent, certaines situations dégénèrent et il est parfois fait usage de la force de manière illégale, conduisant dans certains cas à des décès.

Roger Nzoy et Mike Ben Peter en sont deux exemples : les deux sont décédés lors d’un contrôle de police.

« Dans le cas de Mike Ben Peter, la situation s’est déroulée de la manière suivante : la police a interpellé un homme Noir qui tenait un petit sac à la main. L’homme a refusé de se laisser contrôler et a tenté de s’éloigner lentement, sans pour autant se montrer agressif ou violent. Les fonctionnaires de police se sont alors approchés de lui et lui ont donné un coup de genou dans les parties génitales à deux reprises au moins, l’ont aspergé de spray au poivre au visage et ont essayé de lui passer les menottes avec force et violence. Les fonctionnaires de police ont finalement mis l’homme sur le ventre et se sont agenouillés sur lui pendant plusieurs minutes pour le menotter. L’homme a alors subi un arrêt cardiaque. »

Afin d’attirer l’attention sur cette problématique et de mettre en évidence les causes structurelles* qui sous-tendent la pratique du profilage racial, de plus en plus de personnes concernées ou leurs proches font, ces dernières années, le choix de porter plainte. Elles sont soutenues dans leur démarche par des organisations ou des collectifs telles que la Commission indépendante pour l’établissement de la vérité sur la mort de Roger Nzoy Wilhelm ou l’association Soutien à la famille de Mike Ben Peter.

Depuis plusieurs années, humanrights.ch soutient, avec l’« #Alliance_contre_le_profilage_raciste » les plaintes de Mohamed Wa Baile et Wilson A.

« Le 19 octobre 2009, aux alentours de minuit, Wilson A. rentre chez lui avec un ami en tram à Zurich. Deux fonctionnaires de police montent à bord et leur demandent une pièce d’identité. Wilson A. soupire : c’est toujours la même chose, pourquoi la police ne contrôle-t-elle que les personnes Noires ? Les fonctionnaires de police ne répondent pas et leur demandent de descendre du tram. Wilson A. prévient qu’il a subi une opération du cœur et ne doit donc pas être touché, ce que les deux fonctionnaires font malgré tout. Une bagarre éclate et les fonctionnaires frappent Wilson A., qui porte un défibrillateur, lui envoyent du spray au poivre dans les yeux et le mettent à terre. « Sale Africain, retourne en Afrique ! », aurait dit l’un⸱e des deux fonctionnaires selon l’acte d’accusation. Les médecins ont par la suite affirmé que tout acte de violence physique pouvait mettre en danger la vie d’un patient présentant une maladie cardiaque comme Wilson A. »

Le 15 février 2024, après une odyssée de 15 ans, les agent⸱e⸱s de police accusé⸱e⸱s dans l’affaire Wilson A. ont été acquitté⸱e⸱s par le tribunal cantonal de Zurich. Le jugement n’est pas encore définitif, il peut encore faire l’objet d’un recours. La procédure judiciaire documentée sous forme de chronique par humanrights.ch illustre les obstacles en matière d’accès à la justice ; les procédures engagées pour condamner le profilage racial sont longues, nécessitent de nombreuses ressources et ne laissent que peu d’espoir pour les personnes concernées et leurs proches.

Cinq jours plus tard seulement, le 20 février 2024, un premier succès est néanmoins enregistré : la Cour européenne des droits de l’homme condamne la Suisse dans l’affaire Mohamed Wa Baile pour violation de l’interdiction de discrimination, dans un arrêt phare dont la portée est internationale, 9 ans après les faits.

L’arrêt « Wa Baile c. Suisse » doit maintenant être appliqué à tous les échelons suisses. Pour humanrights.ch, il est donc nécessaire que la Suisse :

- adopte des garde-fous juridiques suffisamment précis pour éviter les contrôles policiers racistes
- mette en place des mesures institutionnelles et organisationnelles permettant une prévention efficace du profilage racial
- instaure des procédures juridiques garantissant un accès effectif à une protection légale pour les personnes sujettes à des contrôles de police racistes

▻https://www.humanrights.ch/fr/nouvelles/profilage-raciste-suisse-arret-cour-europeenne-droits-de-l-homme
#racisme #profilage #contrôles_policiers #racisme_systémique #violences_policières

#Profilage_raciste : la #Cour_européenne_des_droits_de_l’homme rend un #arrêt de principe dans l’affaire #Wa_Baile

C’est un litige stratégique exemplaire : #Mohamed_Wa_Baile a recouru contre le contrôle de police raciste qu’il a subi devant toutes les instances suisses, jusqu’à la Cour européenne des droits de l’homme. Les juges de Strasbourg ont finalement donné raison à M. Wa Baile dans un arrêt de principe rendu aujourd’hui, constatant que la Suisse a enfreint l’interdiction de la #discrimination.

https://pixelfed.zoo-logique.org/storage/m/_v2/578583396227231930/7c649620b-69b6c5/ojBT7dYvdZTp/T0QuIPElIXe1k3b4LZMGLXta8Y31EYayEoKh8YME.png

C’est un incident qui a eu lieu il y a maintenant neuf ans : le 5 février 2015 au matin, Mohamed Wa Baile est le seul à se faire contrôler par deux fonctionnaires de police parmi la foule en gare de Zurich. Les agent·e·x·s ayant reconnu qu’aucune personne Noire n’était recherchée, Wa Baile refuse de décliner son identité. Après avoir trouvé sa carte AVS dans son sac à dos, les fonctionnaires de police le laissent partir.

Peu de temps après, M. Wa Baile reçoit l’ordre de payer une amende de 100 francs pour #refus_d'obtempérer aux injonctions de la police. Il décide de contester cette décision, ayant déjà subi un grand nombre de contrôles de police dégradants en public en raison de la couleur de sa peau. A travers cette procédure judiciaire, il souhaite attirer l’attention sur la problématique du profilage raciste, qui touche de nombreuses personnes en Suisse.

Soutenu par l’« #Alliance_contre_le_profilage_raciste » qui prend forme autour de son cas, Mohamed Wa Baile porte plainte et lance une procédure civile devant les tribunaux suisses. Le Tribunal fédéral n’ayant constaté aucune violation de l’interdiction de la discrimination dans cette affaire, M. Wa Baile dépose alors une requête devant la Cour européenne des droits de l’homme (CrEDH).

En 2022, la CrEDH a reconnu l’importance du ce cas en le désignant comme une « affaire à impact ». Dans son arrêt rendu aujourd’hui, la Cour a constaté à l’unanimité trois violations de la Convention européenne des droits de l’homme (CEDH). Elle estime que la Suisse a violé à deux reprises l’interdiction de la discrimination, garantie par l’article 14 CEDH combiné avec l’article 8 (droit au respect de la vie privée) : d’une part, compte tenu des circonstances concrètes du contrôle d’identité, elle constate une discrimination de M. Wa Baile sur la base de sa couleur de peau ; d’autre part, elle conclut que les tribunaux suisses n’ont pas examiné de manière effective si des motifs discriminatoires avaient joué un rôle dans le contrôle subi par le requérant. Les juges de Strasbourg estiment également que la Suisse a violé l’article 13 CEDH (droit à un recours effectif), dans la mesure où M. Wa Baile n’a pas bénéficié d’un recours effectif devant les juridictions internes.

« Cet arrêt constitue une étape importante dans la lutte contre le profilage raciste (délit de faciès) et le racisme institutionnel » déclare l’Alliance contre le profilage raciste dans son communiqué de presse. Cette décision phare a des répercussions sur la politique, le système judiciaire et la police en Suisse et dans tous les Etats ayant ratifié la Convention européenne des droits de l’homme. La Cour met la Suisse dans l’obligation de prendre des mesures efficaces et globales pour empêcher que les contrôles de police racistes se reproduisent à l’avenir.

humanrights.ch accompagne ce litige stratégique depuis son lancement, l’ayant notamment documenté dans cet article : ▻https://www.humanrights.ch/fr/litiges-strategiques/cas-traites/delit-facies

▻https://www.humanrights.ch/fr/nouvelles/profilage-raciste-cour-europeenne-droits-homme-arret-principe-affaire-wa
#CEDH #justice #racisme #police #contrôles_policiers #Suisse #profilage_racial #couleur_de_peau

Racisme dans le #travail_du_sexe

https://i.imgur.com/63jyDYG.png

Dans le domaine du travail du sexe, les #rapports_de_pouvoir présents dans la société actuelle et leurs manifestations racistes sont particulièrement visibles. Les #discriminations subies par les travailleur·euse·x·s du sexe racisé·e·x·s ne sont cependant pas seulement d’origine sociale, mais aussi juridique et structurelle.

En Suisse, le travail du sexe n’est pas le seul domaine dans lequel s’exprime le #racisme_structurel et l’#héritage_colonial, mais c’est celui dans lequel ces phénomènes se donnent le plus à voir. Les travailleur·euse·x·s du sexe (TdS) racisé·e·x·s* sont souvent exposé·e·x·s quotidiennement à de multiples discriminations. Ces personnes sont fréquemment considérées soit comme dangereuses, immorales et mauvaises pour la société, soit comme des personnes dans le besoin, qui ont été contraintes au travail du sexe et ne savent pas ce qu’elles font. Une législation répressive en matière de migration et d’importants obstacles à l’exercice légal du travail du sexe exacerbent le racisme structurel persistant.

Des #stéréotypes racistes particulièrement visibles

En Suisse, le domaine du travail du sexe se caractérise souvent par des rapports de pouvoir inégaux entre la clientèle et les TdS. La position de la personne qui achète des services sexuels est définie par son pouvoir, son statut, ses ressources et son argent, alors que celle des TdS est à l’inverse souvent envisagée sous le prisme de l‘origine, de la couleur de peau, du type de permis de séjour ou encore de l’identité de genre. Selon Naomi Chinasa Bögli, du Centre d’assistance et d’intervention aux migrantes et victimes de la traite des femmes (FIZ) à Zurich, les TdS racisé·e·x·s se trouvent, dans de nombreux cas, au plus bas de la hiérarchie. Les images que projettent sur ces personnes la clientèle, les exploitant·e·x·s et la société dans son ensemble sont très fortement imprégnées de racisme. On le voit notamment dans la manière dont on présente les TdS racisé·e·x·s en utilisant des catégories qui répercutent des stéréotypes racistes moins connus et thématisés. Les images racistes sont toujours liées à leurs corps, reléguant ainsi leur personnalité et leur humanité à l’arrière-plan.

Quelques féministes et figures politiques participent pourtant également à la stigmatisation et à la discrimination des TdS. L’interdiction du travail du sexe rémunéré est constamment réclamée pour les « protéger ». Dans cette logique, les TdS migrant·e·x·s sont, sans distinction aucune, considéré·e·x·s comme des victimes, incapables d’autonomie et d’autodétermination. Les débats reflètent la discrimination et la stigmatisation qui s’exercent tout particulièrement sur les TdS racisé·e·x·s non seulement pour leur travail mais également sur la base d’autres caractéristiques telles que leur couleur de peau, leur passé migratoire, leur féminité, leur identité de genre, leur profession ou leur rôle de mère. Pour un grand nombre de TdS racisé·e·x·s, cela a pour conséquence des microagressions quotidiennes, voire des agressions verbales et physiques.
Un cadre juridique structurellement discriminant

En Suisse, outre les formes quotidiennes de discriminations et de racismes, les TdS racisé·e·x·s sont aussi désavantagé·e·x·s de manière structurelle par le cadre juridique. Pour Naomi Chinasa Bögli, la mise en œuvre d’une politique migratoire restrictive l’illustre bien : les obstacles bureaucratiques et les conditions strictes pour exercer légalement le travail du sexe mènent à la précarité, à l’illégalité et à la dépendance, surtout pour les personnes extérieures à l’Union européenne, dont beaucoup sont racisées. Yasmine Soler**, une TdS racisée, affirme que ces lois spécifiques sont motivées par des intentions racistes : « Officiellement, on fait des lois pour les TdS. Mais en réalité, ces lois sont faites parce que beaucoup sont des migrant·e·x·s ». Un rapport de l’Alliance européenne pour les droits des TdS (ESWA) publié en avril 2022 analyse de manière approfondie l’impact du processus historique du racisme croissant sur les législations européennes contemporaines restreignant le travail du sexe, la traite d’êtres humains et l’immigration.

Dans les débats sur le travail du sexe et le racisme, il est essentiel de comprendre, de qualifier et de lutter contre la vulnérabilité des TdS racisé·e·x·s dans les rapports de domination existants. Il faut néanmoins toujours garder à l’esprit que les TdS ont tou·te·x·s des individualités différentes, parlent en leur nom propre et peuvent et veulent mener la vie qu’elles ont librement choisie. Dans un cadre réglementé et dans des conditions équitables, le travail du sexe peut être source d’émancipation individuelle et être exercé de manière choisie et indépendante.

–-

Le terme « personne racisée » a une connotation positive, empreinte de la volonté politique des personnes exposé·e·x·s à des discriminations raciales de se définir. Il renvoie à l’ensemble des expériences communes aux personnes non blanches, découlant notamment de l’absence d’accès à un certain nombre de privilèges. Ce terme ne décrit ainsi pas (directement) la couleur de peau mais reflète une position sociopolitique et est porteur d’émancipation lorsqu’il est utilisé par les personnes concernées.

* Ce nom est un pseudonyme. La véritable identité de cette personne est connue de ProCoRe.

▻https://www.humanrights.ch/fr/nouvelles/racisme-travail-sexe

#racisme #rapport #ProCoRe #prostitution

ping @cede