• Israël/Gaza  : les réseaux sociaux entre censure des voix palestiniennes et démultiplicateur de haine (Publié le 02.11.2023)

    https://www.amnesty.fr/liberte-d-expression/actualites/israel-gaza-reseaux-sociaux-entre-censure-des-voix-palestiniennes-et-demulti

    Hausse alarmante de la haine en ligne, censure des contenus palestiniens, faille de modération… depuis la vague de violence qui a éclaté le 7 octobre en Israël et à Gaza, nous sommes préoccupés par la haine et la censure qui profilèrent sur les réseaux sociaux. Nos équipes d’Amnesty Tech ont analysé plusieurs exemples, réunis dans cet article.

    Des publications antisémites

    Nos équipes ont aussi recensé plusieurs publications antisémites, dont un grand nombre appellent à la haine et à la violence contre les personnes juives. Des recherches menées dernièrement par le Centre de lutte contre la haine numérique (CCDH) ont d’ailleurs révélé une prolifération des contenus antisémites sur X ces derniers mois.

    Sur fond d’escalade de violences en Israël et à Gaza nous appelons les entreprises qui gèrent les réseaux sociaux à s’attaquer à la vague de haine et de racisme qui déferle en ligne contre les communautés palestinienne et juive.

    «  Shadow ban  » des contenus palestiniens

    Certains contenus issus de comptes de Palestiniens ou de personnes défendant leurs droits ou relayant simplement des informations sur la situation à Gaza auraient été censurés par les réseaux sociaux. C’est ce que l’on appelle le «  shadow banning  » ou «  bannissement furtif  » qui signifie donc que des contenus palestiniens auraient bénéficié d’une visibilité presque nulle. La directrice d’Amnesty Tech, Rasha Abdul-Rahim, s’est dite vivement préoccupée par ces informations.

    « Tandis qu’Israël intensifie ses bombardements sans précédent sur la bande de Gaza, nous sommes extrêmement préoccupés par les informations faisant état du blocage partiel, parfois même de la suppression de contenus publiés par des défenseur·e·s des droits des Palestinien·ne·s » Rasha Abdul-Rahim, directrice d’Amnesty Tech

    La population palestinienne de la bande de Gaza est de plus en plus soumise à des coupures des moyens de communications, qui limitent sa capacité à chercher, recevoir et transmettre des informations. Les inégalités dans la modération des contenus par les plateformes de réseaux sociaux risquent d’affaiblir encore plus la capacité des Palestinien·ne·s à l’intérieur comme à l’extérieur de la bande de Gaza d’exercer leurs droits à la liberté d’expression, d’association et de réunion pacifique.

    Les failles abyssales des réseaux sociaux dans la gestion des contenus

    Des recherches ont montré que, sous couvert de neutralité, les systèmes fondés sur l’Intelligence Artificielle (IA) reproduisaient souvent les préjugés existant déjà dans la société. Le 19 octobre 2023, META s’est excusée d’avoir ajouté le mot « terroriste » dans des traductions de profils Instagram contenant les mots « Palestinien » et « Alhamdulillah » (qui signifie Dieu soit loué), ainsi que l’émoji drapeau palestinien. Elle a aussi abaissé de 80 % à 25 % le seuil de certitude requis pour « cacher » un contenu hostile, pour les contenus provenant en grande partie du Moyen-Orient. Cette mesure était une tentative d’endiguer le flux de propos hostiles, mais risque aussi d’entraîner des restrictions excessives des contenus.

    En mai 2021, un rapport de l’organisation Business for Social Responsibility a montré que les contenus en langue arabe faisaient d’avantage l’objet d’une «  modération excessive  » sur les plateformes de Meta contrairement à des contenus dans d’autres langues, dont l’hébreu. Des publications signalées à tort ont contribué à réduire la visibilité et l’engagement de publications en arabe.

    La responsabilité des réseaux sociaux

    Plusieurs de nos recherches [1] ont déjà révélé comment les algorithmes de plateforme comme Facebook ont contribué à de graves violations des droits humains.

    Ces enquêtes sur la responsabilité de Facebook dans des violations commises en Ethiopie ou au Myanmar ont montré la nuisance du modèle économique de Meta basé sur les algorithmes. Conçus pour générer un maximum d’engagement, les algorithmes entraînent souvent une amplification disproportionnée de contenus comme les appels à la haine incitant à la violence, à l’hostilité et à la discrimination.

    Dans ce contexte, il est impératif que les géants technologiques s’emploient à remédier aux conséquences réelles de leurs activités sur les droits humains afin qu’elles ne contribuent pas et ne permettent pas à la haine, au racisme et à la désinformation de proliférer.

    [1] https://www.amnesty.fr/actualites/facebook-a-contribue-au-nettoyage-ethnique-des-rohingyas et https://www.amnesty.fr/actualites/meta-facebook-a-contribue-a-des-violations-dans-le-conflit-en-ethiopie