#data_workers

En #Afrique, des « #petites_mains » du numérique toujours aussi précaires à l’heure du boom de l’#IA

Il y a quelques années, les « #travailleurs_du_clic » africains sortaient de l’ombre, révélant l’envers du décor des entreprises du numérique. Depuis, l’#IA_générative a explosé, rendant ces travailleurs d’autant plus indispensables et le secteur encore plus attractif. Mais la réalité de ce travail reste marquée par la #précarité.

Ce n’était pas la panacée, mais Joyce (les personnes désignées par un prénom ont souhaité rester anonymes) se souvient presque avec nostalgie de ses débuts sur #Remotasks, en 2018. « Il suffisait de créer un compte pour commencer à gagner de l’argent immédiatement, sans aucune restriction ni processus de vérification. » Depuis son ordinateur, elle enchaîne alors les #microtâches d’#annotation de #données : vérifier des images, organiser des informations destinées à entraîner des systèmes d’intelligence artificielle. De quoi s’assurer un #revenu d’appoint pour la jeune Kényane fraîchement diplômée.

Mais les choses se sont compliquées. En 2024, de nombreux travailleurs kényans, comme Joyce, ont vu leur accès à Remotasks soudainement coupé, explique-t-elle. La maison mère #Scale_AI évoque, elle, des fermetures de comptes pour non-respect de ses règles internes. Surtout, selon la jeune femme, le volume de travail n’a plus rien à voir. « Avant, nous pouvions gagner un revenu décent car le boulot était continu. Aujourd’hui, les tâches sont moins nombreuses, à court terme et peu durables », constate Joyce. Faute de missions, elle se forme à la transcription pour diversifier ses sources de revenus.

Ces deux dernières années, Oluwaseun, au Nigeria, a travaillé pour plusieurs acteurs du secteur, parmi lesquels #Appen et #Mindrift. Elle participe à l’#entraînement des modèles d’IA, du #contrôle_qualité des réponses générées par les #LLM à l’annotation de données texte, image ou audio. Si la jeune femme ne se plaint pas de sa situation, elle concède que « la #rémunération n’est jamais assez élevée pour dépendre d’une seule plateforme. En Afrique, il faut plusieurs jobs », d’autant que « la concurrence s’est clairement intensifiée sur ces plateformes ».

Doit-on y voir le signe d’un remplacement rapide de ces petites mains du numérique par des systèmes automatisés, alors qu’elles opèrent pour le compte d’entreprises comme #Meta, #OpenAI, #Microsoft ou #Google ? Le sociologue Antonio Casilli balaie immédiatement cette idée. Depuis bientôt dix ans, il dirige le groupe de recherche DIPLab (Digital Platform Labor), qui a enquêté sur les travailleurs du clic dans une trentaine de pays. Pour lui, l’idée d’un « remplacement » du travail humain par les machines est un « mensonge idéologique », utilisé pour faire accepter une dégradation des #conditions_de_travail.

D’après les données collectées par son équipe, le volume de microtâches ne diminue pas : au contraire, « plus le marché de l’intelligence artificielle générative grandit, plus on a besoin de réentraîner les #modèles », donc plus il faut de #travail_humain. Le boom de l’IA ne signe donc en rien la fin de ces travailleurs de l’ombre... pas plus qu’il ne signifie une amélioration de leurs conditions de travail.

« Une forme d’#esclavage_moderne joliment emballée »

L’histoire du « #digital_labor africain » s’inscrit dans celle, plus globale, du « digital labor », concept désignant des formes de #travail_numérique largement invisibilisées et caractérisées par une forte précarité.

Dès les années 2000, et surtout au cours des années 2010, des pays comme l’Égypte, le Kenya, le Nigeria ou l’Afrique du Sud deviennent des hubs de #sous-traitance pour les grandes compagnies du numérique. Ce modèle repose sur des tâches fragmentées, rémunérées à la pièce et distribuées via des plateformes de microtravail comme Remotasks, #Amazon_Mechanical_Turk ou #Clickworker, ainsi que par des entreprises sous-traitantes comme #Appen ou #Samasource. Bien que précaire, cette économie facile d’accès – une connexion internet suffit – attire des milliers de jeunes hautement diplômés dans des pays du Sud où le chômage est élevé.

Mais ce modèle, loin d’être inédit, a déjà largement montré ses limites, parfois de façon retentissante. Au Kenya, à partir de 2023, des employés de la société #Sama (anciennement Samasource), prestataire notamment de Meta et d’OpenAI, ont intenté une action collective pour dénoncer des conditions de travail indignes, des #salaires faibles et irréguliers et l’insuffisance de soutien psychologique. Chargés de « nettoyer » #Facebook, certains avaient développé des #troubles_psychologiques après avoir été exposés quotidiennement à des contenus extrêmes. « Nous traitions des vidéos de corps mutilés, de suicides en direct, d’abus sur des enfants, de discours haineux », rapporte Sonia Kgomo, ancienne modératrice chez Sama.

Embauchée en pleine pandémie de Covid-19, la Sud-Africaine avait cru avoir décroché une opportunité en or, « un job à l’étranger pour un grand nom de la tech ». « Mais une fois sur place, j’ai compris que ce n’était pas le rêve américain : c’était une forme d’esclavage moderne joliment emballée », explique celle qui a été licenciée en 2023 comme près de 200 autres, après avoir, selon elle, tenté de s’organiser collectivement avec ses collègues. L’entreprise parle elle de restructuration.

Aujourd’hui, Sama indique avoir mis fin à la #modération_de_contenus pour Meta et s’est recentrée sur les #annotateurs de données, chargés d’entraîner des systèmes d’IA. Edward, qui travaille toujours sur le site de Nairobi, décrit un « travail très caché ». « On étiquette des images de rues, des vidéos, mais aussi des photos médicales avec des plaies ouvertes… Certaines tâches restent éprouvantes, explique-t-il. On nous répète que nous sommes payés au-dessus du marché, mais ce n’est pas un salaire qui permet de vivre : même en travaillant huit heures par jour, il faut avoir un deuxième boulot. »

À la précarité des salaires s’ajoute celle des contrats. « Un ami a eu un contrat de cinq jours. D’autres signent pour un mois, juste le temps d’absorber le pic d’activité du #Black_Friday ou des #fêtes de fin d’année », poursuit Edward. Il décrit aussi une pression constante avec des tâches qui arrivent « en continu », et des objectifs de performances : « Si vous n’atteignez pas les objectifs fixés, vous n’avez pas les #primes et votre salaire est raboté. Il faut travailler comme un fou pour espérer toucher le montant annoncé. » Quant au #soutien_psychologique, il confirme qu’il y a davantage de « coachs bien-être », mais la méfiance semble de mise à l’égard de ces employés, plutôt vus comme « les oreilles de l’entreprise ». Contactée, la société Sama n’a pas répondu à nos questions.

[Actualisation du 09/12/2025 : Sama conteste ce tableau. L’entreprise, qui affirme ne plus réaliser de travail lié à des contenus violents, met en avant un dispositif de soutien aux salariés comprenant une assurance santé incluant la prise en charge de la #santé_mentale, l’accès à des séances de conseil individuel 24 h/24, ainsi que des espaces de bien-être dans ses bureaux (espaces d’allaitement, salles de méditation et de prière).

Sama souligne également que ses annotateurs de données sont employés à temps plein, avec des « #salaires_vitaux » (#living_wages) calculés selon une méthodologie internationale « en fonction des régions ». La société assure que, contrairement à certains concurrents recourant à des travailleurs de plateforme, son modèle repose sur des contrats de travail à temps plein avec un salaire de base garanti et des avantages sociaux. Enfin, selon l’entreprise, « plus de 90% » des employés atteignent leurs objectifs de #performance dans les horaires de travail, et, quoi qu’il en soit, tous bénéficient d’un salaire de base garanti.]

Plus de tâches, plus de #concurrence

Et malgré les scandales, le secteur séduit toujours plus. Si les chiffres précis manquent, certaines recherches ont avancé des estimations allant jusqu’à 160 millions de microtravailleurs numériques dans le monde. Ce qui est certain, selon Antonio Casilli, c’est que les effectifs augmentent à chaque nouvelle estimation. « Il y a plus de tâches, mais pas pour tout le monde et pas tout le temps », résume le chercheur, qui décrit un mécanisme structurel : les entreprises attirent volontairement plus de travailleurs que nécessaire afin de maintenir une forte concurrence pour chaque microtâche, ce qui tire les rémunérations vers le bas. Elles entretiennent ainsi une alternance de périodes creuses et de pics d’activité.

Une enquête d’Africa Uncensored, réalisée dans le cadre d’un projet du Pulitzer Center, évoque des campagnes massives de recrutement trompeuses, avec les mêmes offres publiées des dizaines de fois, sans réelle assurance de travail derrière. Objectif : gonfler artificiellement le vivier de travailleurs pour montrer leur potentiel d’évolution et ainsi remporter des contrats avec les grosses entreprises de la tech. Une tactique connue sous le nom de « #labour_hedging ».

« Au Kenya, il y a des cohortes de jeunes diplômés sans emploi. Les entreprises le savent très bien, observe Edward. Si vous ne voulez pas accepter les conditions, quelqu’un d’autre le fera. »

Avec l’essor effréné de l’IA générative, un nouveau vocabulaire s’est imposé. Les annonces pour des postes d’« #AI_trainer », « #AI_evaluator » ou d’« #AI_tutor » se multiplient. Le signe d’une montée en gamme dans un marché particulièrement dynamique ? Pas vraiment, selon Antonio Casilli : « Même si certains projets sont plus complexes, pour les harmoniser et les faire réaliser à des masses de personnes, il faut les standardiser, les fragmenter. »

Oluwaseun, qui se présente comme « AI trainer », s’est tournée vers Mindrift, qui lui semblait plus attractive au niveau des tarifs. Après un flux de tâches relativement régulier, la manne s’est pourtant soudain tarie. « J’ai été écartée du projet pour lequel j’avais initialement postulé, alors que la qualité de mon travail était bonne, témoigne la Nigériane. J’ai abordé ce sujet lors d’un appel avec eux, mais j’ai finalement été remerciée et, depuis, je n’ai été affectée à aucun nouveau projet. »

Certaines pratiques la heurtent particulièrement : « Parfois, une seule tâche peut prendre sept à huit heures à accomplir, et vous n’êtes rémunéré que si le travail est accepté. Si la moindre petite erreur est détectée, la tâche entière peut être rejetée, ce qui signifie que vous ne recevez aucune #rémunération pour toutes ces heures de travail. » Sollicitée, Mindrift n’a pas répondu à nos questions.

Comme d’autres personnes interrogées, elle souligne que les travailleurs africains sont souvent moins payés que leurs homologues en Europe ou en Amérique du Nord pour des tâches comparables. Des enquêtes récentes sur des #plateformes_d’annotation mettent effectivement en évidence des écarts de rémunération liés au pays de résidence, tandis que d’autres travaux, consacrés cette fois à des « #data_workers » basés aux États-Unis, montrent que la précarité ne s’arrête pas aux frontières du Sud global : une partie des travailleurs de l’IA dans les pays du Nord cumulent eux aussi bas salaires, contrats instables et protections sociales limitées.

Les métiers créatifs pris dans l’orbite de l’IA

Dans des segments plus « créatifs » du numérique, comme le #graphisme ou la #rédaction_de_contenu, la concurrence dopée par l’IA se fait également sentir. Au Togo, Smiley Graphic – c’est son nom professionnel – passe quelques heures par semaine sur la plateforme de microtâches #Upwork où il propose de petits services de graphiste : logos, retouches, déclinaisons graphiques facturées 5 ou 10 euros. Il n’en tire pas plus de 50 euros par mois, mais complète ainsi ses revenus issus d’un emploi stable et de missions freelance plus exigeantes.

Chaque jour, il constate combien l’IA bouleverse le marché : « Les prix ont baissé. Des gens qui n’y connaissent rien se forment avec des vidéos YouTube et cassent les tarifs sur les plateformes. » Des prestations autrefois facturées l’équivalent de 7 000 à 10 000 francs CFA sont désormais proposées à 2 000 ou 3 000 francs CFA, avance-t-il. Une partie des demandes qu’il reçoit consiste d’ailleurs à reprendre des logos générés par l’IA mais pas forcément à la hauteur. « Je refuse, c’est plus propre et plus simple de repartir de zéro. » Pour tenter de se démarquer, il se forme depuis six mois au motion design, qu’il juge « moins concurrencé par l’IA » pour le moment.

Un phénomène qui n’a rien d’étonnant, pour Antonio Casilli : « Comme les grands modèles de langage génératifs se nourrissent de productions créatives, eux aussi ont été aspirés dans l’orbite de l’intelligence artificielle et désormais travaillent pour elle. » Autrement dit, les #designers, #illustrateurs ou #rédacteurs ne sont plus seulement concurrencés par l’IA : leur travail alimente directement les modèles qui, ensuite, renforcent cette concurrence.

Des travailleurs qui commencent à faire entendre leur voix

« Les grandes entreprises technologiques ne peuvent pas construire l’avenir sur une main-d’œuvre jetable, souligne dans un communiqué Christy Hoffman, secrétaire générale d’UNI Global Union, qui a publié fin septembre une étude sur les travailleurs de l’ombre de l’IA. Il est temps de tenir les titans de la Silicon Valley responsables des conditions dans leurs chaînes d’approvisionnement en IA. Les travailleurs de l’approvisionnement en données doivent être libres de s’organiser et de négocier pour rendre ces systèmes plus sûrs et plus équitables pour tout le monde. »

Après son licenciement, Sonia Kgomo a choisi de se consacrer à plein temps à l’organisation des salariés de la tech, au sein d’#African_Tech_Workers_Rising, un projet soutenu par le syndicat kényan Communications Workers Union of Kenya et par la fédération internationale Uni Global Union. « En 2021, quand je suis arrivée, les travailleurs des plateformes ne parlaient pas du tout. Il y avait énormément de peur. On signait des accords de confidentialité qu’on ne comprenait pas vraiment, présentés comme des menaces. Alors on intégrait le fait que c’était normal de se taire comme on travaillait pour un service de renseignement, se souvient-elle. Aujourd’hui, on commence à avoir des travailleurs qui peuvent parler, certains rejoignent des #syndicats, et quelques sous-traitants – pas tous – acceptent la présence syndicale. Donc on est encore loin du compte, mais il y a des avancées. »

Face au défaut d’encadrement juridique, la #Data_Labelers_Association, basée à Nairobi, doit dévoiler prochainement un #code_de_conduite à destination des plateformes d’annotation de données pour améliorer les conditions de travail.

Pour le sociologue Antonio Casilli, le modèle des #sweatshops_numériques, ces ateliers de misère où les ordinateurs ont juste remplacé les machines à coudre, a encore de beaux jours devant lui. « Ces entreprises sont constamment en train de chercher des pays dans lesquels elles peuvent continuer à exploiter les travailleurs et à les payer très peu cher. Quand la situation s’est compliquée pour certaines d’entre elles au Kenya, elles sont parties en Ouganda ou au Ghana, ou encore au Bangladesh. » Une analyse partagée par Sonia Kgomo, qui appelle à « un mouvement de travailleurs du numérique à l’échelle du continent ».

En attendant, ces travailleurs de l’ombre continuent de s’adapter. Malgré ses mésaventures récentes, Oluwaseun suit des cours d’annotation de données dans le but d’obtenir un emploi stable et mieux rémunéré auprès d’un grand acteur du secteur, comme « #xAI, l’entreprise d’Elon Musk », glisse-t-elle.

▻https://www.rfi.fr/fr/afrique/20251206-en-afrique-des-petites-mains-du-num%C3%A9rique-toujours-aussi-pr%C3%A9c
#AI #intelligence_artificielle #travail

Greatest irony of the AI age: Humans being increasingly hired to clean #AI_slop

On one side is AI swallowing millions of jobs, and on the other is humans being hired to clean up the nonsense AI often generates, finds Satyen K. Bordoloi

This was early 2023, a few months after ChatGPT had just made the perfect superintelligence landing in our lives. A producer friend, who wanted a beat sheet of a series written into a synopsis, sent me a document he said he had gotten written.

A reading of its first paragraph was all it took to identify the writer: ChatGPT. The perfect robotic structure, excessive and often misplaced adverbs and adjectives, and the absence of indirect tense gave it away instantly. It was sloppy in its sterile perfection.

Yet, my friend asked me to take it as a base and improve it. Crunched for time, I did. I didn’t know then, but I had unwittingly participated in what would become one of the most in-demand gigs two years later: humans cleaning up AI slop.

This is the defining irony of the AI age. While AI is consuming millions of jobs, it is simultaneously creating a unique category of employment for hundreds of thousands of humans: cleaning up the mess AI makes. Designers, writers and digital artists are increasingly being hired not to create from scratch, but fix the mess AI invariably makes when tasked with complex work. What is doubly ironic is that these are often the same humans who would have been hired to create the original had AI not been brought to undercut them.
WHAT IS AI SLOP

Jack Izzo, in a Yahoo article, defines it better than any LLM can: “AI slop is the evolution of spam, in a way. Like spam, slop is low-quality content, but thanks to artificial intelligence (AI) tools like ChatGPT and Midjourney, it’s even easier to produce. Like spam, slop can grow like a weed if left unchecked, overwhelming social media feeds and leaving users unsure of what’s real and what’s not. Like spam, slop comes in many forms — posts on social media.. books on Amazon, music on Spotify, articles from less-than-reliable news outlets (and, unfortunately, some reliable outlets) and even occasionally in peer-reviewed scientific journals.”

It is the content equivalent of empty calories: visually or textually appealing, but devoid of substance, originality, or reliable meaning.

With video generation becoming as cheap and easy as creating images, the internet is being flooded with AI-generated video slop. A hyper-realistic video of a seagull staring down a French fry on a car dashboard before smashing the window to grab it generated over 140 million views. A CCTV-style video of rabbits jumping on a backyard trampoline has racked up over 200 million views on TikTok and X. So has another video of a bear doing the same. And unsurprisingly, even porn is now overflowing with AI-generated slop.

Now the bunny video had tell-tale glitches: a bunny with two heads, and another vanishing mid-bounce. These alerted the discerning viewers to its sloppy origin. But this raises a question: What if the creator had hired a VFX artist to correct the errors?

HARMS OF THE AI SLOPOCALYPSE

The dangers of AI slop are many. First and foremost, the well of misinformation that the internet has always been is now being industrialised by AI that can generate thousands of plausible-sounding articles, product reviews, or social media posts in the time it takes a person to write just one. This floods everything, burying good information under a mountain of convincing garbage. So far, we have seen the enshittification of online businesses.

However, with AI models remixing and regurgitating existing content, what we have is the enshittification of culture itself, as music playlists are already overflowing with AI-generated music, Amazon with AI-generated books, and TikTok and other social media platforms are slowly filling up with AI-made videos.

And let’s not forget that creating this garbage consumes staggering amounts of water and electricity, contributing to emissions that harm the planet. Then there are people hired to clean up AI nonsense who could have been artists in their own right, but are now relegated to digital janitorial duties, leading to frustration and burnout.

CLEANUP CREW TO THE RESCUE

And the ones saving us from the slopocalypse, irony be crucified, are now good old humans with analogue brains. The promised AI utopia of effortless creation is instead giving rise to an underclass of digital rescuers, whose job profiles are being rewritten as AI code and training changes. These roles for AI clean up specialists are cropping up across industries, especially in freelance and creative sectors where AI’s limitations are most glaring.

First and foremost are the AI content rewriters hired to rewrite AI-generated articles, blogs, and marketing content that lack nuance, emotional resonance and factual accuracy. Then there are the art fixers hired to redraw or retouch AI-generated logos, illustrations, and art. Most AI-generated images have wrapped text, symmetry that doesn’t match reality and can be pixelated. Actual graphic designers and AI artists work to restore clarity and scale. AI code debuggers are hired to patch buggy code written by the likes of GitHub Copilot or ChatGPT. These actual developers and freelance engineers are hired to test, fix and optimise AI-generated code.

AI-generated videos are glitchy and often get physics wrong, and generate random things inside frames. AI video polishers are typically VFX artists whose job is to enhance the visual coherence and thus the realism of the footage.

These roles are not about collaboration, but correction. And the cost-saving AI promised is a mirage that can’t be held without the hidden overhead of human quality control. This entire endeavour reeks of a bizarre inefficiency as machines create slop at scale, and humans are hired to clean it up at a premium.

Go to freelance platforms like Upwork, Fiverr, and Freelancer, and you’ll see a surging demand for human-led creativity, especially in writing, image creation, and design.

MOTHER OF ALL IRONIES

AI was supposed to replace humans. Instead, it is creating a parallel economy of human fixers: people who make synthetic content usable, relatable, real – make it feel more human. There’s another irony – AI is replacing humans in certain jobs, while also creating menial jobs for them. People who, before AI, would have become artists have been relegated to the job of cleaners, janitors, cleaning AI slop. Yes, AI is on one side revealing just how irreplaceable humans are when it comes to nuance, empathy, and storytelling, but at the cost of the humans who can do those.

The problem here, as often isn’t artificial intelligence, but natural human stupidity. AI creating slop and humans hired to clean it isn’t an inevitable tech progress outcome. No! It’s a choice arisen out of a gold rush mentality that prioritises speed, volume and cost-cutting over quality, authenticity, and truth.

The solution, hence, lies not in AI becoming more ‘intelligent’, but in humans becoming smarter and realising that humans should always be in the loop, not brought in at the end to clean up. The solution isn’t in abandoning AI, but in recalibrating our relationship with it. We must realise that AI isn’t a replacement for human creativity and judgment, but that it’s a tool, a powerful one at that, which, when guided by human empathy and art, will create beauty and heart.

The greatest irony of this AI age may be that humans are hired to clean up AI’s mess; the greatest tragedy, however, would be if we became so accustomed to that slop that we forgot what a clean, human-made world looks like. The cleanup crew is a temporary fix. The real work is in ensuring that our technological future is built not on a foundation of AI slop, but on a commitment to genuine human creativity and integrity.

▻https://www.sify.com/ai-analytics/greatest-irony-of-the-ai-age-humans-being-increasingly-hired-to-clean-ai-slop

#AI #IA #intelligence_artificielle #travail #nettoyage #data_workers #travailleurs_de_données #entraînement

–-

ajouté à la métaliste sur les travailleurs de l’IA:
►https://seenthis.net/messages/1137392

#métaliste sur les #data_workers de l’#IA

#AI #IA #intelligence_artificielle #travail #nettoyage #travailleurs_de_données #entraînement

‘I hope this isn’t for weapons’ : How Syrian #data_workers train AI

The development and training of AI systems depend on hundreds of millions of data workers. Many of them are situated or displaced from the Global majority, and are generally kept in the dark on how the data they produce will be used.

I met Fatma in June 2019 in Sofia, Bulgaria. Four years prior, she had been forced to leave her home in Aleppo with her whole family: her mother, father, older brother, and two younger siblings. Fatma was 17 when her parents paid the equivalent of nine thousand euros to men who smuggled the seven family members in the back of a van across landscapes and borders, until reaching Finland via Sofia. The smugglers had promised a house and a car in Finland for the sum paid, but this promise went unfulfilled. Instead, after six months, Fatma’s family was deported to Bulgaria because their “fingerprints were registered in Sofia first.” “We lost everything to have a good life because our lives were in danger,” she lamented. “Were they in danger because of the war?” I asked. “It was personal,” she replied cryptically.

Fast forward to 2019, and Fatma, now 21, was living with her family in a refugee camp in the Bulgarian capital. While assisting her father at the camp’s hairdressing salon, she also worked part-time for the data-labeling company where I was conducting fieldwork. Interestingly, she was recruited by the company at the refugee camp. Following initial training in “digital skills” and English, Fatma was ready to assume her role as a data worker. During our initial conversation, she was at the company’s office, seated alongside Diana, another Syrian asylum seeker who was engaged in labeling images of people based on race, age, and gender. In contrast, Fatma was immersed in a project that involved satellite images and semantic segmentation—a critical task for computer vision that involves the meticulous separation and labeling of every pixel in an image. This form of data work holds particular importance in generating training data for AI, especially for computer vision systems embedded in devices such as cameras, drones, or even weapons. Fatma explained that the task basically consisted of separating “the trees from the bushes and cars from people, roads, and buildings.” Following this segmentation, she would attach corresponding labels to identify each object.
Data Work Requires Skill

Explained in this manner, the work might seem trivial and straightforward. Such tasks fall under what is known as microwork, clickwork, or, as I refer to it, data work. This constitutes the labor involved in generating data to train and validate AI systems. According to the World Bank, there are between 154 million and 435 million data workers globally, with many of them situated in or displaced from the World Majority. They often work for outsourcing platforms or companies, primarily as freelancers, earning a few cents per piece or task without the labor protections, such as paid sick leave, commonly found in more traditional employment relationships. Data workers generate data through various means that range from scraping information from the internet to recording their voices or uploading selfies. Similar to Fatma, they frequently engage in labeling tasks. Additionally, data workers may contribute to algorithm supervision, such as rating the outputs of recommender systems on platforms like Netflix or Spotify and assessing their usefulness, appropriateness, and toxicity. In other instances, data workers might be tasked with plainly impersonating non-existing AI systems and be instructed to “think like a robot” while pretending to be a chatbot, for instance.

Despite its crucial role in the development and maintenance of AI technologies, data work is often belittled as micro or small, involving only a few clicks, and dismissed as low-skill or blue-collar. In fact, the platform Clickworker, a prominent provider of on-demand data work, claims on its website that “the tasks are generally simple and do not require a lot of time or skill to complete.” However, this assertion is inaccurate. During my fieldwork in Bulgaria, for instance, I attempted to segment and label satellite imagery, finding it extremely challenging. The work demands precision when drawing polygons around different objects in the pictures, which is also strenuous on the eyes and hands. Moreover, it requires contextual knowledge, including an understanding of what vegetation and vehicles look like in specific regions. Following the segmentation and labeling process by Fatma and her team, a rigorous quality check is conducted by a woman in the client’s company. Fatma’s manager in Bulgaria mentioned that the quality control person was “remarkably fast with the quality check and feedback” and added, “She’s able to do this quickly because she knows the images and the ground.” While taking note of this, I wondered how well the quality controller knows the ground. Does she come from the area where these images were taken? Is she, like Fatma, a refugee? Has her displacement been leveraged as expertise?

I asked Fatma if the satellite images she was working on could be of Syria. She said she thought the architecture and vehicles looked familiar. Staring at the screen, she whispered, “I hope this isn’t for weapons.” Neither she nor I could be certain.
The Known and the Unknown

Fatma’s fear of the satellite images being used for AI weapons is not unfounded. The proliferation of autonomous drones and swarm technologies has experienced exponential growth in recent years, facilitated by the integration of AI in reconnaissance, target identification, and decision-making processes. Illustrating a poignant example, facial recognition technologies have been utilized to uphold the segregation and surveillance of the Palestinian people, while automated weapons have played a crucial role in the ongoing genocide in Gaza. Companies like the Israeli SmartShooter boast about their lethal capabilities with the slogan “One Shot, One Hit.”

Surveillance drones, predictive analytics, and decision support systems are utilized for strategic planning in “threat anticipation” and real-time monitoring along border regions. For instance, the German Federal Office for Migration and Refugees (BAMF) employs image biometrics for identity identification and voice biometrics for dialect analysis to ascertain asylum seekers’ country of origin and evaluate their eligibility for asylum. This system purportedly recognizes dialects of Arabic, Dari, Persian/Farsi, Pashto, and Kurdish. As revealed by BAMF in response to a query initiated by German MPs, data workers subcontracted through the platform Clickworker (the same platform that claims tasks are simple and low-skill) participated in producing the voice samples required to develop the system.

Fortunately, the data company in Bulgaria has a strong policy in place to reject requests related to warfare technologies. Fatma’s manager explained that “we have rejected projects related to (…) training artificial intelligence for different types of weapon applications. So, I felt that this really did not fit with our social mission, and when I responded to the client, I said that we’re working with conflict-affected people, and that’s why (…) But it was also a kind of boycott of such projects to be developed at all.” She added that the satellite imagery labeled by the team had been commissioned by a central European firm developing autonomous piloting systems for air transportation, not weapons. This information correlates with the client’s website. However, the website also states that their technology is additionally used for unmanned aerial vehicles (UAV), commonly known as drones, with applications including surveillance.
Workers’ Ethical Concerns

Privacy infringements and the potential for discriminatory profiling are among the most obvious concerns related to AI systems applied to border surveillance and warfare. Despite these risks disproportionately affecting their own communities, sometimes with lethal consequences, most data workers are kept in the dark concerning the ultimate purpose of the data they contribute to producing. The outsourcing of data work to external organizations, often situated far away from the requesters’ geographical location, complicates workers’ efforts to navigate the intricate supply chains that support the AI industry. Instructions given to data workers seldom provide details about the requester or the intended use of the data. Consequently, most data workers do not know the name and nature of the companies seeking their services, the products that will be trained on the datasets they generate, or the potential impacts of these technologies on individuals and communities. AI companies frequently rationalize the veil of secrecy as a means of safeguarding their competitive edge.

The fact that data workers are integrated into industrial structures designed to keep them uninformed and subject to surveillance, retaliation, and wage theft does not mean that they do not have ethical concerns about their work and the AI applications it supports. In fact, there have been instances where data workers have explicitly alerted consumers to privacy-related and other ethical issues associated with the data they generate. For example, in 2022, Venezuelan data workers reported anonymously that Roomba robot vacuum cleaners capture pictures of users at home, which are then viewed by human workers.

Amid the COVID-19 pandemic in 2021, I piloted a workshop series with fifteen data workers, this time located in Syria. The three-day event was designed to understand work practices and relationships in geographically distributed data-production contexts, creating a space for workers to discuss concerns. The workshop activities revealed that receiving information and having spaces to voice and discuss the ethical implications of the data they handle were of the utmost importance to the workers. They worried about the protection of data subjects’ privacy and advocated for a mandatory clause that would compel requesters to disclose the intended uses of the data. Additionally, the workers expressed concerns about the mental health implications of working with violent, offensive, or triggering data.

Data workers possess a unique vantage point that can play a crucial role in the early identification of ethical issues related to data and AI. Encouraging consumers and society at large to align with them in advocating for increased transparency in the AI data production pipeline is essential. Workers like Fatma and her colleagues could offer valuable insights into the utilization of satellite images for surveillance technologies, for instance. Similarly, the native speakers who contributed their voices to generate audio snippets for dialect recognition may shed light on the applications of such systems against asylum seekers in Germany.

Unfortunately, the challenge lies in the fact that the AI industry, for evident reasons, has structured its production processes for data workers to function more as silent tools than as whistleblowers.

▻https://untoldmag.org/i-hope-this-isnt-for-weapons-how-syrian-data-workers-train-ai
#travailleurs_de_données #entraînement #IA #AI #intelligence_artificielle #éthique #réfugiés #dublinés #camps_de_réfugiés #segmentation #travail #algorithmes #images_satellitaires #labeling #armes #armement #drones #voix #profiling #contrôles_frontaliers

–-

ajouté à la métaliste sur les travailleurs de l’IA :
►https://seenthis.net/messages/1137392

I proletari dell’intelligenza artificiale

Come fa oggi un sito di commercio online a restituirci tutti i risultati che corrispondono a “maglia verde in seta” che stavamo cercando? Come fa un’auto che si guida da sola a riconoscere un pedone e a non investirlo? Come può Facebook capire che un certo contenuto è violento o pedopornografico e va bloccato? Come si comporta un chatbot per stabilire di quale informazione abbiamo bisogno? In tutti questi casi, la risposta è una: glielo insegna un essere umano.

Un essere umano che guarda, analizza ed etichetta milioni di dati ogni giorno e li fornisce a quella che comunemente chiamiamo intelligenza artificiale (ia). L’intelligenza artificiale, per poter funzionare, ha bisogno di persone che la addestrino. E i suoi istruttori sono i nuovi proletari digitali. Quelli che si occupano delle mansioni più semplici, che si trovano alla base della piramide lavorativa del settore, i cui piani più alti sono occupati da analisti di dati, ingegneri o programmatori specializzati. Per insegnare all’intelligenza artificiale a riconoscere contenuti, e a crearne di nuovi, è necessario etichettare correttamente i dati, descrivere immagini, trascrivere testi, fare piccole traduzioni, identificare segnali stradali o altri elementi all’interno di immagini. I cosiddetti data labeling, gli etichettatori di dati, attraverso lavori spesso ripetitivi e alienanti, permettono l’addestramento dei software. Senza l’intervento umano, l’ia non sarebbe in grado di operare perché non saprebbe come interpretare i dati che le vengono sottoposti.

“Quello che viene venduto come intelligenza artificiale è un tipo di apprendimento automatico, significa che bisogna nutrire la macchina con miliardi di dati, e sulla base di questo la macchina impara”, spiega Antonio Casilli, professore di sociologia al Telecom, l’istituto politecnico di Parigi, in Francia. “Per poter funzionare, che si tratti di creare un piccolo filtro di TikTok o software alla ChatGpt, c’è bisogno di masse enormi di dati, che devono però essere trattati, o meglio preaddestrati”. La “P” di chatGpt, che è l’acronimo di Generative pretrained transformer, significa infatti preaddestrato.

Questo lavoro di preaddestramento è fatto però da persone che non sono quasi mai valorizzate. “Non vengono riconosciuti come i veri autori di questi prodigi tecnologici perché da una parte sono oscurati da professionisti molto più visibili, come i data scientist o gli ingegneri, e dall’altra perché non c’è interesse a far riconoscere l’intelligenza artificiale come una tecnologia labour intensive, cioè che ha bisogno di molto lavoro. L’intelligenza artificiale fa finta di essere una tecnologia che serve ad automatizzare il lavoro, e quindi a risparmiare, mentre invece ne richiede tantissimo”, spiega ancora Casilli.

A sottolineare il concetto è anche Antonio Aloisi, che insegna diritto del lavoro all’università Ie di Madrid, in Spagna. “È sempre più evidente che l’imperfezione, l’incompletezza, l’inaccuratezza dei risultati, ha bisogno di un passaggio umano, che validi i risultati, che corregga gli errori e che faccia una prima verifica. In molte esperienze con i chatbot non c’è nulla di intelligente, ma soprattutto nulla di artificiale. I dati sono goffi, disfunzionali, per questo c’è bisogno di un ‘badante’ umano”.

Quello degli istruttori è un lavoro a suo modo specializzato, ma quella specializzazione non è ben pagata, anzi è pagata malissimo. Non c’è interesse da parte delle aziende che reclutano questi lavoratori a riconoscerne le competenze, perché riconoscerle significherebbe pagarle. Casilli, con il suo gruppo di ricerca Diplab del politecnico di Parigi, uno dei tre al mondo che fa ricerca sul campo su questo tema, ha intervistato più di quattromila persone in venti paesi, soprattutto in quelli a basso reddito come Venezuela, Madagascar o Kenya, e ha raccolto e analizzato le esperienze di lavoro delle persone coinvolte.

“Nella nostra ricerca abbiamo incontrato addirittura persone pagate 0,001 dollaro per ogni azione che compiono durante le loro mansioni. Sono reclutate in paesi talmente a basso reddito che per loro, purtroppo, diventa economicamente interessante svolgere questi compiti pagati male. In Venezuela, dove l’80 per cento della popolazione vive sotto la soglia di povertà e il salario medio è di sei-otto dollari al mese, arrivare a guadagnarne un po’ di più facendo microtask (traduzioni, descrizioni, tagging, sondaggi…) per l’intelligenza artificiale può in effetti rappresentare una prospettiva ed è su questo che fanno leva molte aziende come Google, la OpenAi, la Meta”.

Si tratta di una catena di approvvigionamento molto lunga. Queste aziende subappaltano il lavoro ad altre, che di solito operano all’estero. “La filiera arriva fino in Asia, in Africa o in America Latina, dove ci sono piccole realtà informali, in cui si lavora in nero, spesso a conduzione familiare, e lì diventa difficilissimo, e a volte perfino pericoloso, investigare. Dobbiamo addentrarci in case, in internet point, in luoghi malfamati, per intervistare queste persone”, spiega Casilli.

La ricerca di lavoratori avviene anche attraverso degli annunci online. “Vuoi aiutarci a plasmare il futuro dell’intelligenza artificiale? Abbiamo un lavoro al 100 per cento da remoto per te: non è richiesta alcuna esperienza, ma solo la volontà di imparare e contribuire al campo all’avanguardia dell’intelligenza artificiale. Che tu sia agli inizi o un professionista esperto, la nostra comunità ha un ruolo per te! Avrete l’opportunità di contribuire all’addestramento di applicazioni di ia come ia generativa, modelli linguistici di grandi dimensioni, assistenti virtuali, chatbot, motori di ricerca e molto altro ancora”. Questo è solo uno degli annunci che si trovano sui siti di ricerca lavoro per assumere addestratori di sistemi basati sull’intelligenza artificiale. L’antesignana di queste piattaforme è Amazon turk, nata come una sorta di supporto ad Amazon per mettere ordine tra i tantissimi annunci che comparivano sul sito, al caos delle descrizioni. Una bacheca globale per la ricerca di lavoro, con la possibilità di registrarsi e partecipare a queste microtask.

“Ci siamo imbattuti in situazioni diverse, dall’addestramento dei filtri per la moderazione dei contenuti su Facebook in Kenya allo sviluppo di sindromi post-traumatiche da stress abbastanza forti, a famiglie venezuelane che si organizzano per lavorare senza fermarsi mai”, dice Casilli, raccontando alcune delle testimonianze raccolte sul campo. Certi creano delle piccole fabbriche in casa, dove la mattina lavora il padre, poi è il turno della figlia quando torna da scuola, e la sera la mamma o addirittura la nonna. In Venezuela l’elettricità costa poco, e all’epoca di Chavez era stato lanciato un programma per distribuire computer in tutte le famiglie, quindi oggi un po’ tutti possono lavorare da casa.

Ci sono addirittura casi di false intelligenze artificiali: aziende che vendono videocamere di sorveglianza basata sull’ia a supermercati, e poi si scopre che non c’è alcuna intelligenza artificiale dietro, ma persone in Africa, pagate pochissimo, che fanno sorveglianza in tempo reale. “Abbiamo passato una settimana in una casa in Madagascar trasformata in fabbrica di dati, con lavoratori ovunque in garage, in soffitta. Erano almeno in 120 in una casa sommersa dalla spazzatura e con un bagno solo, pagati pochissimo e impiegati giorno e notte per far finta di essere un sistema di videosorveglianza basato sull’intelligenza artificiale”, racconta Casilli.

La paga bassissima, soprattutto se paragonata ai miliardi che girano nell’indotto delle grandi aziende tecnologiche, non è l’unico dei problemi. Un aspetto sottovalutato è quello dei traumi psicologici a cui sono sottoposti i lavoratori. Si tratta spesso di compiti ripetitivi e alienanti, e in molti casi, come nella moderazione dei contenuti sui social network, si ha a che fare con contenuti tossici, violenti, sessualmente degradanti.

E poi c’è l’instabilità. “Per i data worker uno dei problemi più sentiti, al di là delle paghe basse, è l’ansia di non avere un lavoro costante. Devono essere sempre disponibili. Non hanno alcun controllo sul salario, sul carico e sulle modalità di lavoro. I moderatori sono esposti tutto il giorno a contenuti osceni. Ci possono essere diverse conseguenze psicologiche”, spiega Simone Robutti, cofondatore della sezione berlinese e italiana della Tech workers coalition, un’organizzazione dei lavoratori del settore tecnologico nata per conquistare maggiori diritti e migliori condizioni. Molte di queste persone fanno questo lavoro perché hanno problemi di salute, non possono muoversi da casa. E quindi sono ulteriormente ricattabili, dice Robutti.

Un altro aspetto del problema lo individua Teresa Numerico, professoressa di logica e filosofia della scienza all’università Roma Tre, secondo cui molti lavoratori firmano degli accordi di riservatezza così restrittivi che hanno addirittura paura di chiedere supporto legale o psicologico. “È per questo che si sa pochissimo di questo sottobosco lavorativo”.

Il lavoro invisibile

Spesso, quando si parla delle conseguenze dell’avvento delle intelligenze artificiali nel mondo del lavoro, si vede il pericolo maggiore nella sostituzione degli esseri umani da parte delle macchine. Ma Numerico sposta lo sguardo. “La conseguenza peggiore di questo processo non è tanto che l’intelligenza artificiale ha cominciato a fare il lavoro degli esseri umani, ma che ha incorporato il lavoro umano in modo tale da averlo reso invisibile. Questo produce maggiore potenziale di sfruttamento”.

Stiamo assistendo da qualche anno alla cosiddetta piattaformizzazione del lavoro, cioè l’utilizzo delle piattaforme digitali e delle app per far incontrare domanda e offerta di lavoro. E sulle piattaforme sono impiegate persone che sono solo un’appendice delle macchine. “Questo li rende oggetto di sfruttamento. In un certo senso sono in competizione con le macchine. Si tratta di lavoratori intercambiabili. I rider sono ‘l’aristocrazia’ di questo processo, perché quantomeno si vedono”, dice Numerico.

Nel gennaio 2023 Time ha pubblicato un’inchiesta sugli addestratori della OpenAi che guadagnavano meno di due dollari all’ora. L’azienda a cui la OpenAi aveva esternalizzato questo lavoro era la Sama di San Francisco, negli Stati Uniti, che impiega persone in Kenya, Uganda, India e altri paesi a basso reddito. Anche Google, la Meta e la Microsoft fanno così. Quelli assunti dalla Sama per conto della OpenAi erano pagati tra 1,32 e 2 dollari all’ora, a seconda dell’anzianità e delle prestazioni. Si legge nell’inchiesta: “Un lavoratore della Sama incaricato di leggere e analizzare il testo per la OpenAi ha raccontato di aver sofferto di disturbi ossessivi dopo aver letto la descrizione di un uomo che faceva sesso con un cane davanti a un bambino. ‘È stata una tortura’, ha detto”. Gli etichettatori di dati più giovani ricevevano uno stipendio di 21mila scellini kenioti (170 dollari) al mese.

Come si vede dal racconto di Time, quando si parla di proletariato digitale esiste una divisione tra nord e sud del mondo. “Le grandi aziende che sviluppano e usano queste tecnologie hanno sede nei paesi ricchi. Ma chi completa manualmente queste attività è quasi sempre in Africa, in India. Anche perché le barriere all’ingresso sono poche: basta avere una connessione e una padronanza della lingua inglese”, spiega Aloisi. Numerico è d’accordo: c’è un tema di colonizzazione e razzializzazione.

Come funziona in Italia

“Anche in Italia troviamo annunci di lavoro in questo settore, che vanno dai 7 ai 15 euro l’ora”, spiega Aloisi.

Secondo Casilli, poi, in Italia c’è qualche azienda un po’ più specializzata, per esempio nel trattamento di immagini per le radiografie e sistemi medici. “Ma la realtà è che non significa necessariamente che i lavori siano pagati meglio. L’Italia resta un paese in cui la difesa dei diritti dei lavoratori è sostanzialmente disattesa e ci sono situazioni di estrema precarietà”.

Casilli anticipa i risultati di un’inchiesta del suo gruppo di ricerca, che sarà pubblicata tra qualche mese. I tre paesi europei più interessati dal fenomeno degli addestratori di sistemi di intelligenza artificiale sono la Spagna, il Portogallo e subito dopo l’Italia. Tanti lavoratori coinvolti, come in Italia, sono immigrati, che non hanno accesso al mercato del lavoro regolare e che trovano almeno una fonte di reddito, anche se scadente, in condizioni terribili, con addirittura il rischio enorme di non essere pagati. Sono persone che arrivano in Italia dall’Africa, dall’Asia, dal Sudamerica.

Un’ulteriore faccia della stessa medaglia la evidenzia Numerico: “Per quanto riguarda l’addestramento in lingua italiana, spesso non è impiegato chi vive in Italia, ma chi parla italiano e vive all’estero, come per esempio in Nordafrica o in Albania”.

Tutti questi lavoratori è come se si trovassero nel ventre di una balena e – a differenza di altri, come per esempio i rider – sono più difficili da tutelare, proprio perché invisibili. “Il primo passo è cominciare a far emergere la loro presenza, e poi avviare le lotte sindacali per trattamenti equi”, spiega Numerico, che individua nel lavoro da remoto un ostacolo, ma anche un modo per aggirarlo: la tecnologia potrebbe mettere in comunicazione queste persone dislocate in vari paesi e accomunate dal fatto di subire le stesse condizioni lavorative.

In questo processo di piattaformizzazione il datore di lavoro scarica le proprie responsabilità, spiega Numerico. Non essendo un tipo di impiego subordinato, il datore non solo paga poco, ma non mette a disposizione dei lavoratori né i mezzi di produzione né gli spazi, e non si assume alcun rischio. Tuttavia, si prende il profitto che ne risulta. “Il lavoratore si assume tutti i rischi e deve anche pagarsi i mezzi per poter lavorare. Si crea uno spazio le cui regole sono dettate da chi detiene il controllo su quello spazio. Il datore di lavoro è evanescente”, conclude Numerico.

Robutti della Tech workers coalition spiega che l’obiettivo dell’organizzazione è mostrare che ci si può sindacalizzare e organizzare anche nel settore della tecnologia digitale. Solo dieci anni fa non era realistico, c’erano veramente pochi esempi e nelle aziende del digitale non c’era la presenza di sindacati come in quelle tradizionali. “Ad oggi non c’è ancora un modo forte e consolidato con cui sindacalizzare i data worker. Si tratta spesso di persone che lavorano in subappalti di subappalti. Hanno pochissimo potere e per loro è molto complicato organizzarsi. Adesso che i rider hanno ottenuto molte più tutele rispetto a dieci anni fa, i sociologi del lavoro e gli accademici hanno cominciato a occuparsi dei data worker”.

Un esempio virtuoso di sindacalizzazione lo racconta Casilli, spiegando che in Germania i sindacati sono molto attivi al fianco dei lavoratori del settore digitale già dal 2016. Anche in Kenya, dove per esempio la OpenAi ha fatto addestrare ChatGpt, ci sono grandissimi movimenti sindacali che coinvolgono i lavoratori del settore. Anche in Brasile ci sono pressioni per approvare norme che contengano misure per tutelarli. In Italia la situazione è meno rosea, conclude Casilli. “È difficile far vedere una popolazione invisibile”.

Alessio De Luca, responsabile del Progetto lavoro 4.0 Cgil nazionale, spiega perché è così complicato anche per il sindacato tradizionale intervenire a tutela di questo tipo di professioni. Si tratta di un gruppo molto complesso, variegato ed esteso, e ogni giorno nascono e crescono una serie di nuove figure difficili da inquadrare, che lavorano direttamente con le piattaforme e non sono facilissimi da intercettare e organizzare. “Attraverso Apiqa, la nostra associazione che si occupa di lavoro autonomo, stiamo provando a stilare una serie di proposte normative. Le difficoltà maggiori riguardano l’individuazione della remunerazione e dei minimi salariali di questo ‘mondo di mezzo’. Bisognerebbe avere più strumenti possibili, a partire dai controlli: chi deve intervenire? Il garante? L’ispettorato del lavoro?”, si domanda De Luca. “Al momento stiamo immaginando proposte normative come l’equo compenso e trattamenti welfare e previdenziali. Il problema però è che si ragiona sempre dentro vecchi perimetri”.

A livello europeo, spiega Aloisi, l’attenzione su questi fenomeni è cresciuta. Tra marzo e aprile è stata approvata ladirettiva piattaforme, la direttiva europea per il miglioramento delle condizioni dei lavoratori coinvolti nel settore e che in parte tutela i sottoproletari dei dati. La strada da seguire rimane quella dell’uscita dall’invisibilità, per poter agire e trovare soluzioni concrete al precariato e allo sfruttamento.

▻https://www.internazionale.it/reportage/laura-melissari/2024/08/06/intelligenza-artificiale-lavoratori-sfruttamento
#travail #conditions_de_travail #AI #IA #intelligence_artificielle #prolétariat #nouveau_prolétariat #data_labeling #données #soustraitance #sous-traitance #délocalisation #data_workers #travail_invisible #travailleurs_de_données

Les dames de l’algorithme
▻https://www.radiofrance.fr/franceinter/podcasts/le-code-a-change/le-code-a-change-6-5342040

https://www.radiofrance.fr/s3/cruiser-production/2024/01/eee4e8b4-8d8a-4b40-b7fb-bac45645e6f5/1200x680_sc_gettyimages-646285146-copie.jpg

Absolument passionnant !

L’histoire d’un groupe « d’annotatrices » qui entraînent un programme d’IA sur un programme d’anonymisation automatique des décisions de justice qui doivent maintenant être accessibles à tous.

C’est l’histoire d’une jeune chercheuse qui se lance dans une thèse de sociologie sur l’Intelligence artificielle dans la Justice française. Par un mélange de hasard et de persévérance, elle tombe sur un « terrain » assez inattendu. Quelques bureaux du Palais de Justice, sur l’île de la Cité, à Paris, où on entraîne un algorithme auto-apprenant.

#Intelligence_artificielle #Justice #Annotation