e-traces

Le projet e-traces aborde le Web 2.0 dans le contexte de l’instauration progressive d’une société de la surveillance.

  • Quand un être humain se cache derrière votre intelligence artificielle
    https://www.latribune.fr/opinions/tribunes/quand-un-etre-humain-se-cache-derriere-votre-intelligence-artificielle-768

    De nombreuses entreprises annoncent confier les données de leurs clients à une intelligence artificielle, mais les sous-traitent en réalité à des travailleurs, ce qui pose des problèmes d’éthique et de confidentialité. Par Karim Jouini, CEO et fondateur d’Expensya (*). L’Amazon Mechanical Turk est une plateforme de microtravail, lancée en 2005 par Amazon. Le principe est de faire effectuer des tâches simples et morcelées par des humains, comme de la traduction de fragments de textes, pour le compte (...)

    #Amazon #AmazonMechanicalTurk #algorithme #travail

    • Une raison, autre qu’économique, à ce traitement manuel, est que l’intelligence artificielle n’est pas encore tout à fait capable d’imiter l’esprit humain. Lorsqu’il s’agit, par exemple, de scanner des livres anciens, l’IA ne sait pas toujours reconnaître les mots. Il faut donc l’intervention d’un être humain, bien réel, pour éviter les erreurs de transcription. Ainsi, pendant que l’IA se développe, ce qui, à moyen terme, fera baisser son coût et le rendra plus compétitif, il se met en place un système hybride, où on rencontre actuellement davantage de délocalisation d’emplois et de traitement manuel que de recours à des intelligences artificielles.

      [...]

      Un problème de confidentialité des données

      Cette sous-traitance des données par des travailleurs humains pose un problème de confiance, car les entreprises clientes, faute d’en être informées, n’y ont pas donné leur consentement. Une startup pourra ainsi faire traiter les données d’une entreprise française par des travailleurs asiatiques ou africains, avec lesquels elle n’a par ailleurs aucun contact direct. Le recours à des travailleurs humains pose également un problème de confidentialité, car les données qui sont traitées par les travailleurs ne sont pas toujours anonymisées. Ceux-ci ont donc accès à des informations parfois sensibles sur l’activité des entreprises, comme des notes de frais ou des factures.

      #privacy #vie_privée
      #confidentiality #confidentialité