Mark Zuckerberg vous veut du bien, par Evgeny Morozov (Les blogs du Diplo, 27 janvier 2018)

/2018-01-27-Mark-Zuckerberg-vous-veut-du

  • Mark Zuckerberg vous veut du bien
    https://blog.mondediplo.net/2018-01-27-Mark-Zuckerberg-vous-veut-du-bien#forum

    « Matrix » — la centrale électrique à énergie humaine

    Si l’impact pernicieux des nouvelles technologies sur la politique, la démocratie et nos fonctions cognitives fait aujourd’hui scandale, c’est principalement à cause du rapport très ambigu, voire schizophrène, qu’elles entretiennent avec leurs utilisateurs.

    Cette relation est mue à la fois par la compassion et l’indifférence, deux logiques adverses qui jouaient autrefois un rôle nécessaire, permettant aux entreprises technologiques d’invoquer leurs bonnes intentions quand on les accusait de malveillance. La coexistence de ces deux principes contradictoires semble de moins en moins tenable, révélant enfin l’incohérence de leur vision d’ensemble.

    Leur compassion affichée n’est pas tout à fait fausse. Les géants des technologies, aussi puissants soient-ils, dépendent beaucoup de la publicité et des ventes, c’est-à-dire de notre capacité à consommer. Leurs intérêts sont donc, dans une certaine mesure, indexés sur ceux de leurs utilisateurs. Sans ressources, ces derniers ne pourraient pas acheter les produits tant vantés. C’est pourquoi certains magnats de la technologie manifestent leur soutien au revenu de base universel et s’essaient à la résolution des problèmes croissants de protection sociale en matière d’éducation ou de santé.

    #capitalisme_numérique


  • Derrière l’application de Google qui trouve votre sosie artistique, du digital labor (gratuit) pour entraîner son IA de reconnaissance faciale http://www.rtl.fr/actu/futur/l-application-de-google-qui-trouve-votre-sosie-artistique-souleve-des-inquietude

    (Le seul article un peu critique que j’ai trouvé provient donc de rtl.fr)

    La dernière version de l’application Google Arts & Culture est l’une des plus populaires du moment aux États-Unis. La raison ? L’ajout d’une fonctionnalité permettant aux utilisateurs de découvrir quel est leur sosie artistique. Intitulée "Is your portrait in a museum ?" (« Votre portrait se trouve-t-il dans un musée ? »), elle propose de comparer un selfie à des portraits célèbres réalisés par des peintres de renom.

    L’expérience repose sur la technologie de reconnaissance faciale Face Net. Développée par #Google, elle scanne la photo envoyée par l’utilisateur pour créer une empreinte numérique de son #visage et la comparer aux 70.000 œuvres de sa base de données. Une fois les correspondances trouvées, les résultats les plus pertinents sont affichés avec leur pourcentage de ressemblance.

    Cette fonction a largement emballé les internautes américains. Depuis sa mise à jour mi-décembre, #Google_Arts_&_Culture truste les premières places des applications les plus téléchargées aux États-Unis sur l’App Store d’Apple et le Play Store de Google. Disponible uniquement outre-Atlantique, elle fait l’objet d’une expérimentation par Google.

    (…) Devant la popularité de l’application, certaines voix se sont élevées aux États-Unis pour mettre en garde le public contre le véritable objectif poursuivi par Google. "Le stagiaire de Google qui a inventé cette application pour tromper les utilisateurs en les incitant à envoyer des images pour remplir sa base de données de reconnaissance faciale a certainement eu une promotion", a observé sur Twitter l’analyste politique, Yousef Munayyer. "Personne ne s’inquiète d’abandonner les données de son visage à Google ou vous estimez tous que c’est déjà le cas ?", s’est aussi émue l’actrice et activiste américaine, Alyssa Milano.

    Google propose régulièrement des outils ludiques et gratuits aux internautes pour faire la démonstration de ses progrès dans l’intelligence artificielle. Ces programmes permettent aussi à l’entreprise américaine de mettre ses réseaux de neurones artificiels à l’épreuve de neurones humains afin de les perfectionner à peu de frais. Les programmes Quick Draw ! et AutoDraw visaient notamment à améliorer la #reconnaissance_visuelle de ses algorithmes. La société utilise aussi la reconnaissance des caractères des #Captcha pour aider ses robots à déchiffrer les pages de livres mal conservés sur Google Book et les indexer par la suite à son moteur de recherche.

    (…)

    Interrogé par plusieurs médias américains sur la portée réelle de son application « Arts & Culture », Google se veut rassurant. Selon la firme américaine, les photos téléchargées par les utilisateurs ne sont pas utilisées à d’autres fins et sont effacées une fois trouvées les correspondances avec des œuvres d’art. La dernière expérience du géant américain illustre à nouveau les craintes suscitées par les progrès rapides de l’#intelligence_artificielle et plus particulièrement de la #reconnaissance_faciale, dont les applications ont pris une place grandissante dans nos vies ces derniers mois.

    Apple a fait entrer cette technologie dans la vie de millions d’utilisateurs cet automne en intégrant le dispositif #Face_ID à l’iPhone X pour déverrouiller l’appareil d’un simple regard. Dans le sillage de la pomme, un grand nombre de constructeurs travaille à généraliser ce système sur des smartphones à moindre prix. Facebook a recours à la reconnaissance faciale depuis décembre pour traquer les usurpations d’identité sur sa plateforme. Google l’utilise déjà dans son service Photos, utilisé par 500 millions d’utilisateurs, capable depuis peu de reconnaître les animaux de compagnies.

    Les défenseurs des libertés craignent que la généralisation de la reconnaissance faciale dans des outils utilisés à si grande échelle ne glisse vers une utilisation plus large par les publicitaires ou les autorités. En Chine, cette technologie est déjà utilisée pour surveiller les citoyens dans les endroits publics. 170 millions de caméras de surveillance sont installées à travers le pays. Un nombre qui doit atteindre 400 millions à horizon 2020. La plupart sont dotées de programmes d’intelligence artificielle pour analyser les données en temps réel et inciter les individus à ne pas déroger à la norme édictée par le pouvoir.

    #digital_labor #IA

    Et puis cf. le thread d’@antoniocasilli sur son fil Twitter :

    Avez-vous déjà vu, partagé, commenté les « art selfies » de l’appli @googlearts ? Savez-vous qu’ils utilisent votre visage pour constituer un fichier biométrique ? J’en veux pour preuve qu’ils ne sont pas disponibles en Illinois—état où les lois sur la biométrie sont plus strictes.

    https://twitter.com/AntonioCasilli/status/953662993480474624

    • Version optimiste, ft. John Berger :

      In one way, the art selfie app might be seen as a fulfillment of Berger’s effort to demystify the art of the past. As an alternative to museums and other institutions that reinforce old hierarchies, Berger offered the pinboard hanging on the wall of an office or living room, where people stick images that appeal to them: paintings, postcards, newspaper clippings, and other visual detritus. “On each board all the images belong to the same language and all are more or less equal within it, because they have been chosen in a highly personal way to match and express the experience of the room’s inhabitant,” Berger writes. “Logically, these boards should replace museums.” (As the critic Ben Davis has noted, today’s equivalent of the pinboard collage might be Tumblr or Instagram.)

      Yet in Berger’s story this flattening represents the people prying away power from “a cultural hierarchy of relic specialists.” Google Arts & Culture is overseen by a new cadre of specialists: the programmers and technology executives responsible for the coded gaze. Today the Google Cultural Institute, which released the Arts & Culture app, boasts more than forty-five thousand art works scanned in partnership with over sixty museums. What does it mean that our cultural history, like everything else, is increasingly under the watchful eye of a giant corporation whose business model rests on data mining? One dystopian possibility offered by critics in the wake of the Google selfie app was that Google was using all of the millions of unflattering photos to train its algorithms. Google has denied this. But the training goes both ways. As Google scans and processes more of the world’s cultural artifacts, it will be easier than ever to find ourselves in history, so long as we offer ourselves up to the computer’s gaze.

      https://www.newyorker.com/tech/elements/the-google-arts-and-culture-app-and-the-rise-of-the-coded-gaze-doppelgang

      Version réaliste, par Evgeny Morozov :

      Google vient de lancer une plateforme d’IA destinée aux entreprises qui veulent mettre en œuvre une infrastructure d’apprentissage automatique (machine learning) de afin de construire leurs propres modèles (contre rétribution, bien entendu). Il sait pertinemment qu’il est toujours rentable de s’attirer la sympathie des utilisateurs, par exemple en leur donnant des outils d’IA pour trouver des œuvres d’art qui ressemblent à leur visage (1). Ces instruments gagnent ainsi en précision et peuvent ensuite être vendus aux entreprises. Mais pour combien de temps encore Google aura-t-il besoin de cobayes ?

      https://blog.mondediplo.net/2018-01-27-Mark-Zuckerberg-vous-veut-du-bien