• Lorsque Jessie Battaglia a commencé à rechercher une nouvelle nounou pour son fils âgé d’un an, elle a voulu avoir plus d’informations que celles que l’on obtient par la vérification du casier judiciaire, les avis de parents et l’entretien face-à-face.

      Elle a donc fait appel à Predictim, un service en ligne utilisant une « intelligence artificielle avancée » pour évaluer la personnalité des baby-sitters, et a fait examiner par les scanners de l’agence les milliers de publications Facebook, Twitter et Instagram d’une candidate.

      Le système a présenté une note d’évaluation automatisée pour cette femme de 24 ans, expliquant que le risque qu’elle soit toxicomane était très faible, mais lui donnant toutefois un risque légèrement plus élevé – 2 sur 5 – quant aux possibilités d’intimidation, de harcèlement, de manque de respect et de mauvaise conduite.

      Le système n’expliquait pas comment il était arrivé à cette note, mais Mme Battaglia, qui avait crû que la nounou était digne de confiance, se sentit soudain assaillie de doutes.

      « Les réseaux sociaux révèlent le caractère d’une personne », affirme Mme Battaglia, âgée de 29 ans, qui vit dans la banlieue de Los Angeles. « Alors pourquoi obtient-elle un 2 et pas un 1 ? »

      Predictim offre aux parents le même modèle que des douzaines d’autres entreprises informatiques vendent aux patrons d’entreprises à travers le monde : des systèmes d’intelligence artificielle qui analysent la façon de parler d’une personne, ses expressions faciales et son historique en ligne, avec la promesse de révéler les aspects cachés de sa vie privée.

      Cette technologie est en train de remodeler les méthodes de recrutement, d’embauche et d’évaluation des salariés par les entreprises, en proposant à ces dernières un regard sans pareil sur les candidats à l’embauche grâce à l’arrivée de nouveaux systèmes de surveillance et d’évaluation psychologique intrusive.

      La société de services informatiques Fama indique qu’elle utilise l’intelligence artificielle pour surveiller les « comportements indésirables » des employés sur les réseaux sociaux et en alerter leur hiérarchie. De même, la société de recrutement informatique HireVue, qui travaille avec de grands groupes comme Geico, Hilton et Unilever, propose un système qui analyse automatiquement les intonations de voix des candidats, leurs choix de mots et les mouvements de leur visage lors d’entretiens vidéo afin de prédire quelles seront leurs compétences et leur attitude une fois en poste (les candidats sont encouragés à sourire pour obtenir la meilleure notation possible).
      . . . . . .
      Les balayages numériques de Predictim analysent l’intégralité de l’historique d’une baby-sitter sur les réseaux sociaux, ce qui, pour beaucoup de jeunes nounous, peut couvrir presque toute leur vie. On informe les candidates qu’elles seront extrêmement désavantagées sur ces emplois à forte concurrence si elles refusent cet examen.
      . . . . . .
      Un scan Predictim est facturé à partir de 24,99 $, et requiert le nom de la baby-sitter, son adresse e-mail et son accord pour l’accès à ses comptes sur les réseaux sociaux. Elle peut refuser, mais le parent sera informé de son refus et elle recevra par e-mail une note, lui indiquant que le parent intéressé ne sera pas en mesure de l’embaucher tant qu’elle n’aura pas complété cette demande.
      . . . . . . .
      La notation des risques est divisée en plusieurs catégories incluant les contenus douteux et l’usage de drogue. La jeune entreprise a également vanté la capacité de son système à évaluer les baby-sitters sur d’autres aspects de leur personnalité, tels que la politesse, l’aptitude à travailler avec d’autres et leur « positivité ».

      Les responsables de l’entreprise espèrent prendre la tête du secteur multimillionnaire de la « sous-traitance parentale » et ont commencé à faire de la publicité à travers le parrainage rémunéré de blogs d’éducation des enfants et de blogs de mamans. Le marketing est fortement axé sur la capacité de la société à mettre au jour les secrets cachés et éviter « le cauchemar de tout parent », citant des affaires criminelles comme celle de cette baby-sitter du Kentucky inculpée plus tôt dans l’année, pour avoir gravement blessé une enfant de huit mois.
      . . . . . . . . .
      Ainsi, lorsque les résultats d’une requête sur une baby-sitter ont signalé la possibilité d’une attitude brutale, une maman, décontenancée, a expliqué qu’elle n’était pas en mesure de savoir si le logiciel était tombé sur une citation de vieux film, des paroles de chanson ou une autre expression, ou bien sur des propos réellement intimidants.

      . . . . . . . . .
      Jamie L. William, avocat des libertés civiles pour la Electronic Frontier Fondation, note que la plupart des algorithmes utilisés aujourd’hui pour accéder aux sens des mots et des images publiés en ligne, sont largement connus pour manquer du bon sens et de la mise en contexte qu’apporte une lecture humaine. Même des géants technologiques, comme Facebook, ont eu du mal à construire des algorithmes qui puissent faire la différence entre un commentaire inoffensif et une incitation à la haine.

      « Quant à utiliser ces systèmes sur des gamins ; soyons sérieux, ce sont des gamins ! », nous dit William. « Les gamins ont des blagues d’initiés. Ils font un usage notoire du sarcasme. Ce qui pourrait ressembler à une “mauvaise attitude” pour un algorithme, ne serait pour une personne qu’un point de vue politique ou une critique fondée. »
      . . . . . . . . .
      La baby-sitter de Madame Battaglia, Malissa Nielsen, 24 ans, a récemment donné son accord à deux familles différentes qui lui ont demandé de remettre à Predictim ses accès aux réseaux sociaux. Elle a expliqué qu’elle a toujours été prudente sur les réseaux et s’est dit que partager un peu plus ne pouvait pas faire de mal ; elle va à l’église une fois par semaine, ne jure pas et elle termine sa formation en éducation de la petite enfance, grâce à laquelle elle espère ouvrir une garderie.

      Mais en apprenant que le système lui avait attribué une mauvaise note pour harcèlement et manque de respect, elle a été stupéfaite. Elle avait cru qu’il s’agissait de permettre aux parents d’examiner ses comptes sur les réseaux sociaux, et non pas de consentir à ce qu’un algorithme dissèque sa personnalité. Elle n’avait pas été informée non plus des résultats d’un test qui pourrait mettre à mal sa seule source de revenu.
      . . . . . . . . .
      Les Américains cultivent une méfiance persistante à l’égard des algorithmes dont les décisions pourraient affecter leur vie quotidienne. Dans une étude du Pew Research Center, 57 % des personnes interrogées pensent que l’examen automatisé des CV de candidats à l’embauche est « inacceptable ».

      Néanmoins, les responsables de Predictim confirment qu’ils se préparent à déployer leurs services à l’échelle nationale. Chez #Sittercity, une plateforme de recrutement de baby-sitters en ligne, visitée par des millions de parents, la direction va lancer, en début d’année prochaine, un programme pilote qui intégrera les notations de Predictim aux tests et vérifications d’antécédents actuellement en place.
      . . . . . . . . .
      Le travail d’extraction de données de #Predictim sur les réseaux sociaux et son intérêt pour l’analyse psychologique de masse n’est pas sans rappeler les ambitions de #Cambridge_Analytica , le cabinet en conseil politique qui a travaillé sur la campagne de Trump et entraîné Facebook dans un scandale mondial relatif à la protection de la vie privée. Mais les dirigeants de l’entreprise affirment qu’ils ont mis en place des gardes-fous internes et travaillent sur la protection des données personnelles des baby-sitters. « Si nous laissions fuiter les infos d’une baby-sitter, ce ne serait vraiment pas cool », a relevé Simonoff.

      Les experts craignent que les notations des systèmes d’intelligence artificielle, comme celles de Predictim, annoncent un futur dans lequel l’attribution de tout emploi, pas seulement de garde d’enfants, sera décidée par une machine. De nombreuses entreprises de recrutement à l’embauche construisent déjà ou investissent dans des systèmes qui peuvent analyser les CV de candidats à très grande échelle et obtenir une évaluation automatisée de la manière dont chacun d’eux pourraient travailler une fois en poste. Des systèmes d’intelligence artificielle de même type – comme #Jigsaw, une jeune entreprise d’informatique créée par Google – sont utilisés pour patrouiller sur Internet et débusquer dans les commentaires, le harcèlement, les menaces et la violence en ligne.
      . . . . . . . . .
      Mais il a été démontré régulièrement que les algorithmes de recrutement ne font pas apparaître le genre de préjugés subtils qui pourraient faire dérailler la carrière d’une personne. Ainsi, des sources ont confié à l’agence Reuters qu’Amazon avait arrêté le développement d’un algorithme de recrutement lorsqu’elle s’était aperçue que celui-ci avait injustement pénalisé les femmes – l’historique du recrutement de la société, dans un secteur informatique dominé par les hommes, avait appris au système que les caractéristiques masculines étaient préférables. La société a affirmé que l’outil n’avait jamais servi à évaluer les candidats (le fondateur et dirigeant d’Amazon est propriétaire du Washington Post).

      Certains experts pensent que de tels systèmes ont le pouvoir d’exacerber les préjugés liés à l’âge et aux origines raciales, y compris en signalant les mots ou les images issus de certains groupes plus que ceux issus d’autres groupes. Ils craignent également que Predictim puisse forcer de jeunes nounous à remettre des données personnelles uniquement en vue d’obtenir un boulot.
      . . . . . . . . .

      Source : The Washington Post, Drew Harwell, https://www.washingtonpost.com/gdpr-consent/?destination=%2ftechnology%2f2018%2f11%2f16%2fwanted-perfect-babysit - 23-11-2018
      Traduit par les lecteurs du site www.les-crises.fr. Traduction librement reproductible en intégralité, en citant la source.

      Drew Harwell est reporter national sur la technologie pour le compte du Washington Post, spécialisé en intelligence artificielle. Il a couvert par le passé les questions de commerce national et les entreprises de Trump.

      algorithme #intelligence_artificielle #prédiction #surveillance #facebook #santé #bigdata #google #big_data #prédictif #profiling #innovation #baby-sitters


  • Le monde selon #Xi_Jinping

    Depuis 2012, le désormais « président à vie » Xi Jinping a concentré tous les pouvoirs sur sa personne, avec l’obsession de faire de la #Chine la superpuissance du XXIe siècle. Plongée au coeur de son « rêve chinois ».

    Derrière son apparente bonhomie se cache un chef redoutable, prêt à tout pour faire de la Chine la première puissance mondiale, d’ici au centenaire de la République populaire, en 2049. En mars dernier, à l’issue de vastes purges, Xi Jinping modifie la Constitution et s’intronise « président à vie ». Une concentration des pouvoirs sans précédent depuis la fin de l’ère maoïste. Né en 1953, ce fils d’un proche de Mao Zedong révoqué pour « complot antiparti » choisit à l’adolescence, en pleine tourmente de la Révolution culturelle, un exil volontaire à la campagne, comme pour racheter la déchéance paternelle. Revendiquant une fidélité aveugle au Parti, il gravira en apparatchik « plus rouge que rouge » tous les degrés du pouvoir.
    Depuis son accession au secrétariat général du Parti en 2012, puis à la présidence l’année suivante, les autocritiques d’opposants ont réapparu, par le biais de confessions télévisées. Et on met à l’essai un système de surveillance généralisée censé faire le tri entre les bons et les mauvais citoyens. Inflexible sur le plan intérieur, Xi Jinping s’est donné comme objectif de supplanter l’Occident à la tête d’un nouvel ordre mondial. Son projet des « routes de la soie » a ainsi considérablement étendu le réseau des infrastructures chinoises à l’échelle planétaire. Cet expansionnisme stratégique, jusque-là développé en silence, inquiète de plus en plus l’Europe et les États-Unis.

    Impériale revanche
    Dans ce portrait très documenté du leader chinois, Sophie Lepault et Romain Franklin donnent un aperçu inédit de sa politique et montrent que l’itinéraire de Xi Jinping a façonné ses choix. De Pékin à Djibouti – l’ancienne colonie française est depuis 2017 la première base militaire chinoise à l’étranger – en passant par la mer de Chine méridionale et l’Australie, les réalisateurs passent au crible les projets et les stratégies d’influence du nouvel homme fort de la planète. Nourrie d’images d’archives et de témoignages (de nombreux experts et de dissidents, mais aussi d’un haut gradé proche du pouvoir), leur enquête montre comment Xi Jinping a donné à la reconquête nationaliste de la grandeur impériale chinoise, projet nourri dès l’origine par la République populaire, une spectaculaire ampleur.

    https://www.arte.tv/fr/videos/078193-000-A/le-monde-selon-xi-jinping
    #biographie #démocratie #trauma #traumatisme #Mao #révolution_culturelle #Terres_Jaunes #exil #Prince_Rouge #nationalisme #rêve_chinois #renaissance_nationale #histoire_nationale #totalitarisme #stabilité #idéologie #anti-corruption #lutte_contre_la_corruption #purge #dictature #investissements_à_l'étranger #prêts #dette #KUKA #ports #droits_humains #Australie #infiltration_chinoise #Nouvelle-Zélande #David_Cameron #Jean-Pierre_Raffarin #matières_premières #capitalisme_autoritaire #Ouïghours #arrestations #répression #censure #liberté_d'expression #défilés_militaires #armée #puissance_militaire #Mer_de_Chine_méridionale #îles_de_Spratleys #liberté_de_la_presse #prisonniers_politiques #Hong_Kong

    #Djibouti #base_militaire (de Djibouti)

    #Sri_Lanka —> Au Sri Lanka, le #port de #Hambantota est sous contrôle chinois, ceci pour au moins 99 ans (accord signé avec le Sri Lanka qui n’a pas pu rembourser le prêt que la Chine lui a accorder pour construire le port...)
    #dépendance
    v. aussi :
    Comment la Chine a fait main basse sur le Sri Lanka
    https://www.courrierinternational.com/article/comment-la-chine-fait-main-basse-sur-le-sri-lanka

    Histoire semblable pour le #Port_du_Pirée à #Athènes, en #Grèce ou l’#aéroport de #Toulouse, en #France.

    #Organisation_de_coopération_de_Shangaï :


    https://fr.wikipedia.org/wiki/Organisation_de_coop%C3%A9ration_de_Shanghai
    #Grande_unité_mondiale #enrichissement_pour_tous

    Quelques cartes et images tirées du #film #documentaire.

    La #nouvelle_route_de_la_soie et autres investissements chinois dans les infrastructures mondiales de #transport :

    La #Chinafrique :


    #Afrique
    Afrique où la Chine propose la « #solution_chinoise », programme de #développement basé sur le #développement_économique —> « #modèle_chinois de développement »

    Le programme de #surveillance_de_masse :

    Outre la surveillance, mise en place d’un programme appelé « #crédit_social » :

    Le #Système_de_crédit_social est un projet du gouvernement chinois visant à mettre en place d’ici 2020 un système national de #réputation_des_citoyens. Chacun d’entre eux se voit attribuer une note, échelonnée entre 350 et 950 points, dite « crédit social », fondée sur les données dont dispose le gouvernement à propos de leur statut économique et social. Le système repose sur un outil de surveillance de masse et utilise les technologies d’analyse du #big_data. Il est également utilisé pour noter les entreprises opérant sur le marché chinois.

    https://fr.wikipedia.org/wiki/Syst%C3%A8me_de_cr%C3%A9dit_social

    Voici ce que cela donne :


    #surveillance #contrôle_de_la_population #vidéosurveillance #reconnaissance_faciale #contrôle_social
    #cartographie #visualisation
    ping @etraces

    ping @reka


  • China blacklists millions of people from booking flights as ’social credit’ system introduced

    Officials say aim is to make it ‘difficult to move’ for those deemed ‘untrustworthy’.

    Millions of Chinese nationals have been blocked from booking flights or trains as Beijing seeks to implement its controversial “#social_credit” system, which allows the government to closely monitor and judge each of its 1.3 billion citizens based on their behaviour and activity.

    The system, to be rolled out by 2020, aims to make it “difficult to move” for those deemed “untrustworthy”, according to a detailed plan published by the government this week.

    It will be used to reward or punish people and organisations for “trustworthiness” across a range of measures.

    A key part of the plan not only involves blacklisting people with low social credibility scores, but also “publicly disclosing the records of enterprises and individuals’ untrustworthiness on a regular basis”.

    The plan stated: “We will improve the credit blacklist system, publicly disclose the records of enterprises and individuals’ untrustworthiness on a regular basis, and form a pattern of distrust and punishment.”

    For those deemed untrustworthy, “everywhere is limited, and it is difficult to move, so that those who violate the law and lose the trust will pay a heavy price”.

    The credit system is already being rolled out in some areas and in recent months the Chinese state has blocked millions of people from booking flights and high-speed trains.

    According to the state-run news outlet Global Times, as of May this year, the government had blocked 11.14 million people from flights and 4.25 million from taking high-speed train trips.

    The state has also begun to clamp down on luxury options: 3 million people are barred from getting business class train tickets, according to Channel News Asia.

    The aim, according to Hou Yunchun, former deputy director of the development research centre of the State Council, is to make “discredited people become bankrupt”, he said earlier this year.

    The eastern state of Hangzou, southwest of Shanghai, is one area where a social credit system is already in place.

    People are awarded credit points for activities such as undertaking volunteer work and giving blood donations while those who violate traffic laws and charge “under-the-table” fees are punished.

    Other infractions reportedly include smoking in non-smoking zones, buying too many video games and posting fake news online.

    Punishments are not clearly detailed in the government plan, but beyond making travel difficult, are also believed to include slowing internet speeds, reducing access to good schools for individuals or their children, banning people from certain jobs, preventing booking at certain hotels and losing the right to own pets.

    When plans for the social credit scheme were first announced in 2014, the government said the aim was to “broadly shape a thick atmosphere in the entire society that keeping trust is glorious and breaking trust is disgraceful”.

    As well as the introduction in Beijing, the government plans a rapid national rollout. “We will implement a unified system of credit rating codes nationwide,” the country’s latest five-year plan stated.

    The move comes as Beijing also faces international scrutiny over its treatment of a Muslim minority group, who have been told to turn themselves in to authorities if they observe practices such as abstention from alcohol.

    #Hami city government in the far-western #Xinjiang region said people “poisoned by extremism, terrorism and separatism” would be treated leniently if they surrendered within the next 30 days.

    As many as a million Muslim Uighurs are believed to have been rounded up and placed in “re-education” centres, in what China claims is a clampdown on religious extremism.

    https://www.independent.co.uk/news/world/asia/china-social-credit-system-flight-booking-blacklisted-beijing-points-
    #Chine #surveillance #contrôle #liberté_de_mouvement #liberté_de_circulation #mobilité #crédit_social #comportement #liste_noire #volontariat #points #don_de_sang #alcool #extrémisme #terrorisme #séparatisme #Ouïghours

    via @isskein