• Le scandale Facebook pose avant tout une question politique - Libération
    http://www.liberation.fr/debats/2018/03/23/le-scandale-facebook-pose-avant-tout-une-question-politique_1638346

    L’affaire qui touche en ce moment le réseau social aux 2 milliards d’utilisateurs n’est que le symptôme du naufrage de l’action publique.

    Le scandale Facebook pose avant tout une question politique

    D’abord il y a l’évidence. A l’évidence, quiconque peut disposer d’une partie substantielle et suffisamment ciblée des données collectées et agrégées par Facebook dispose d’un outil d’influence absolument redoutable et tout à fait inédit à l’échelle de l’histoire de l’humanité et de la manipulation de l’opinion. Quantitativement et qualitativement, jamais aucun média n’avait été en capacité de disposer d’autant de données privées et intimes sur autant de personnes en temps réel et à flux constant (plus de 2 milliards d’utilisateurs).« Une version postmoderne de la Stasi », pour reprendre la formule de Julian Assange. Mais en pire.

    Ceci étant posé en préalable, toute agence de « relations publiques » (RP) comme elles se nomment par euphémisme et antiphrase, puisqu’il s’agit surtout d’entretenir des connivences privées, Cambridge Analytica compris, aura une tendance naturelle à surestimer auprès de ses clients et des médias le pouvoir réel dont elle prétend pouvoir disposer pour façonner l’opinion. Au regard de ce que sont ses clients et ses intérêts, cette affaire est cyniquement une extraordinaire publicité pour Cambridge Analytica.
    Facebook et Cambridge Analytica n’ont pas « fait l’élection »

    Mais attention à ne pas rater l’essentiel des enjeux de cette affaire. Certes, la collecte de données est massive. Certes, le mode opératoire de la collecte est suspect (au travers d’applications tierces notamment). Certes, les soupçons de collusion entre Facebook et Cambridge Analytica méritent d’être explorés par la justice. Certes, le laissez-faire de Facebook confine à l’incurie chronique dans cette affaire. Mais n’allons pas pour autant imaginer que l’élection de Trump s’est jouée uniquement sur de l’analyse de données et du profilage marketing, même parfaitement ciblé, même à cette échelle.

    D’autant que rien n’est vraiment nouveau. Un porte-parole de la campagne d’Obama indique que lui aussi a « naturellement » travaillé avec Facebook pour avoir accès aux données personnelles d’utilisateurs d’obédience plutôt démocrate. C’est un fait : tous les candidats de toutes les élections de tous les pays travaillent et travailleront toujours avec toutes les entreprises et médias susceptibles de leur apporter des infos en termes d’analyse de l’opinion et accessoirement leur promettant d’être en capacité d’exercer des actions d’influence.

    Mais pour le reste, choisir pour qui nous allons voter est, heureusement, un processus décisionnel largement multi-factoriel qu’aucune martingale algorithmique ne peut prétendre modéliser de manière fiable, fut-elle gavée d’une immensité de données qualifiées. Et à ce titre, l’élection de Trump en est d’ailleurs la preuve éclatante. Facebook et Cambridge Analytica ont certainement une part de responsabilité dans cette élection mais ils n’ont à eux seuls pas « fait l’élection ». Loin s’en faut.

    A lire aussi :Scandale Facebook : les petits remèdes du Dr Zuckerberg
    Facebook et son projet politique

    Au-delà des agences de com ou de RP, la première question qu’il me semble essentiel de retenir de toute cette affaire, c’est celle de savoir comment garantir que « l’executive board » de Facebook lui-même ne cède pas à la tentation d’exploiter l’immensité des données dont il dispose pour mener une campagne d’influence sur des sujets politiques ou sociétaux. D’autant que l’on sait qu’une place était réservée pour Zuckerberg dans l’équipe Clinton si celle-ci avait remporté l’élection. Et sans pour autant avoir besoin de fantasmer sur les intentions présidentielles de Mark Zuckerberg, il est au moins acquis et avéré qu’à l’échelle qu’atteint aujourd’hui Facebook, il ne peut pas, il ne peut plus faire l’économie d’un projet politique.

    L’autre question liée est celle de l’intentionnalité de la collecte et de l’usage qui est fait de ces immenses volumes de données. L’un des ingénieurs en intelligence artificielle chez Google, François Chollet, a peut-être très opportunément, mais de mon point de vue très justement, indiqué quel était l’enjeu principal de cette intentionnalité en déclarant sur son compte Twitter (je souligne) :

    « Le problème avec Facebook n’est pas « uniquement » la question de la privacy et le fait qu’il puisse être utilisé comme un panoptique totalitaire. L’aspect le plus inquiétant à mon avis est son utilisation de notre consommation d’information comme un outil de contrôle psychologique ("The more worrying issue, in my opinion, is its use of digital information consumption as a psychological control vector"). […] En bref, Facebook est en capacité de simultanément prendre la mesure de tout ce qui nous touche et nous concerne, et de contrôler l’information que nous consommons. Quand vous avez à la fois accès à ces dimensions de perception et d’action, vous faites face à une situation classique en Intelligence Artificielle. Vous pouvez établir une boucle logique optimisée pour le comportement humain. […] Une boucle dans laquelle vous observez l’état actuel de vos cibles et déterminez l’information avec laquelle il est nécessaire de les alimenter, jusqu’à ce que vous observiez les opinions et les comportements que vous voulez obtenir. Une bonne partie du champ de recherche en Intelligence Artificielle (particulièrement celle dans laquelle Facebook investit massivement) concerne le développement d’algorithmes capables de résoudre de tels problèmes d’optimisation, de la manière la plus efficace possible, pour pouvoir clore la boucle et disposer d’un niveau de contrôle total sur le phénomène. »
    Quel impact sur les comportements ?

    Et la dernière question est celle de savoir si cette énième affaire, s’ajoutant à la liste déjà longue des casseroles qui collent à l’image de la plateforme sociale, aura ou non une incidence sur le comportement des usagers, sur nos comportements. Un article du New York Times indiquait que Zuckerberg aurait été averti de l’essentiel des révélations qui allaient être faites quinze jours avant leur sortie, et qu’il aurait sous-estimé le tollé que cela allait susciter. Il est plutôt probable que Zuckerberg ait vu dans cette affaire l’occasion d’un crash test bienvenu : voir jusqu’où les utilisateurs sont prêts à tolérer que la plateforme continue de faire et de laisser-faire absolument n’importe quoi avec leurs données, voir jusqu’où l’idée que Facebook soit reconnu comme un formidable média de manipulation de masse n’empêche en rien d’en avoir un usage trivial nous servant simultanément d’exutoire, de service de mise en relation et un peu aussi de source d’information.

    Croire que cette affaire sera un éclair de lucidité dans l’opinion et permettra une prise de conscience accrue des enjeux posés par une plateforme privée rassemblant deux milliards d’utilisateurs sur un modèle économique de régie publicitaire est une chose. Imaginer que cela impactera les comportements de ces mêmes utilisateurs en est une autre. Ceux qui le pensent font la même erreur que ceux qui pensaient que Trump n’avait objectivement absolument aucune chance de l’emporter tant l’énormité de ses prises de parole ou ses positions était une caricature de caricature.
    Ne pas se tromper de cible

    Par l’architecture de panoptique sur laquelle il repose, Facebook ne peut de toute façon pas être autre chose qu’un instrument de surveillance. L’utiliser comme tel n’est ni « bon » ni « mauvais » mais juste « logique et cohérent ». Et ses 2 milliards d’utilisateurs n’ont pas besoin d’une quelconque perversité pour se mettre à se surveiller les uns les autres dès lors qu’ils sont installés dans cette architecture panoptique. Fenêtre sur cour. La fonction crée l’organe et l’architecture crée la perversité des régimes de sur- ou de sous-veillance. N’espérons donc pas davantage un changement de mentalité, de moralité ou un exode des utilisateurs à la faveur des révélations de ce nouveau scandale ; « révélations » qui ne sont en fait que la répétition et l’incarnation de la fonction panoptique de la plateforme. Et n’espérons pas davantage que les excuses de Zuckerberg changeront quoi que ce soit. Sans changement d’architecture et sans changement de modèle économique, rien ne pourra changer dans les logiques d’usage que la plateforme autorise.

    Entre responsabilité effective et influence relative dans l’élection américaine, et qu’il s’agisse de Facebook ou de Cambridge Analytica, il ne faut pas que nous nous trompions de cible en combattant les symptômes plutôt que le mal. La solution pour empêcher l’accession au pouvoir de personnalités névrotiques ou simplement avides de leur propre suffisance ne se trouve pas dans la régulation de Facebook ou dans l’abolition de son modèle publicitaire mais dans le seul champ de l’action publique. Dans le champ du politique dont Facebook n’est que le reflet le plus souvent hors-cadre.

    C’est sur l’incurie de l’action politique et sur la perte de sens de la parole politique que se fabrique et s’entretient le modèle d’affaire des agences de RP comme Cambridge Analytica. « Building a community », comme ne cesse de le répéter Zuckerberg, n’est rien d’autre qu’un slogan marketing totalement creux. La seule chose que Facebook ait jamais permis de construire c’est une architecture de la surveillance dans laquelle Mark Zuckerberg a constitué une audience dont viennent se repaître annonceurs et agences de RP. Et la seule communauté qui vaille est celle des intérêts financiers de la firme.

    Facebook n’est que le reflet du naufrage de la publicitarisation de l’action publique et de la parole politique. De la société du spectacle de Debord, décidément visionnaire à plus d’un titre. Mais plus qu’un reflet Facebook est aussi un miroir. Le miroir qui nous est tendu de l’Hiroshima démocratique qui nous attend collectivement si nous n’arrivons pas à redresser la barre. Car quand Facebook ou Zuckerberg se mettront vraiment à faire de la politique, alors il sera en effet trop tard.

    Olivier Ertszcheid est l’auteur de l’Appétit des géants (2017, C&F éditions)
    Olivier Ertzscheid Enseignant-chercheur en sciences de l’information et de la communication à l’université de Nantes

    #Olivier_Ertzscheid #Facebook #Politique_algorithmes

  • (20+) Scandale Facebook : les petits remèdes du Dr Zuckerberg - Libération
    http://www.liberation.fr/planete/2018/03/22/scandale-facebook-les-petits-remedes-du-dr-zuckerberg_1638235

    L’un des investisseurs historiques de Facebook, l’homme d’affaires Roger McNamee, a quant à lui déclaré sur la radio NPR : « J’ai bien peur qu’il y ait un problème systémique avec les algorithmes et que le modèle économique de Facebook permette à de mauvais acteurs de nuire à des utilisateurs innocents. »
    « Intégrité »

    De fait, depuis l’époque où il balayait les critiques sur la propagation des « fake news », le patron de Facebook a changé de langage. « La question n’est pas "faut-il ou non de la régulation", la question, c’est comment on procède », déclare-t-il à Wired. « Comment on procède », c’est bien toute la question. Car Zuckerberg met sur la table l’idée d’une détection « proactive », appuyée sur les progrès de l’intelligence artificielle, des contenus « choquants » ou illégaux. Soit la perspective d’une surveillance algorithmique généralisée, qui alarme les défenseurs des libertés publiques.

    Interrogé sur CNN, Zuckerberg a souvent semblé dépassé par sa propre créature : « Nous avons un gros travail à faire pour qu’il soit plus difficile pour des Etats, comme la Russie, d’interférer dans les élections. Nous avons la responsabilité de le faire, pas seulement pour les élections de mi-mandat aux Etats-Unis en 2018 […]. Il y a aussi une élection importante cette année en Inde, une autre au Brésil… » Et le patron du réseau social de s’engager à tout faire pour que « l’intégrité de ces élections soit assurée sur Facebook ». « On ne parle plus de sociétés commerciales, mais d’entités qui font à la fois du commerce et de la politique », expliquait en septembre à Libé, à propos des plateformes du Net, l’enseignant-chercheur Olivier Ertzscheid, blogueur sur Affordance.info. Nous y voilà, plus que jamais.
    Amaelle Guiton

    #Surveillance #Facebook #Cambridge_analytica

  • Tristan Nitot : Facebook a « laissé faire » Cambridge Analytica - Le Point
    http://www.lepoint.fr/high-tech-internet/tristan-nitot-facebook-a-laisse-faire-cambridge-analytica-22-03-2018-2204601

    Tristan Nitot, un activiste de la première heure pour les libertés sur Internet, est un ancien de Netscape puis de Mozilla (éditeur du navigateur libre Firefox). Il a rejoint la start-up Cozy Cloud, qui veut proposer des services en ligne respectueux de la vie privée. Il a publié en 2016 l’excellent livre Surveillance :// , qui dénonce notamment l’action des Gafam, et donne des clés pour être (un peu) moins surveillé.

    Le Point : qu’est-ce qui rend l’affaire Cambridge Analytica importante ?

    Tristan Nitot : Elle révèle le vrai business model de Facebook et des géants de l’Internet : capturer un maximum de données personnelles et les monétiser à tout prix, sans aucune considération éthique. Souvenons-nous que récemment, on a découvert qu’ils permettaient de cibler de la publicité de façon raciste. La publicité sur la base de la donnée personnelle collectée est le cœur du réacteur de Facebook, et on voit que la machine est cassée.

    De plus, cela vient s’ajouter à la longue liste des bévues de Facebook : violation de la neutralité du Net avec Internet.org ; publicités en libre service, qui ont permis de cibler, par exemple, les internautes tapant les mots « brûleurs de juifs » et de promouvoir la haine ; technologie Beacon qui révèle vos achats à vos proches (violation de la vie privée) ; promotion des fake news via un algorithme qui favorise les contenus les « plus engageants » [qui génère le plus de clics et de partages, NDLR] ; modèle publicitaire encourageant les publicités outrageuses (car de telles publicités poussent à cliquer et sont vendues moins cher) ; spam par les jeux qui tentent de devenir viraux ; révélation par défaut de données personnelles lors du changement d’interface de Facebook ; manipulation des émotions de 600 000 personnes non prévenues dans le cadre d’une expérience psychologique ; publicité raciste car excluant certaines audiences sur la base de la race, etc.

    Il faudrait quand même bien que les gens comprennent qu’ils ne sont pas les clients des géants de l’Internet, mais leur matière première

    Qui est coupable ? Facebook est-il vraiment victime ?

    Il y a plusieurs fautifs. Évidemment, Cambridge Analytica est le premier. Ils veulent manipuler une élection, vendent leurs services à cet effet, et c’est scandaleux, quel que soit le camp qui en profite.

    Mais Facebook aussi a sa part de responsabilité, pour avoir laissé faire, pour avoir été négligeant quand ils se sont rendu compte du problème. En 2015, ils ont demandé à Cambridge Analytica de supprimer les données, ce qui n’a pas été fait (elles ont été utilisées en 2016). En fait, Facebook considère tout cela comme un problème négligeable. Ils ont eu tort de n’avoir pas prévenu les utilisateurs concernés.

    #surveillance #Cambridge_analytica #Facebook

  • #Facebook s’embourbe dans le scandale #Cambridge_Analytica
    https://www.mediapart.fr/journal/international/210318/facebook-s-embourbe-dans-le-scandale-cambridge-analytica

    Le week-end dernier, The Observer et le New York Times ont publié les preuves du détournement, en 2014, de 50 millions de profils d’utilisateurs par Cambridge Analytica, une sulfureuse société de marketing politique ayant travaillé sur la campagne de Donald Trump et celle du Brexit. Pour Mediapart, Paul-Olivier Dehaye, mathématicien qui suit cette affaire depuis plusieurs années, explique les tenants et aboutissants de ce scandale sans précédent.

    #International

  • L’affaire Cambridge Analytica plonge Facebook dans une crise historique
    http://www.lemonde.fr/pixels/article/2018/03/20/l-affaire-cambridge-analytica-plonge-facebook-dans-une-crise-historique_5273

    Aux Etats-Unis, les responsables politiques des deux bords réclament que le PDG du réseau social s’explique devant le Congrès, après les révélations sur l’utilisation des données personnelles. Facebook est en train d’affronter l’une des pires crises de son histoire. De virulentes critiques fusent des deux côtés de l’Atlantique à l’encontre du réseau social, trois jours après les révélations du Guardian et du New York Times au sujet de Cambridge Analytica, une entreprise ayant joué les premiers rôles dans la (...)

    #CambridgeAnalytica #Facebook #algorithme #élections #manipulation #électeurs #BigData (...)

    ##data-mining

    • https://www.mediapart.fr/journal/international/190318/cambridge-analytica-le-big-brother-electoral-de-donald-trump

      L’entreprise d’analyse de données Cambridge Analytica, qui a notamment travaillé pour la campagne présidentielle de Donald Trump en 2016, est soupçonnée d’avoir recueilli sans leur consentement les informations personnelles de 50 millions d’usagers du réseau social Facebook. Le but de l’opération ? Élaborer un logiciel prédictif permettant d’influencer le vote des électeurs, comme l’ont révélé le New York Times et The Observer, l’édition dominicale du quotidien britannique The Guardian, dans une enquête commune.

      Facebook a annoncé avoir « suspendu » les accès de Cambridge Analytica de la maison mère de la société, Strategic Communication Laboratories (SCL), ainsi que ceux d’Aleksandr Kogan, psychologue à l’université de Cambridge.
      En accord avec le réseau social américain, ce dernier a convaincu, en 2014, près de 270 000 personnes de participer à un test de personnalité, lui donnant ainsi accès à leurs réponses mais aussi à leurs données Facebook (nom, géolocalisation, likes) et à celles de leurs amis, dans une mise à profit des réglages très permissifs du réseau. À partir de ces 270 000 participants, Kogan a ainsi obtenu les informations de 50 millions d’utilisateurs.

      Paul Grewal, vice-président et directeur juridique adjoint de Facebook, a annoncé vendredi dans un communiqué que le réseau social avait été trompé : « En 2015, nous avions appris qu’Aleksandr Kogan nous avait menti et avait violé la politique de la plateforme en transmettant les données récupérées sur une application utilisant une interface de connexion de Facebook à SCL/Cambridge Analytica. »

      Filiale américaine de la société britannique de marketing ciblé SCL, Cambridge Analytica aurait ensuite utilisé ces bases de données à des fins électorales. L’entreprise est connue pour sa participation à la campagne de Donald Trump mais aussi pour avoir fourni, pendant la campagne du groupe pro-Brexit Leave.EU, des solutions de collectes de données et de ciblage d’audience.

      L’entreprise a été financée à hauteur de 15 millions de dollars par Robert Mercer, un homme d’affaires américain qui a fait fortune dans les hedge funds et qui est l’un des principaux donateurs du Parti républicain.

      Selon The Observer, elle a aussi été dirigée par Steve Bannon, l’un des plus proches conseillers de Donald Trump avant d’être évincé de la Maison Blanche à l’été 2017.

  • #Cambridge_Analytica, le Big Brother électoral de #Donald_Trump
    https://www.mediapart.fr/journal/international/190318/cambridge-analytica-le-big-brother-electoral-de-donald-trump

    Fondée par des proches de Donald Trump, la société Cambridge Analytica est au cœur d’une tempête déclenchée par les révélations sur ses méthodes de collecte des données. Nous republions ici notre enquête réalisée il y a un an.

    #International #Big_data #Brexit #données_personnelles #Maison_Blanche #Robert_Mercer #Steve_Bannon

  • Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach | News | The Guardian
    https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election?CMP=twt_gu

    The data analytics firm that worked with #Donald_Trump’s election team and the winning #Brexit campaign harvested millions of F#acebook profiles of US #voters, in the tech giant’s biggest ever data breach, and used them to build a powerful software program to predict and influence choices at the ballot box.

    A #whistleblower has revealed to the Observer how #Cambridge_Analytica – a company owned by the hedge fund billionaire Robert Mercer, and headed at the time by Trump’s key adviser Steve Bannon – used personal information taken without authorisation in early 2014 to build a system that could profile individual US voters, in order to #target them with personalised political advertisements.

    Christopher Wylie, who worked with an academic at Cambridge University to obtain the data, told the Observer: “We exploited Facebook to harvest millions of people’s profiles. And built models to exploit what we knew about them and target their inner demons. That was the basis that the entire company was built on.”

    Documents seen by the Observer, and confirmed by a Facebook statement, show that by late 2015 the company had found out that information had been harvested on an unprecedented scale. However, at the time it failed to alert users and took only limited steps to recover and secure the private information of more than 50 million individuals.

  • 240 millions de « profils électoraux » chez #Cambridge_Analytica : c’est tout bannon
    https://reflets.info/240-millions-de-profils-electoraux-chez-cambridge-analytica-cest-tout-bann

    L’utilisation des #Données_Personnelles à des fins d’influence politique par des entreprises spécialisées en traitement de Big data n’est pas [encore] un sujet qui préoccupe vraiment les autorités des grandes démocraties. Cela pourrait changer dans […]

    #Technos #Brexit #ELection_Trump #Facebook #influence #Mercer #neuro-marketing #Steve_Bannon #Thiel

  • Influence et guerre psychologique numérique : #Cambridge_Analytica opère au #Kenya
    https://reflets.info/influence-et-guerre-psychologique-numerique-cambridge-analytica-opere-au-k

    Le vice-président de Cambridge Analytica (CA), #Steve_Bannon, doit se frotter les mains. Après avoir participé à faire élire et conseillé Donald Trump, prêté main-forte au mouvement « Leave » pour convaincre les britanniques de quitter l’UE, […]

    #Politique #Technos #big_data #élections #Facebook #influence_numérique #Mercer #Propagande #PsyOp #youtube

  • How Big data mines personal info to manipulate voters and craft fake news
    (June 2017, Nina Burleigh)

    #Facebook, #Cambridge_Analytica, #artificial_intelligence #big_data #psychographics #OCEAN #surveillance

    http://www.newsweek.com/2017/06/16/big-data-mines-personal-info-manipulate-voters-623131.html

    “It’s my ([Alexander Nix]) privilege to speak to you today about the power of Big Data and psychographics in the electoral process,” he began. As he clicked through slides, he explained how Cambridge Analytica can appeal directly to people’s emotions, bypassing cognitive roadblocks, thanks to the oceans of data it can access on every man and woman in the country.

    After describing Big Data, Nix talked about how Cambridge was mining it for political purposes, to identify “mean personality” and then segment personality types into yet more specific subgroups, using other variables, to create ever smaller groups susceptible to precisely targeted messages.

    [...]

    Big Data, artificial intelligence and algorithms designed and manipulated by strategists like the folks at Cambridge have turned our world into a Panopticon

    [...]

    it made tens of millions of “friends” by first employing low-wage tech-workers to hand over their Facebook profiles: It spiders through Facebook posts, friends and likes, and, within a matter of seconds, spits out a personality profile, including the so-called OCEAN psychological tendencies test score (openness, conscientiousness, extraversion, agreeableness and neuroticism)

    [...]

    Facebook was even more useful for Trump, with its online behavioral data on nearly 2 billion people around the world, each of whom is precisely accessible to strategists and marketers who can afford to pay for the peek. Team Trump created a 220 million–person database, nicknamed Project Alamo, using voter registration records, gun ownership records, credit card purchase histories and the monolithic data vaults Experian PLC, Datalogix, Epsilon and Axiom Corporation.

    [...]

    Facebook offers advertisers is its Lookalike Audiences program. An advertiser (or a political campaign manager) can come to Facebook with a small group of known customers or supporters, and ask Facebook to expand it. Using its access to billions of posts and pictures, likes and contacts, Facebook can create groups of people who are “like” that initial group, and then target advertising made specifically to influence it.

    [...]

    By 2012, there had been huge advances in what Big Data, social media and AI could do together. That year, Facebook conducted a happy-sad emotional manipulation experiment, splitting a million people into two groups and manipulating the posts so that one group received happy updates from friends and another received sad ones. They then ran the effects through algorithms and proved—surprise—that they were able to affect people’s moods. (Facebook, which has the greatest storehouse of personal behavior data ever amassed, is still conducting behavioral research, mostly, again, in the service of advertising and making money.

    [...]

    Psychographic algorithms allow strategists to target not just angry racists but also the most intellectually gullible individuals, people who make decisions emotionally rather than cognitively. For Trump, such voters were the equivalent of diamonds in a dark mine. Cambridge apparently helped with that too. A few weeks before the election, in a Sky News report on the company, an employee was actually shown on camera poring over a paper on “ The Need for Cognition Scale,” which, like the OCEAN test, can be applied to personal data, and which measures the relative importance of thinking versus feeling in an individual’s decision-making.

    [...]

    Big Data technology has so far outpaced legal and regulatory frameworks that discussions about the ethics of its use for political purposes are still rare. No senior member of Congress or administration official in Washington has placed a very high priority on asking what psychographic data mining means for privacy, nor about the ethics of political messaging based on evading cognition or rational thinking, nor about the AI role in mainstreaming racist and other previously verboten speech.

    [...]

    After months of investigations and increasingly critical articles in the British press (especially by The Guardian ’s Carole Cadwalladr, who has called Cambridge Analytica’s work the framework for an authoritarian surveillance state, and whose reporting Cambridge has since legally challenged), the British Information Commissioner’s Office (ICO), an independent agency that monitors privacy rights and adherence to the U.K.’s strict laws, announced May 17 that it is looking into Cambridge and SCL for their work in the Brexit vote and other elections.

    [...]

    Now in the White House, Kushner heads the administration’s Office of Technology and Innovation. It will focus on “technology and data,” the administration stated. Kushner said he plans to use it to help run government like a business, and to treat American citizens “like customers.”

  • Guerre psychologique électorale et big data : un business florissant
    https://reflets.info/guerre-psychologique-electorale-et-big-data-un-business-florissant

    Les méthodes des agences de renseignements tout comme celles des centres de commandement militaire ont évolué. Des outils logiciels — d’analyse et d’influence en ligne — ont été développés par ces organismes d’Etat, [ou ont […]

    #Politique #Technos #Aggregate-IQ #Bid_data #Brexit #Cambridge_Analytica #démocratie_d'influence #ELection_Trump #influence_numérique #infowar #Palantir #PsyOp

  • La Cnil britannique enquête sur l’utilisation des données Facebook à des fins électorales
    http://etraces.constantvzw.org/informations/La Cnil britannique enquête sur l’utilisation des données Facebook à des fins électorales

    Outre-Manche, l’Information Commissionner Office (l’équivalent britannique de la Cnil) vient d’ouvrir une enquête pour s’assurer que l’utilisation de données personnelles tirées des réseaux sociaux à des fins électorales reste conforme à la loi. Cette procédure s’inscrit dans la continuité directe d’une enquête liée à la campagne du Brexit. Big data et politique peuvent-ils faire bon ménage — en permettant notamment de cibler certaines catégories de citoyens — tout en respectant la loi ? C’est, en substance, (...)

    #Facebook #élections #profiling #électeurs #Cambridge_Analytica #Information_Commissionner's_Office_(UK)

    ##Information_Commissionner's_Office__UK_

  • The great British Brexit robbery : how our democracy was hijacked
    https://www.theguardian.com/technology/2017/may/07/the-great-british-brexit-robbery-hijacked-democracy

    A shadowy global operation involving big data, billionaire friends of Trump and the disparate forces of the Leave campaign influenced the result of the EU referendum. As Britain heads to the polls again, is our electoral process still fit for purpose?

    Très longue enquête. Je note des extraits qui me paraissent particulièrement pertinents.

    #surveillance #big_data

    There are three strands to this story. How the foundations of an authoritarian surveillance state are being laid in the US. How British democracy was subverted through a covert, far-reaching plan of coordination enabled by a US billionaire. And how we are in the midst of a massive land grab for power by billionaires via our data. Data which is being silently amassed, harvested and stored. Whoever owns this data owns the future.

    (…)

    #Psyops

    “That was before we became this dark, dystopian data company that gave the world Trump,” a former #Cambridge_Analytica employee who I’ll call Paul tells me. “It was back when we were still just a psychological warfare firm.”

    Was that really what you called it, I ask him. Psychological warfare? “Totally. That’s what it is. Psyops. Psychological operations – the same methods the military use to effect mass sentiment change. It’s what they mean by winning ‘hearts and minds’. We were just doing it to win elections in the kind of developing countries that don’t have many rules.”

    (…)

    Finding “persuadable” voters is key for any campaign and with its treasure trove of data, Cambridge Analytica could target people high in neuroticism, for example, with images of immigrants “swamping” the country. The key is finding emotional triggers for each individual voter.

    (…)

    Tamsin Shaw, an associate professor of philosophy at New York University, helps me understand the context. She has researched the US military’s funding and use of psychological research for use in torture. “The capacity for this science to be used to manipulate emotions is very well established. This is military-funded technology that has been harnessed by a global plutocracy and is being used to sway elections in ways that people can’t even see, don’t even realise is happening to them,” she says. “It’s about exploiting existing phenomenon like nationalism and then using it to manipulate people at the margins. To have so much data in the hands of a bunch of international plutocrats to do with it what they will is absolutely chilling.

    (…)

    Complexe militaro-industriel

    What’s been lost in the US coverage of this “data analytics” firm is the understanding of where the firm came from: deep within the military-industrial complex. (…) SCL/Cambridge Analytica was not some startup created by a couple of guys with a Mac PowerBook. It’s effectively part of the British defence establishment. This is not just a story about social psychology and data analytics. It has to be understood in terms of a military contractor using military strategies on a civilian population.

    #Facebook

    Facebook was the source of the psychological insights that enabled Cambridge Analytica to target individuals. It was also the mechanism that enabled them to be delivered on a large scale.

    L’enquête détaille enfin comme différentes structures de la campagne pour le Brexit ont toutes acheté discrètement les services de Agregate IQ, entreprise canadienne appartenant à #Robert_Mercer et affiliée à Cambridge_Analytica.

  • BiTS - Big Data (mais pas que)

    A l’heure où des groupes privés utilisent le big data avec une acuité redoutable pour des résultats qui bouleversent l’ordre du monde, qu’en est-il des dystopies autrefois annoncées par la S.F. ? N’a-t-elle rien vu venir ou ne l’a-t-on pas suffisamment écoutée ?

    https://www.youtube.com/watch?v=6wSC8oAFjRM

    #ARTE #BiTS
    #Black_Mirror
    #Mr._Robot
    #1984
    #Hannes_Grassegger
    #Cambridge_Analytica https://cambridgeanalytica.org

  • Facebook Failed to Protect 30 Million Users From Having Their Data Harvested by Trump Campaign Affiliate
    https://theintercept.com/2017/03/30/facebook-failed-to-protect-30-million-users-from-having-their-data-har

    In 2014, traces of an unusual survey, connected to Facebook, began appearing on internet message boards. The boards were frequented by remote freelance workers who bid on “human intelligence tasks” in an online marketplace, called Mechanical Turk, controlled by Amazon. The “turkers,” as they’re known, tend to perform work that is rote and repetitive, like flagging pornographic images or digging through search engine results for email addresses. Most jobs pay between 1 and 15 cents. “Turking (...)

    #Cambridge_Analytica #Amazon #MechanicalTurk #Facebook #algorithme #profiling #profiling

  • #Cambridge_Analytica, le Big Brother électoral de #Donald_Trump
    https://www.mediapart.fr/journal/international/200317/cambridge-analytica-le-big-brother-electoral-de-donald-trump

    Donald Trump lors du discours de sa victoire. © Capture d’écran CNN Fondée par des proches de Donald Trump, la société Cambridge Analytica se vante de pouvoir prédire les opinions politiques des internautes par l’analyse de leurs #données_personnelles. Elle aurait, pour certains, fortement influé sur la victoire du milliardaire républicain ainsi que sur celle du #Brexit en Grande-Bretagne.

    #International #Big_data #Robert_Mercer #Steve_Bannon

  • #Cambridge_Analytica crée des « turbulences » dans le marketing électoral
    https://www.mediapart.fr/journal/international/200317/cambridge-analytica-cree-des-turbulences-dans-le-marketing-electoral

    Fondée par des proches de #Donald_Trump, la société Cambridge Analytica se vante de pouvoir prédire les opinions politiques des internautes par l’analyse de leurs #données_personnelles. Elle aurait, pour certains, fortement influé sur la victoire du milliardaire républicain ainsi que sur celle du #Brexit en Grande-Bretagne.

    #International #Big_data #Robert_Mercer #Steve_Bannon

  • #Cambridge_Analytica créee des « turbulences » dans le marketing électoral
    https://www.mediapart.fr/journal/international/200317/cambridge-analytica-creee-des-turbulences-dans-le-marketing-electoral

    Fondée par des proches de #Donald_Trump, la société Cambridge Analytica se vante de pouvoir prédire les opinions politiques des internautes par l’analyse de leurs #données_personnelles. Elle aurait, pour certains, fortement influé sur la victoire du milliardaire républicain ainsi que sur celle du #Brexit en Grande-Bretagne.

    #International #Big_data #Robert_Mercer #Steve_Bannon

  • The data that turned the world Upside Down

    http://motherboard.vice.com/read/big-data-cambridge-analytica-brexit-trump

    Psychologist Michal Kosinski developed a method to analyze people in minute detail based on their Facebook activity. Did a similar tool help propel Donald Trump to victory? Two reporters from Zurich-based Das Magazin (where an earlier version of this story appeared in December in German) went data-gathering.

    On the same day, a then little-known British company based in London sent out a press release: “We are thrilled that our revolutionary approach to data-driven communication has played such an integral part in President-elect Trump’s extraordinary win,” Alexander James Ashburner Nix was quoted as saying. Nix is British, 41 years old, and CEO of #Cambridge_Analytica

    His company wasn’t just integral to Trump’s online campaign, but to the UK’s Brexit campaign as well.

    What Kosinski did not know at the time: SCL is the parent of a group of companies. Who exactly owns SCL and its diverse branches is unclear, thanks to a convoluted corporate structure, the type seen in the UK Companies House, the Panama Papers, and the Delaware company registry. Some of the SCL offshoots have been involved in elections from Ukraine to Nigeria, helped the Nepalese monarch against the rebels, whereas others have developed methods to influence Eastern European and Afghan citizens for NATO. And, in 2013, SCL spun off a new company to participate in US elections: Cambridge Analytica.

    “Pretty much every message that Trump put out was data-driven,” Alexander Nix remembers.

    Our smartphone, Kosinski concluded, is a vast psychological questionnaire that we are constantly filling out, both consciously and unconsciously.

    Macron tenterait-il le même genre d’approche ? Qui d’autre encore ?

    #Trump #big_data #Psychometrics #psychologie #manipulation #Strategic_Communication_Laboratories

    • Pour Macron :
      http://tempsreel.nouvelobs.com/rue89/rue89-politique/20161116.RUE3756/comment-emmanuel-macron-a-fait-son-diagnostic.html

      La démarche a l’air plus proche de celle de l’équipe Obama. La boite derrière :
      https://www.liegeymullerpons.fr (Liegey Muller Pons est la première startup de stratégie électorale en Europe — WTF ?)

      Voir aussi https://seenthis.net/messages/120960 (2013)

      Je ne sais pas bien quoi penser de tout ça. Je trouve les présupposés « théoriques » de Kosinski assez « faibles » (https://fr.wikipedia.org/wiki/Mod%C3%A8le_des_Big_Five_(psychologie) ), mais ça doit être suffisant pour être opératoire — vu les volumes de données brassées : une étude de pyscho classique, c’est péniblement une centaine de sujets... là ce sont des millions...

      On dirait un mélange entre la société du spectacle et le projet CyberSyn...

    • To him, (Kosinski, ce chercheur tout à fait neutre, sans préjugé) the internet had always seemed like a gift from heaven. What he really wanted was to give something back, to share. Data can be copied, so why shouldn’t everyone benefit from it?

      « Aleksandr Kogan (qui, pour le compte d’une boîte visant à influencer les votes lors d’élection divers, SCL Compagny, a profité de l’idiotie spectaculaire de Kosinski) then moved to Singapore, married, and changed his name to Dr. Spectre. »
      Non mais, sérieux ! C’est quoi cette histoire !

      Nix finishes his lecture at the Concordia Summit by stating that traditional blanket advertising is dead. “My children will certainly never, ever understand this concept of mass communication.”

      But to what extent did psychometric methods influence the outcome of the election? When asked, Cambridge Analytica was unwilling to provide any proof of the effectiveness of its campaign. And it is quite possible that the question is impossible to answer.

      Another big winner is Cambridge Analytica. Its board member Steve Bannon, former executive chair of the right-wing online newspaper Breitbart News, has been appointed as Donald Trump’s senior counselor and chief strategist.

      The world has been turned upside down. Great Britain is leaving the EU, Donald Trump is president of the United States of America. And in Stanford, Kosinski, who wanted to warn against the danger of using psychological targeting in a political setting, is once again receiving accusatory emails. “No,” says Kosinski, quietly and shaking his head. “This is not my fault. I did not build the bomb. I only showed that it exists.”

      Quel grand esprit !

      Cette histoire me ramène à un docu de David Curtis, de la BBC qui rappelait l’usage intensif d’une méthode de classification de psychologie cognitive lors de l’élection de Reagan. Il s’agit du quatrième épisode de la série « The century of the Self » (autour de l’influence de Freud sur Bernays et, plus généralement sur l’usage de la psychologie par les politiques dans la seconde moitié du XXè s.), intitulé « Eight People Sipping Wine in Kettering »
      http://www.dailymotion.com/video/x17b3nc_the-century-of-the-self-eight-people-sipping-wine-in-kettering-

      (je précise que l’étrange David Curtis se définit comme un libertarien)

    • Un commentaire de la chercheuse qui a collaboré avec Kosinski à l’élaboration de la méthode :

      The need to control psychological targeting - Das Magazin
      https://www.dasmagazin.ch/2016/12/22/need-control-psychological-targeting

      Texte intégral de l’original. La version anglaise est complémentée par un paragraphe écrit par Cambridge Analytica qui dément toute manipulation des électeurs démocrates. A mourir de rire.

      Ich habe nur gezeigt, dass es die Bombe gibt - Das Magazin
      https://www.dasmagazin.ch/2016/12/03/ich-habe-nur-gezeigt-dass-es-die-bombe-gibt

      Von Hannes Grassegger und Mikael Krogerus

      Das Magazin N°48 – 3. Dezember 2016

      Am 9. November gegen 8.30 Uhr erwacht Michal Kosinski in Zürich im Hotel Sunnehus. Der 34-jährige Forscher ist für einen Vortrag am Risikocenter der ETH angereist, zu einer Tagung über die Gefahren von Big Data und des sogenannten digitalen Umsturzes. Solche Vorträge hält Kosinski ständig, überall auf der Welt. Er ist ein führender Experte für Psychometrik, einen datengetriebenen Nebenzweig der Psychologie. Als er an diesem Morgen den Fernseher einschaltet, sieht er, dass die Bombe geplatzt ist: Entgegen den Hochrechnungen aller führenden Statistiker ist Donald J. Trump gewählt worden.

      Lange betrachtet Kosinski Trumps Jubelfeier und die Wahlergebnisse der einzelnen Bundesstaaten. Er ahnt, dass das Ergebnis etwas mit seiner Forschung zu tun haben könnte. Dann atmet er tief durch und schaltet den Fernseher aus.

      Am gleichen Tag versendet eine bis dahin kaum bekannte britische Firma mit Sitz in London eine Pressemitteilung: «Wir sind begeistert, dass unser revolutionärer Ansatz der datengetriebenen Kommunikation einen derart grundlegenden Beitrag zum Sieg für Donald Trump leistet», wird ein Alexander James Ashburner Nix zitiert. Nix ist Brite, 41 Jahre alt und CEO von Cambridge Analytica. Er tritt stets im Massanzug und mit Designerbrille auf, die leicht gewellten blonden Haare nach hinten gekämmt.

      Der nachdenkliche Kosinski, der gestriegelte Nix, der breit grinsende Trump – einer hat den digitalen Umsturz ermöglicht, einer hat ihn vollführt, einer davon profitiert.

      Wie gefährlich ist Big Data?

      Jeder, der nicht die letzten fünf Jahre auf dem Mond gelebt hat, kennt den Begriff «Big Data». Big Data bedeutet auch, dass alles, was wir treiben, ob im Netz oder ausserhalb, digitale Spuren hinterlässt. Jeder Einkauf mit der Karte, jede Google-Anfrage, jede Bewegung mit dem Handy in der Tasche, jeder Like wird gespeichert. Besonders jeder Like. Lange war nicht ganz klar, wozu diese Daten gut sein sollen – ausser dass in unserem Facebook-Feed Blutdrucksenker beworben werden, weil wir grad «Blutdruck senken» gegoogelt haben. Unklar war auch, ob Big Data eine grosse Gefahr oder ein grosser Gewinn für die Menschheit ist. Seit dem 9. November kennen wir die Antwort. Denn hinter Trumps Onlinewahlkampf und auch hinter der Brexit-Kampagne steckt ein und dieselbe Big-Data-Firma: Cambridge Analytica mit ihrem CEO Alexander Nix. Wer den Ausgang der Wahl verstehen will – und was auf Europa in den nächsten Monaten zukommen könnte –, muss mit einem merkwürdigen Vorfall an der britischen Universität Cambridge im Jahr 2014 beginnen. Und zwar an Kosinskis Department für Psychometrik.

      Psychometrie, manchmal auch Psychografie genannt, ist der wissenschaftliche Versuch, die Persönlichkeit eines Menschen zu vermessen. In der modernen Psychologie ist dafür die sogenannte Ocean-Methode zum Standard geworden. Zwei Psychologen war in den 1980ern der Nachweis gelungen, dass jeder Charakterzug eines Menschen sich anhand von fünf Persönlichkeitsdimensionen messen lässt, den Big Five: Offenheit (Wie aufgeschlossen sind Sie gegenüber Neuem?), Gewissenhaftigkeit (Wie perfektionistisch sind Sie?), Extraversion (Wie gesellig sind Sie?), Verträglichkeit (Wie rücksichtsvoll und kooperativ sind Sie?) und Neurotizismus (Sind Sie leicht verletzlich?). Anhand dieser Dimensionen kann man relativ genau sagen, mit was für einem Menschen wir es zu tun haben, also welche Bedürfnisse und Ängste er hat, und aber auch, wie er sich tendenziell verhalten wird. Das Problem aber war lange Zeit die Datenbeschaffung, denn zur Bestimmung musste man einen komplizierten, sehr persönlichen Fragebogen ausfüllen. Dann kam das Internet. Und Facebook. Und Kosinski.

      Für den Warschauer Studenten Michal Kosinski begann ein neues Leben, als er 2008 an der ehrwürdigen Cambridge University in England aufgenommen wurde: am Zentrum für Psychometrie, im Cavendish Laboratory, dem ersten Psychometrie-Labor überhaupt. Mit einem Studienkollegen stellte Kosinski eine kleine App ins damals noch überschaubare Facebook: Auf MyPersonality, so hiess die Applikation, konnte man eine Handvoll psychologischer Fragen aus dem Ocean-Fragebogen ausfüllen («Lassen Sie sich bei Stress leicht aus der Ruhe bringen?» – «Neigen Sie dazu, andere zu kritisieren?»). Als Auswertung erhielt man sein «Persönlichkeitsprofil» – eigene Ocean-Werte –, und die Forscher bekamen die wertvollen persönlichen Daten. Statt, wie erwartet, ein paar Dutzend Studienfreunde hatten schnell Hunderte, Tausende, bald Millionen ihre innersten Überzeugungen verraten. Plötzlich verfügten die beiden Doktoranden über den grössten jemals erhobenen psychologischen Datensatz.

      Das Verfahren, das Kosinski mit seinen Kollegen über die nächsten Jahre entwickelt, ist eigentlich recht einfach. Zuerst legt man Testpersonen einen Fragebogen vor. Das ist das Onlinequiz. Aus ihren Antworten kalkulieren die Psychologen die persönlichen Ocean-Werte der Befragten. Damit gleicht Kosinskis Team dann alle möglichen anderen Onlinedaten der Testpersonen ab: was sie auf Facebook gelikt, geshared oder gepostet haben, welches Geschlecht, Alter, welchen Wohnort sie angegeben haben. So bekommen die Forscher Zusammenhänge. Aus einfachen Onlineaktionen lassen sich verblüffend zuverlässige Schlüsse ziehen. Zum Beispiel sind Männer, die die Kosmetikmarke MAC liken, mit hoher Wahrscheinlichkeit schwul. Einer der besten Indikatoren für Heterosexualität ist das Liken von Wu-Tang Clan, einer New Yorker Hip-Hop-Gruppe. Lady-Gaga-Follower wiederum sind mit sehr hoher Wahrscheinlichkeit extrovertiert. Wer Philosophie likt, ist eher introvertiert.

      Kosinski und sein Team verfeinern die Modelle unablässig. 2012 erbringt Kosinski den Nachweis, dass man aus durchschnittlich 68 Facebook-Likes eines Users vorhersagen kann, welche Hautfarbe er hat (95-prozentige Treffsicherheit), ob er homosexuell ist (88-prozentige Wahrscheinlichkeit), ob Demokrat oder Republikaner (85 Prozent). Aber es geht noch weiter: Intelligenz, Religionszugehörigkeit, Alkohol-, Zigaretten- und Drogenkonsum lassen sich berechnen. Sogar, ob die Eltern einer Person bis zu deren 21. Lebensjahr zusammengeblieben sind oder nicht, lässt sich anhand der Daten ablesen. Wie gut ein Modell ist, zeigt sich daran, wie gut es vorhersagen kann, wie eine Testperson bestimmte Fragen beantworten wird. Kosinski geht wie im Rausch immer weiter: Bald kann sein Modell anhand von zehn Facebooks-Likes eine Person besser einschätzen als ein durchschnittlicher Arbeitskollege. 70 Likes reichen, um die Menschenkenntnis eines Freundes zu überbieten, 150 um die der Eltern, mit 300 Likes kann die Maschine das Verhalten einer Person eindeutiger vorhersagen als deren Partner. Und mit noch mehr Likes lässt sich sogar übertreffen, was Menschen von sich selber zu wissen glauben. Am Tag, als Kosinski diese Erkenntnisse publiziert, erhält er zwei Anrufe. Eine Klageandrohung und ein Stellenangebot. Beide von Facebook.

      Nur für Freunde sichtbar

      Facebook hat inzwischen die Unterscheidung zwischen öffentlichem und privatem Posten eingeführt. Im «privaten» Modus können nur die eigenen Freunde sehen, was man likt. Aber das bleibt kein Hindernis für Datensammler: Während Kosinski stets das Einverständnis der Facebook-User erfragt, verlangen viele Onlinequiz heute den Zugang zu privaten Daten als Vorbedingung für Persönlichkeitstests. (Wer keine grosse Sorge um die eigenen Daten hat und sich selbst anhand seiner Likes auf Facebook einschätzen lassen will, kann das auf Kosinskis Seite applymagicsauce.com machen und anschliessend seine Ergebnisse mit denen eines «klassischen» Ocean-Fragebogens vergleichen: discovermyprofile.com/personality.html.)

      Aber es geht nicht nur um die Likes auf Facebook: Kosinski und sein Team können inzwischen Menschen allein anhand des Porträtfotos den Ocean-Kriterien zuordnen. Oder anhand der Anzahl unserer Social-Media-Kontakte (ein guter Indikator für Extraversion). Aber wir verraten auch etwas über uns, wenn wir offline sind. Der Bewegungssensor zeigt zum Beispiel, wie schnell wir das Telefon bewegen oder wie weit wir reisen (korreliert mit emotionaler Instabilität). Das Smartphone, stellt Kosinski fest, ist ein gewaltiger psychologischer Fragebogen, den wir konstant bewusst und unbewusst ausfüllen. Vor allem aber, und das ist wichtig zu verstehen, funktioniert es auch umgekehrt: Man kann nicht nur aus Daten psychologische Profile erstellen, man kann auch umgekehrt nach bestimmten Profilen suchen – etwa: alle besorgten Familienväter, alle wütenden Introvertierten. Oder auch: alle unentschlossenen Demokraten. Was Kosinski genau genommen erfunden hat, ist eine Menschensuchmaschine.

      Immer deutlicher erkennt Kosinski das Potenzial – aber auch die Gefahr seiner Arbeit.

      Das Netz erschien ihm immer wie ein Geschenk des Himmels. Er will ja eigentlich zurückgeben, teilen, sharen. Daten sind kopierbar, sollen doch alle etwas davon haben. Es ist der Geist einer ganzen Generation, der Beginn eines neuen Zeitalters ohne die Grenzen der physischen Welt. Aber was passiert, fragt sich Kosinski, wenn jemand seine Menschensuchmaschine missbraucht, um Menschen zu manipulieren? Er beginnt, alle seine wissenschaftlichen Arbeiten mit Warnungen zu versehen. Mit seinen Methoden könnten «das Wohlergehen, die Freiheit oder sogar das Leben von Menschen bedroht» werden. Aber niemand scheint zu verstehen, was er meint.

      In dieser Zeit, Anfang 2014, tritt ein junger Assistenzprofessor namens Aleksandr Kogan an Kosinski heran. Er habe eine Anfrage eines Unternehmen, das sich für Kosinskis Methode interessiere. Die Facebook-Profile von zehn Millionen US-Nutzern sollen psychometrisch vermessen werden. Zu welchem Zweck, das könne er nicht sagen, es gebe strenge Geheimhaltungsauflagen. Kosinski will erst zusagen, es geht um sehr viel Geld für sein Institut, zögert dann aber. Schliesslich rückt Kogan mit dem Namen der Firma heraus: SCL – Strategic Communications Laboratories. Kosinski googelt die Firma: «Wir sind eine weltweit agierende Wahl-Management-Agentur», liest er auf der Unternehmenswebsite. SCL bieten Marketing auf Basis eines psycho-logischen Modells. Schwerpunkt: Wahlbeeinflussung. Wahlbeeinflussung? Verstört klickt sich Kosinski durch die Seiten. Was ist das für eine Firma? Und was haben diese Leute in den USA vor?

      Was Kosinski zu diesem Zeitpunkt nicht weiss: Hinter SCL verbirgt sich ein kompliziertes Firmenkonstrukt mit Ablegern in Steuerparadiesen – wie die Panama Papers und Wikileaks-Enthüllungen zeigen. Manche haben bei Umstürzen in Entwicklungsländern mitgewirkt, andere entwickelten für die Nato Methoden zur psychologischen Manipulation der Bevölkerung in Afghanistan. Und mittlerweile sind SCL auch die Mutterfirma von Cambridge Analytica, jener ominösen Big-Data-Bude, die für Trump und Brexit den Onlinewahlkampf organisierte.

      Kosinski weiss davon nichts, aber er ahnt Ungutes. «Die Sache begann zu stinken», erinnert er sich. Bei seinen Nachforschungen entdeckt er, dass Aleksandr Kogan heimlich eine Firma registriert hat, die mit SCL Geschäfte macht. Aus einem Dokument, das dem «Magazin» vorliegt, geht hervor, dass SCL Kosinskis Methode durch Kogan kennenlernte. Plötzlich dämmert Kosinski, dass Kogan sein Ocean-Modell kopiert oder nachgebaut haben könnte, um es der Wahlbeeinflussungsfirma zu verkaufen. Sofort bricht er den Kontakt zu ihm ab und informiert den Institutsleiter. Innerhalb der Universität entfacht sich ein komplizierter Konflikt. Das Institut sorgt sich um seinen Ruf. Aleksandr Kogan zieht erst einmal nach Singapur, heiratet und nennt sich fortan Dr. Spectre. Michal Kosinski wechselt an die Stanford University in den USA.

      Ein Jahr lang ist es ziemlich ruhig, dann, im November 2015, verkündet die radikalere der beiden Brexit-Kampagnen, «leave.eu», getragen von Nigel Farage, sie habe eine Big-Data-Firma beauftragt, ihren Wahlkampf online zu unterstützen: Cambridge Analytica. Kernkompetenz der Firma: neuartiges Politmarketing, sogenanntes Mikrotargeting – auf Basis des psychologischen Ocean-Modells. 

      Kosinski bekommt Mails, was er damit zu tun habe – bei den Stichworten Cambridge, Ocean und Analytics denken viele zuerst an ihn. Zum ersten Mal hört er von der Firma. Entsetzt schaut er auf die Website. Sein Albtraum ist wahr geworden: Seine Methodik wird im grossen Stil für politische Zwecke eingesetzt.

      Nach dem Brexit im Juli prasseln Beschimpfungen auf ihn ein: Schau nur, was du getan hast, schreiben Freunde und Bekannte. Überall muss Kosinski erklären, dass er mit dieser Firma nichts zu tun hat.

      Erst Brexit, dann Trump

      Zehn Monate später. Es ist der 19. September 2016, die US-Wahl rückt näher. Gitarrenriffs erfüllen den dunkelblauen Saal des New Yorker Grand Hyatt Hotels, Creedence Clearwater Revival: «Bad Moon Rising». Der Concordia Summit ist eine Art Weltwirtschaftsforum in Klein. Entscheidungsträger aus aller Welt sind eingeladen, unter den Gästen befindet sich auch Bundesrat Schneider-Ammann. «Bitte heissen Sie Alexander Nix, Chief Executive Officer von Cambridge Analytica, willkommen», verkündet eine sanfte Frauenstimme aus dem Off. Ein schlanker Mann im dunklen Anzug betritt die Bühnenmitte. Es herrscht gebannte Stille. Viele hier wissen: Das ist Trumps neuer Digital-Mann. «Bald werden Sie mich Mr. Brexit nennen», hatte Trump einige Wochen zuvor etwas kryptisch getwittert. Politikbeobachter hatten zwar auf die inhaltliche Ähnlichkeit zwischen Trumps Agenda und jener des rechten Brexit-Lagers verwiesen. Die wenigsten aber hatten den Zusammenhang mit Trumps kürzlichem Engagement einer weithin unbekannten Marketingfirma bemerkt: Cambridge Analytica.

      Trumps Digitalkampagne hatte davor mehr oder minder aus einer Person bestanden: Brad Parscale, einem Marketingunternehmer und gescheiterten Start-up-Gründer, der Trump für 1500 Dollar eine rudimentäre Website aufgebaut hatte. Der 70-jährige Trump ist kein Digitaltyp, auf seinem Arbeitstisch steht nicht einmal ein Computer. So etwas wie eine E-Mail von Trump gibt es nicht, hat seine persönliche Assistentin einmal verraten. Sie selber habe ihn zum Smartphone überredet – von dem aus er seither unkontrolliert twittert.

      Hillary Clinton hingegen verliess sich auf das Erbe des ersten Social-Media-Präsidenten, Barack Obama. Sie hatte die Adresslisten der Demokratischen Partei, sammelte Millionen über das Netz, bekam Unterstützung von Google und Dreamworks. Als im Juni 2016 bekannt wurde, dass Trump Cambridge Analytica angeheuert hatte, rümpfte man in Washington die Nase. Ausländische Gecken in Massanzügen, die Land und Leute nicht verstehen? Seriously?

      «Es ist mein Privileg, vor Ihnen, verehrte Zuhörer, über die Macht von Big Data und der Psychografie im Wahlkampf zu sprechen.» Hinter Alexander Nix erscheint das Logo von Cambridge Analytica – ein Gehirn, zusammengesetzt aus ein paar Netzwerkknoten, wie eine Landkarte. «Vor ein paar Monaten war Cruz noch einer der weniger beliebten Kandidaten», sagt der blonde Mann mit diesem britischen Zungenschlag, der Amerikanern dasselbe Gefühl einjagt wie vielen Schweizern Hochdeutsch, «nur 40 Prozent der Wähler kannten seinen Namen.» Alle im Saal haben den Blitzaufstieg des konservativen Senators Cruz mitbekommen. Es war einer der seltsamsten Momente des Wahlkampfes. Der letzte grosse innerparteiliche Gegner Trumps, der aus dem Nichts gekommen war. «Wie also hat er das geschafft?», fährt Nix fort. Ende 2014 war Cambridge Analytica in den US-Wahlkampf eingestiegen, zunächst als Berater des Republikaners Ted Cruz, finanziert vom verschwiegenen US-Softwaremilliardär Robert Mercer. Bisher, so Nix, seien Wahlkampagnen nach demografischen Konzepten geführt worden, «eine lächerliche Idee, wenn Sie drüber nachdenken: Alle Frauen erhalten die gleiche Nachricht, bloss weil sie das gleiche Geschlecht haben – oder alle Afroamerikaner, wegen ihrer Rasse?» So dilettantisch arbeitet das Kampagnenteam von Hillary Clinton, das braucht Nix hier gar nicht zu erwähnen, es unterteilt die Bevölkerung in vermeintlich homogene Gruppen – genauso wie all die Meinungsforschungsinstitute es taten, die Clinton bis zuletzt als Gewinnerin sahen.

      Stattdessen klickt Nix weiter zur nächsten Folie: fünf verschiedene Gesichter, jedes Gesicht entspricht einem Persönlichkeitsprofil. Es ist das Ocean-Modell. «Wir bei Cambridge Analytica», sagt Nix, «haben ein Modell entwickelt, das die Persönlichkeit jedes Erwachsenen in den USA berechnen kann.» Jetzt ist es absolut still im Saal. Der Erfolg des Marketings von Cambridge Analytica beruhe auf der Kombination dreier Elemente: psychologische Verhaltensanalyse nach dem Ocean-Modell, Big-Data-Auswertung und Ad-Targeting. Ad-Targeting, das ist personalisierte Werbung, also Werbung, die sich möglichst genau an den Charakter eines einzelnen Konsumenten anpasst.

      Nix erklärt freimütig, wie seine Firma das macht (der Vortrag ist auf Youtube frei einsehbar). Aus allen möglichen Quellen kauft Cambridge Analytica persönliche Daten: Grundbucheinträge, Bonuskarten, Wählerverzeichnisse, Clubmitgliedschaften, Zeitschriftenabonnements, medizinische Daten. Nix zeigt die Logos global tätiger Datenhändler wie Acxiom und Experian – in den USA sind quasi alle persönlichen Daten käuflich zu erwerben. Wenn man wissen will, wo zum Beispiel jüdische Frauen wohnen, kann man diese Informationen einfach kaufen. Inklusive Telefonnummern. Nun kreuzt Cambridge Analytica diese Zahlenpakete mit Wählerlisten der Republikanischen Partei und Onlinedaten wie Facebook-Likes – dann errechnet man das Ocean-Persönlichkeitsprofil: Aus digitalen Fussabdrücken werden plötzlich reale Menschen mit Ängsten, Bedürfnissen, Interessen – und mit einer Wohnadresse.

      Das Vorgehen ist identisch mit den Modellen, die Michal Kosinski entwickelt hatte. Auch Cambridge Analytica verwendet IQ-Quiz und andere kleine Ocean-Test-Apps, um an die aussagekräftigen Facebook-Likes von Usern zu gelangen. Und Cambridge Analytica macht genau das, wovor Kosinski gewarnt hatte: «Wir haben Psychogramme von allen erwachsenen US Bürgern – 220 Millionen Menschen», Nix öffnet den Screenshot, «so sehen unsere Kontrollzentren aus. Lassen Sie mich zeigen, was wir damit tun.» Ein digitales Cockpit erscheint. Links Diagramme, rechts eine Karte von Iowa, wo Cruz überraschend viele Stimmen im Vorwahlkampf gesammelt hatte. Darauf Hunderttausende kleiner Punkte, rot und blau. Nix grenzt die Kriterien ein: Republikaner – die blauen Punkte verschwinden; «noch nicht überzeugt» – wieder verschwinden Punkte; «männlich» und so weiter. Am Schluss erscheint ein einzelner Name, darunter Alter, Adresse, Interessen, politische Neigung. Wie bearbeitet Cambridge Analytica nun eine solche Person mit politischen Botschaften?

      In einer anderen Präsentation zeigt Nix am Beispiel des Waffengesetzes zwei Versionen, wie man psychografisch durchleuchtete Wähler ansprechen kann: «Für einen ängstlichen Menschen mit hohen Neurotizismus-Werten verkaufen wir die Waffe als Versicherung. Sehen Sie links das Bild dazu: die Hand eines Einbrechers, die eine Scheibe einschlägt.» Die rechte Seite zeigt einen Mann und ein Kind im Sonnenuntergang, beide mit Flinten in einem Feld, offensichtlich bei der Entenjagd: «Das ist für konservative Typen mit hoher Extraversion.»

      Wie man Clinton-Wähler von der Urne fernhält

      Trumps auffällige Widersprüche, seine oft kritisierte Haltungslosigkeit und die daraus resultierende ungeheure Menge an unterschiedlichen Botschaften entpuppen sich plötzlich als sein grosser Vorteil: Jedem Wähler seine Botschaft. «Trump agiert wie ein perfekt opportunistischer Algorithmus, der sich nur nach Publikumsreaktionen richtet», notiert bereits im August die Mathematikerin Cathy O’Neil. Am Tag der dritten Präsidentschaftsdebatte zwischen Trump und Clinton versendet Trumps Team 175 000 verschiedene Variationen seiner Argumente, vor allem via Facebook. Die Botschaften unterscheiden sich meist nur in mikroskopischen Details, um den Empfängern psychologisch optimal zu entsprechen: verschiedene Titel, Farben, Untertitel, mit Foto oder mit Video. Die Feinkörnigkeit der Anpassung geht hinunter bis zu Kleinstgruppen, erklärt Nix im Gespräch mit «Das Magazin». «Wir können Dörfer oder Häuserblocks gezielt erreichen. Sogar Einzelpersonen.» In Miamis Stadtteil Little Haiti versorgte Cambridge Analytica Einwohner mit Nachrichten über das Versagen der Clinton-Stiftung nach dem Erdbeben in Haiti – um sie davon abzuhalten, Clinton zu wählen. Das ist eines der Ziele: potenzielle Clinton-Wähler – hierzu gehören zweifelnde Linke, Afroamerikaner, junge Frauen – von der Urne fernzuhalten, ihre Wahl zu «unterdrücken», wie ein Trump-Mitarbeiter erzählt. In sogenannten dark posts, das sind gekaufte Facebook-Inserate in der Timeline, die nur User mit passendem Profil sehen können, werden zum Beispiel Afroamerikanern Videos zugespielt, in denen Hillary Clinton schwarze Männer als Raubtiere bezeichnet.

      «Meine Kinder», beendet Nix seinen Vortrag am Concordia Summit, «werden sich so etwas wie ein Werbeplakat mit der gleichen Nachricht für alle, ja das ganze Konzept eines Massenmediums, nicht mehr erklären können. Ich bedanke mich für Ihre Aufmerksamkeit und kann Ihnen sagen, dass wir mittlerweile für einen der beiden verbliebenen Kandidaten arbeiten.» Dann verlässt er die Bühne.

      Wie gezielt die amerikanische Bevölkerung bereits in diesem Moment von Trumps digitalen Truppen massiert wird, ist nicht erkennbar – weil sie selten breit im Mainstream-TV attackieren, sondern meist personalisiert auf Social Media oder im Digitalfernsehen. Und während sich das Clinton-Team auf Basis demografischer Hochrechnungen in Sicherheit wiegt, entsteht in San Antonio im Sitz der Trump-Digitalkampagne ein «zweites Hauptquartier», wie Bloomberg-Journalist Sasha Issenberg nach einem Besuch überrascht notiert. Das Cambridge-Analytica-Team, angeblich nur ein Dutzend Leute, hatte im Juli von Trump etwa 100 000 Dollar erhalten, im August bereits 250 000 Dollar, fünf Millionen im September. Insgesamt, so sagt Nix, habe man etwa 15 Millionen Dollar eingenommen.

      Und die Massnahmen der Firma sind radikal: Ab Juli 2016 wird für Trump-Wahlhelfer eine App bereitgestellt, mit der sie erkennen können, welche politische Einstellung und welchen Persönlichkeitstyp die Bewohner eines Hauses haben. Wenn Trumps Leute an der Tür klingeln, dann nur bei jenen, die die App als empfänglich für seine Botschaften einstuft. Die Wahlhelfer haben auf den Persönlichkeitstyp des Bewohners angepasste Gesprächsleitfaden bereit. Die Reaktion wiederum geben die Wahlhelfer in die App ein – und die neuen Daten fliessen zurück in den Kontrollraum von Cambridge Analytica.

      Die Firma unterteilt die US-Bevölkerung in 32 Persönlichkeitstypen, man konzentriert sich nur auf 17 Staaten. Und wie Kosinski festgestellt hatte, dass Männer, die MAC Cosmetic liken, sehr wahrscheinlich schwul sind, fand Cambridge Analytica heraus, dass eine Vorliebe für US-gefertigte Autos das beste Anzeichen für mögliche Trump-Wähler ist. Unter anderem solche Erkenntnisse zeigen nun Trump, welche Botschaften ziehen und wo genau am besten. Die Entscheidung, dass er sich in den letzten Wochen auf Michigan und Wisconsin konzentriert, geschieht auf Basis einer Datenauswertung. Der Kandidat wird zum Umsetzungsinstrument eines Modells.

      Was macht Cambridge Analytica in Europa?

      Aber wie gross war der Einfluss der psychometrischen Methoden auf den Ausgang der Wahl? Cambridge Analytica will auf Anfrage keine Belege für die Wirksamkeit der Kampagne liefern. Und es ist gut möglich, dass die Frage nicht zu beantworten ist. Und doch gibt es Anhaltspunkte: Da ist die Tatsache, dass Ted Cruz dank der Hilfe von Cambridge Analytica aus dem Nichts zum schärfsten Konkurrenten Trumps in den Primaries aufstieg. Da ist die Zunahme der ländlichen Wählerschaft. Da ist der Rückgang der Stimmenabgabe durch Afroamerikaner. Auch der Umstand, dass Trump so wenig Geld ausgab, könnte sich mit der Effektivität persönlichkeitsbasierter Werbung erklären. Und auch, dass er drei Viertel seines Marketingbudgets in den Digitalbereich steckte. Facebook erwies sich als die ultimative Waffe und der beste Wahlhelfer, wie ein Trump-Mitarbeiter twitterte. Das dürfte beispielsweise in Deutschland der AfD gefallen, die mehr Facebook-Freunde hat als CDU und SPD zusammen.

      Es ist also keineswegs so, wie oft behauptet wird, dass die Statistiker diese Wahl verloren haben, weil sie mit ihren Polls so danebenlagen. Das Gegenteil ist richtig: Die Statistiker haben die Wahl gewonnen. Aber nur jene mit der neuen Methode. Es ist ein Treppenwitz der Geschichte, dass Trump oft über die Wissenschaft schimpfte, aber wohl dank ihr die Wahl gewonnen hat.

      Ein anderer grosser Gewinner heisst Cambridge Analytica. Ihr Vorstandsmitglied Steve Bannon, Herausgeber der ultrarechten Onlinezeitung «Breitbart News», ist gerade zu Donald Trumps Chefstrategen ernannt worden. Marion Maréchal-Le Pen, aufstrebende Front-National-Aktivistin und Nichte der Präsidentschaftskandidatin*, twitterte bereits, dass sie seine Einladung zur Zusammenarbeit annehme, und auf einem internen Firmenvideo steht über dem Mitschnitt einer Besprechung «Italy». Alexander Nix bestätigt, dass er auf Kundenakquise sei, weltweit. Es gebe Anfragen aus der Schweiz und Deutschland.

      All das hat Kosinski von seinem Büro in Stanford aus beobachtet. Nach der US-Wahl steht die Universität kopf. Kosinski antwortet auf die Entwicklungen mit der schärfsten Waffe, die einem Forscher zur Verfügung steht: mit einer wissenschaftlichen Analyse. Zusammen mit seiner Forscherkollegin Sandra Matz hat er eine Reihe von Tests durchgeführt, die bald veröffentlicht werden. Erste Ergebnisse, die dem «Magazin» vorliegen, sind beunruhigend: Psychologisches Targeting, wie Cambridge Analytica es verwendete, steigert die Clickraten von Facebook-Anzeigen um über 60Prozent. Die sogenannte Conversion-Rate, also wie stark Leute – nachdem sie die persönlich zugeschnittene Werbung gesehen haben – auch danach handeln, also einen Kauf tätigen oder eben wählen gehen, steigerte sich um unfassbare 1400 Prozent**.

      Die Welt hat sich gedreht. Die Briten verlassen die EU, in Amerika regiert Donald Trump. Begonnen hat alles mit einem Mann, der eigentlich vor der Gefahr warnen wollte. Bei dem jetzt wieder diese Mails eintreffen, die ihn anklagen. «Nein», sagt Kosinski leise und schüttelt den Kopf, «das hier ist nicht meine Schuld. Ich habe die Bombe nicht gebaut. Ich habe nur gezeigt, dass es sie gibt.» 

      Mitarbeit: Paul-Olivier Dehaye; www.personaldata.io
      Die Fotografin Lauren Bamford lebt in Melbourne und Sydney

      *Am Samstag den 3. Dezember wurde nach einem Leserhinweis diese Stelle verdeutlicht, damit es nicht zu einer Verwechslung mit Marine Le Pen kommt.

      **Die genannte Studie bezieht sich auf eine Vergleichsreihe: Ein Konsum-Produkt wurde online beworben. Verglichen wurde die Reaktion auf zwei unterschiedliche Ansprachen: Eine genau auf den Charakter des Konsumenten angepasste Werbung mit einer dem Charakter widersprechenden Werbung. Die Steigerung der Conversionrate liegt bei genau angepasster Werbung bei 1’400 Prozent gegenüber dem Charakter widersprechender Werbung.

      #surveillance #monopoles #1984

    • Même si oui, il y a sûrement (forcément) eu des manipulations (et pas que du côté républicains, probablement), pourquoi est-ce qu’on s’échinerait à trouver une explication « technique » de ce genre alors que dès les résultats on a vu que la quantité de votes républicains était sensiblement similaire aux précédentes élections ?

      Après, les manipulations peuvent aussi avoir fait baisser les votes démocrates sans avoir fait augmenter les votes républicains… mais bon… l’incroyable impopularité d’Hillary a quand même dû pas mal jouer. Et il n’empêche qu’au final il n’y a pas spécialement plus de votes républicains qu’avant.

    • @rastapopoulos On pourrait prèsque appeler anecdotique le côté manipulation.

      Je trouve beaucoup plus intéressante la déscription de du changement de paradigme en ce qui concerne les voies de communication et la révélation des méthodes big data qui d’habitude restent opaques et incompréhensbibles pour le commun des mortels.

      Si je comprends bien l’article les fausses estimations du résultat des élections par les grandes agences sont duês en partie à la négligeance complète des voies et méthodes de communication choisies par l’équipe Trump. On abandonne la réflexion sur un type aux humeurs et opinions aléatoires pour découvrir un pro de la com qui est complètement data driven .

    • cette histoire est fortement contestée

      The Truth About The Trump Data Team That People Are Freaking Out About - BuzzFeed News
      https://www.buzzfeed.com/kendalltaggart/the-truth-about-the-trump-data-team-that-people-are-freaking

      interviews with 13 former employees, campaign staffers, and executives at other Republican consulting firms who have seen Cambridge Analytica’s work suggest that its psychological approach was not actually used by the Trump campaign and, furthermore, the company has never provided evidence that it even works. Rather than a sinister breakthrough in political technology, the Cambridge Analytica story appears to be part of the traditional contest among consultants on a winning political campaign to get their share of credit — and win future clients.

    • #merci @fil #snake_oil

      ... pourtant c’est inquiétant ..

      A Data Team Tied To Trump’s Campaign Has A Pretty Unusual Past - BuzzFeed News
      https://www.buzzfeed.com/kendalltaggart/company-tied-to-trump-campaign-once-pushed-voter-suppression

      Among SCL Group’s other projects:

      It worked to dissuade some Nigerians from voting during the 2007 election by organizing “anti-poll rallies,” according to SCL Group’s website.

      Oakes, the CEO, was hired as an image consultant for the former president of Indonesia as he faced accusations of financial misconduct. In defending President Abdurrahman Wahid, Oakes was accused of covertly using government funds to stage a conference for journalists — ostensibly about journalistic independence but participants were unaware of the government’s involvement. Oakes told the Wall Street Journal at the time that he didn’t do anything unethical.

      The prime minister of St. Vincent and the Grenadines accused SCL Group of funneling foreign money into his opponents’ campaigns. The prime minister said the goal of this effort was to get laws passed allowing investors to buy citizenship. The leader of the opposition party denied receiving foreign funds from SCL Group, according to a local media report, but said that it did receive other forms of assistance from the company.