• Facebook claims it does not conduct business in Australia in Cambridge Analytica appeal
    https://www.theguardian.com/technology/2021/jan/19/facebook-asks-to-appeal-court-ruling-that-it-conducts-business-in-austr

    Social media company aims to avoid liability over Cambridge Analytica scandal by arguing it does not collect or hold data in Australia Facebook is claiming it does not conduct business in Australia and does not collect and hold data in the country in its effort to avoid liability over the Cambridge Analytica scandal. Last year, the privacy commissioner took Facebook to court over an alleged mass privacy breach involving the use of Australians’ Facebook data in a vote-influencing operation (...)

    #CambridgeAnalytica/Emerdata #Facebook #algorithme #cookies #thisisyourdigitallife #manipulation #données #élections (...)

    ##CambridgeAnalytica/Emerdata ##profiling
    https://i.guim.co.uk/img/media/16a62329a93abece7af8d300cbb7f98b1d28ed8e/0_5_2545_1528/master/2545.jpg

  • Inside China’s unexpected quest to protect data privacy
    https://www.technologyreview.com/2020/08/19/1006441/china-data-privacy-hong-yanqing-gdpr

    A new privacy law would look a lot like Europe’s GDPR—but will it restrict state surveillance?

    Late in the summer of 2016, Xu Yuyu received a call that promised to change her life. Her college entrance examination scores, she was told, had won her admission to the English department of the Nanjing University of Posts and Telecommunications. Xu lived in the city of Linyi in Shandong, a coastal province in China, southeast of Beijing. She came from a poor family, singularly reliant on her father’s meager income. But her parents had painstakingly saved for her tuition; very few of her relatives had ever been to college.

    A few days later, Xu received another call telling her she had also been awarded a scholarship. To collect the 2,600 yuan ($370), she needed to first deposit a 9,900 yuan “activation fee” into her university account. Having applied for financial aid only days before, she wired the money to the number the caller gave her. That night, the family rushed to the police to report that they had been defrauded. Xu’s father later said his greatest regret was asking the officer whether they might still get their money back. The answer—“Likely not”—only exacerbated Xu’s devastation. On the way home she suffered a heart attack. She died in a hospital two days later.

    An investigation determined that while the first call had been genuine, the second had come from scammers who’d paid a hacker for Xu’s number, admissions status, and request for financial aid.

    For Chinese consumers all too familiar with having their data stolen, Xu became an emblem. Her death sparked a national outcry for greater data privacy protections. Only months before, the European Union had adopted the General Data Protection Regulation (GDPR), an attempt to give European citizens control over how their personal data is used. Meanwhile, Donald Trump was about to win the American presidential election, fueled in part by a campaign that relied extensively on voter data. That data included details on 87 million Facebook accounts, illicitly obtained by the consulting firm Cambridge Analytica. Chinese regulators and legal scholars followed these events closely.

    In the West, it’s widely believed that neither the Chinese government nor Chinese people care about privacy. US tech giants wield this supposed indifference to argue that onerous privacy laws would put them at a competitive disadvantage to Chinese firms. In his 2018 Senate testimony after the Cambridge Analytica scandal, Facebook’s CEO, Mark Zuckerberg, urged regulators not to clamp down too hard on technologies like face recognition. “We still need to make it so that American companies can innovate in those areas,” he said, “or else we’re going to fall behind Chinese competitors and others around the world.”

    In reality, this picture of Chinese attitudes to privacy is out of date. Over the last few years the Chinese government, seeking to strengthen consumers’ trust and participation in the digital economy, has begun to implement privacy protections that in many respects resemble those in America and Europe today.

    Even as the government has strengthened consumer privacy, however, it has ramped up state surveillance. It uses DNA samples and other biometrics, like face and fingerprint recognition, to monitor citizens throughout the country. It has tightened internet censorship and developed a “social credit” system, which punishes behaviors the authorities say weaken social stability. During the pandemic, it deployed a system of “health code” apps to dictate who could travel, based on their risk of carrying the coronavirus. And it has used a slew of invasive surveillance technologies in its harsh repression of Muslim Uighurs in the northwestern region of Xinjiang.

    This paradox has become a defining feature of China’s emerging data privacy regime, says Samm Sacks, a leading China scholar at Yale and New America, a think tank in Washington, DC. It raises a question: Can a system endure with strong protections for consumer privacy, but almost none against government snooping? The answer doesn’t affect only China. Its technology companies have an increasingly global footprint, and regulators around the world are watching its policy decisions.

    November 2000 arguably marks the birth of the modern Chinese surveillance state. That month, the Ministry of Public Security, the government agency that oversees daily law enforcement, announced a new project at a trade show in Beijing. The agency envisioned a centralized national system that would integrate both physical and digital surveillance using the latest technology. It was named Golden Shield.

    Eager to cash in, Western companies including American conglomerate Cisco, Finnish telecom giant Nokia, and Canada’s Nortel Networks worked with the agency on different parts of the project. They helped construct a nationwide database for storing information on all Chinese adults, and developed a sophisticated system for controlling information flow on the internet—what would eventually become the Great Firewall. Much of the equipment involved had in fact already been standardized to make surveillance easier in the US—a consequence of the Communications Assistance for Law Enforcement Act of 1994.

    Despite the standardized equipment, the Golden Shield project was hampered by data silos and turf wars within the Chinese government. Over time, the ministry’s pursuit of a singular, unified system devolved into two separate operations: a surveillance and database system, devoted to gathering and storing information, and the social-credit system, which some 40 government departments participate in. When people repeatedly do things that aren’t allowed—from jaywalking to engaging in business corruption—their social-credit score falls and they can be blocked from things like buying train and plane tickets or applying for a mortgage.

    In the same year the Ministry of Public Security announced Golden Shield, Hong Yanqing entered the ministry’s police university in Beijing. But after seven years of training, having received his bachelor’s and master’s degrees, Hong began to have second thoughts about becoming a policeman. He applied instead to study abroad. By the fall of 2007, he had moved to the Netherlands to begin a PhD in international human rights law, approved and subsidized by the Chinese government.

    Over the next four years, he familiarized himself with the Western practice of law through his PhD research and a series of internships at international organizations. He worked at the International Labor Organization on global workplace discrimination law and the World Health Organization on road safety in China. “It’s a very legalistic culture in the West—that really strikes me. People seem to go to court a lot,” he says. “For example, for human rights law, most of the textbooks are about the significant cases in court resolving human rights issues.”

    Hong found this to be strangely inefficient. He saw going to court as a final resort for patching up the law’s inadequacies, not a principal tool for establishing it in the first place. Legislation crafted more comprehensively and with greater forethought, he believed, would achieve better outcomes than a system patched together through a haphazard accumulation of case law, as in the US.

    After graduating, he carried these ideas back to Beijing in 2012, on the eve of Xi Jinping’s ascent to the presidency. Hong worked at the UN Development Program and then as a journalist for the People’s Daily, the largest newspaper in China, which is owned by the government.

    Xi began to rapidly expand the scope of government censorship. Influential commentators, or “Big Vs”—named for their verified accounts on social media—had grown comfortable criticizing and ridiculing the Chinese Communist Party. In the fall of 2013, the party arrested hundreds of microbloggers for what it described as “malicious rumor-mongering” and paraded a particularly influential one on national television to make an example of him.

    The moment marked the beginning of a new era of censorship. The following year, the Cyberspace Administration of China was founded. The new central agency was responsible for everything involved in internet regulation, including national security, media and speech censorship, and data protection. Hong left the People’s Daily and joined the agency’s department of international affairs. He represented it at the UN and other global bodies and worked on cybersecurity cooperation with other governments.

    By July 2015, the Cyberspace Administration had released a draft of its first law. The Cybersecurity Law, which entered into force in June of 2017, required that companies obtain consent from people to collect their personal information. At the same time, it tightened internet censorship by banning anonymous users—a provision enforced by regular government inspections of data from internet service providers.

    In the spring of 2016, Hong sought to return to academia, but the agency asked him to stay. The Cybersecurity Law had purposely left the regulation of personal data protection vague, but consumer data breaches and theft had reached unbearable levels. A 2016 study by the Internet Society of China found that 84% of those surveyed had suffered some leak of their data, including phone numbers, addresses, and bank account details. This was spurring a growing distrust of digital service providers that required access to personal information, such as ride-hailing, food-delivery, and financial apps. Xu Yuyu’s death poured oil on the flames.

    The government worried that such sentiments would weaken participation in the digital economy, which had become a central part of its strategy for shoring up the country’s slowing economic growth. The advent of GDPR also made the government realize that Chinese tech giants would need to meet global privacy norms in order to expand abroad.

    Hong was put in charge of a new task force that would write a Personal Information Protection Specification (PIPS) to help solve these challenges. The document, though nonbinding, would tell companies how regulators intended to implement the Cybersecurity Law. In the process, the government hoped, it would nudge them to adopt new norms for data protection by themselves.

    Hong’s task force set about translating every relevant document they could find into Chinese. They translated the privacy guidelines put out by the Organization for Economic Cooperation and Development and by its counterpart, the Asia-Pacific Economic Cooperation; they translated GDPR and the California Consumer Privacy Act. They even translated the 2012 White House Consumer Privacy Bill of Rights, introduced by the Obama administration but never made into law. All the while, Hong met regularly with European and American data protection regulators and scholars.

    Bit by bit, from the documents and consultations, a general choice emerged. “People were saying, in very simplistic terms, ‘We have a European model and the US model,’” Hong recalls. The two approaches diverged substantially in philosophy and implementation. Which one to follow became the task force’s first debate.

    At the core of the European model is the idea that people have a fundamental right to have their data protected. GDPR places the burden of proof on data collectors, such as companies, to demonstrate why they need the data. By contrast, the US model privileges industry over consumers. Businesses define for themselves what constitutes reasonable data collection; consumers only get to choose whether to use that business. The laws on data protection are also far more piecemeal than in Europe, divvied up among sectoral regulators and specific states.

    At the time, without a central law or single agency in charge of data protection, China’s model more closely resembled the American one. The task force, however, found the European approach compelling. “The European rule structure, the whole system, is more clear,” Hong says.

    But most of the task force members were representatives from Chinese tech giants, like Baidu, Alibaba, and Huawei, and they felt that GDPR was too restrictive. So they adopted its broad strokes—including its limits on data collection and its requirements on data storage and data deletion—and then loosened some of its language. GDPR’s principle of data minimization, for example, maintains that only necessary data should be collected in exchange for a service. PIPS allows room for other data collection relevant to the service provided.

    PIPS took effect in May 2018, the same month that GDPR finally took effect. But as Chinese officials watched the US upheaval over the Facebook and Cambridge Analytica scandal, they realized that a nonbinding agreement would not be enough. The Cybersecurity Law didn’t have a strong mechanism for enforcing data protection. Regulators could only fine violators up to 1,000,000 yuan ($140,000), an inconsequential amount for large companies. Soon after, the National People’s Congress, China’s top legislative body, voted to begin drafting a Personal Information Protection Law within its current five-year legislative period, which ends in 2023. It would strengthen data protection provisions, provide for tougher penalties, and potentially create a new enforcement agency.

    After Cambridge Analytica, says Hong, “the government agency understood, ‘Okay, if you don’t really implement or enforce those privacy rules, then you could have a major scandal, even affecting political things.’”

    The local police investigation of Xu Yuyu’s death eventually identified the scammers who had called her. It had been a gang of seven who’d cheated many other victims out of more than 560,000 yuan using illegally obtained personal information. The court ruled that Xu’s death had been a direct result of the stress of losing her family’s savings. Because of this, and his role in orchestrating tens of thousands of other calls, the ringleader, Chen Wenhui, 22, was sentenced to life in prison. The others received sentences between three and 15 years.Retour ligne automatique
    xu yuyu

    Emboldened, Chinese media and consumers began more openly criticizing privacy violations. In March 2018, internet search giant Baidu’s CEO, Robin Li, sparked social-media outrage after suggesting that Chinese consumers were willing to “exchange privacy for safety, convenience, or efficiency.” “Nonsense,” wrote a social-media user, later quoted by the People’s Daily. “It’s more accurate to say [it is] impossible to defend [our privacy] effectively.”

    In late October 2019, social-media users once again expressed anger after photos began circulating of a school’s students wearing brainwave-monitoring headbands, supposedly to improve their focus and learning. The local educational authority eventually stepped in and told the school to stop using the headbands because they violated students’ privacy. A week later, a Chinese law professor sued a Hangzhou wildlife zoo for replacing its fingerprint-based entry system with face recognition, saying the zoo had failed to obtain his consent for storing his image.

    But the public’s growing sensitivity to infringements of consumer privacy has not led to many limits on state surveillance, nor even much scrutiny of it. As Maya Wang, a researcher at Human Rights Watch, points out, this is in part because most Chinese citizens don’t know the scale or scope of the government’s operations. In China, as in the US and Europe, there are broad public and national security exemptions to data privacy laws. The Cybersecurity Law, for example, allows the government to demand data from private actors to assist in criminal legal investigations. The Ministry of Public Security also accumulates massive amounts of data on individuals directly. As a result, data privacy in industry can be strengthened without significantly limiting the state’s access to information.

    The onset of the pandemic, however, has disturbed this uneasy balance.

    On February 11, Ant Financial, a financial technology giant headquartered in Hangzhou, a city southwest of Shanghai, released an app-building platform called AliPay Health Code. The same day, the Hangzhou government released an app it had built using the platform. The Hangzhou app asked people to self-report their travel and health information, and then gave them a color code of red, yellow, or green. Suddenly Hangzhou’s 10 million residents were all required to show a green code to take the subway, shop for groceries, or enter a mall. Within a week, local governments in over 100 cities had used AliPay Health Code to develop their own apps. Rival tech giant Tencent quickly followed with its own platform for building them.

    The apps made visible a worrying level of state surveillance and sparked a new wave of public debate. In March, Hu Yong, a journalism professor at Beijing University and an influential blogger on Weibo, argued that the government’s pandemic data collection had crossed a line. Not only had it led to instances of information being stolen, he wrote, but it had also opened the door to such data being used beyond its original purpose. “Has history ever shown that once the government has surveillance tools, it will maintain modesty and caution when using them?” he asked.

    Indeed, in late May, leaked documents revealed plans from the Hangzhou government to make a more permanent health-code app that would score citizens on behaviors like exercising, smoking, and sleeping. After a public outcry, city officials canceled the project. That state-run media had also published stories criticizing the app likely helped.

    The debate quickly made its way to the central government. That month, the National People’s Congress announced it intended to fast-track the Personal Information Protection Law. The scale of the data collected during the pandemic had made strong enforcement more urgent, delegates said, and highlighted the need to clarify the scope of the government’s data collection and data deletion procedures during special emergencies. By July, the legislative body had proposed a new “strict approval” process for government authorities to undergo before collecting data from private-sector platforms. The language again remains vague, to be fleshed out later—perhaps through another nonbinding document—but this move “could mark a step toward limiting the broad scope” of existing government exemptions for national security, wrote Sacks and fellow China scholars at New America.

    Hong similarly believes the discrepancy between rules governing industry and government data collection won’t last, and the government will soon begin to limit its own scope. “We cannot simply address one actor while leaving the other out,” he says. “That wouldn’t be a very scientific approach.”

    Other observers disagree. The government could easily make superficial efforts to address public backlash against visible data collection without really touching the core of the Ministry of Public Security’s national operations, says Wang, of Human Rights Watch. She adds that any laws would likely be enforced unevenly: “In Xinjiang, Turkic Muslims have no say whatsoever in how they’re treated.”

    Still, Hong remains an optimist. In July, he started a job teaching law at Beijing University, and he now maintains a blog on cybersecurity and data issues. Monthly, he meets with a budding community of data protection officers in China, who carefully watch how data governance is evolving around the world.

    #criminalité #Nokia_Siemens #fraude #Huawei #payement #Cisco #CambridgeAnalytica/Emerdata #Baidu #Alibaba #domination #bénéfices #BHATX #BigData #lutte #publicité (...)

    ##criminalité ##CambridgeAnalytica/Emerdata ##publicité ##[fr]Règlement_Général_sur_la_Protection_des_Données__RGPD_[en]General_Data_Protection_Regulation__GDPR_[nl]General_Data_Protection_Regulation__GDPR_ ##Nortel_Networks ##Facebook ##biométrie ##consommation ##génétique ##consentement ##facial ##reconnaissance ##empreintes ##Islam ##SocialCreditSystem ##surveillance ##TheGreatFirewallofChina ##HumanRightsWatch

  • Who (really) targets you ?
    https://panoptykon.org/political-ads-report

    Facebook in Polish election campaigns INTRODUCTION Beginning in 2018, on the heels of the Cambridge Analytica scandal, conversations about the scale and impact of political microtargeting (‘PMT’) began to significantly fuel the newscycle and shape the political agenda. The EU began its war on disinformation and convinced leading internet platforms, including Facebook, to self-regulate. As a result, internet users were offered new tools and disclaimers (see : Facebook moves towards (...)

    #CambridgeAnalytica/Emerdata #Facebook #algorithme #manipulation #données #élections #microtargeting #profiling (...)

    ##CambridgeAnalytica/Emerdata ##publicité

  • Exploitation des données, manipulation de l’opinion, culte du secret… La trahison des GAFA
    https://www.lemonde.fr/m-le-mag/article/2020/12/18/exploitation-des-donnees-manipulation-de-l-opinion-culte-du-secret-la-trahis

    Il y a encore quelques années, Mark Zuckerberg était considéré comme un génie, Google comme l’une des entreprises les plus cool au monde… et puis la confiance s’est perdue. L’avidité des géants de la tech semble avoir eu raison des valeurs des pionniers du numérique : liberté, innovation et progrès.

    Deux jours d’audience de presque cinq heures chacune, pas loin de six cents questions, une centaine de membres du Congrès. Et face à eux : Mark Zuckerberg, le puissant PDG de Facebook, costume et cravate bleus, visage gris. Nous sommes le 10 avril 2018 et le prodige des nouvelles technologies, 33 ans, troisième fortune mondiale, témoigne pour la ­première fois devant les élus américains. Ce ne sera pas la dernière.

    « Mon équipe reviendra vers vous pour des détails supplémentaires », martèle-t-il à seize reprises en guise de réponse aux interrogations minutées des démocrates et des républicains. Elles sont pourtant simples : les données personnelles récoltées par Facebook ont-elles été transmises à des entreprises tierces ? Ces données étaient-elles protégées par les serveurs de l’entreprise ? Ou encore quelle fut la réaction de l’entreprise face aux comptes diffusant des « fake news », notamment sur la vie politique américaine ? Imperturbable, Mark Zuckerberg conserve une voix monotone et une expression neutre. Comme s’il était habitué à être questionné de la sorte.

    A vrai dire, le jeune patron a été formé en urgence par un ancien conseiller spécial du président George W. Bush, sous la pression du scandale Cambridge Analytica. Soit l’utilisation illégale des données personnelles d’environ 87 millions d’utilisateurs de Facebook par cette entreprise britannique financée par le businessman ultraconservateur Robert Mercer, et cofondée par Steve Bannon, ancien stratège du président américain Donald Trump. Tout ça dans le but de favoriser l’élection de ce dernier, en novembre 2016 – une méthode visiblement efficace.

    Au micro, le sénateur du Dakota du Sud John Thune résume l’atmosphère au Capitole : « Dans le passé, beaucoup de mes collègues, des deux côtés de l’allée [majorité et opposition, des deux côtés de l’hémicycle au Sénat], étaient prêts à laisser les entreprises technologiques faire l’effort de s’autoréguler. » Pause. « Cela pourrait changer. » L’image est emblématique : Mark Zuckerberg garde les mains posées sur le large bureau noir, face à des dizaines d’appareils photo, comme s’il craignait d’être englouti par ce haut lieu du pouvoir américain. Il se raccroche aux origines « modestes » de son entreprise, créée dans un « dortoir » de l’université Harvard en 2004, et concède : « Nous avons fait des erreurs et nous essayons d’en tirer des conclusions. » Comme un premier aveu de faiblesse.Retour ligne automatique
    La Silicon Valley tremble

    Il y en aura d’autres. Au-delà du plus célèbre réseau social, scruté de plus en plus intensément aux Etats-Unis comme dans l’Union Européenne, c’est la Silicon Valley tout entière qui tremble. La crise est sans précédent. A tel point que, le 16 décembre 2018, l’influent Financial Times dévoile un « mot de l’année » inédit et directement adressé à l’industrie la plus riche de l’histoire : techlash. Contraction de tech et backlash (« contrecoup », en VF), il désigne l’animosité croissante d’une large part de la population envers les plus grandes entreprises technologiques mondiales et leur pouvoir intimidant.

    « Même la femme au foyer de 50 ans originaire du Minnesota intéresse Cambridge Analytica. Nous sommes tous victimes de la surveillance généralisée. » Christopher Wylie, lanceur d’alerte

    L’année suivante, un sondage du Pew Research Center confirme l’intuition du média financier : la part d’Américains persuadés que la technologie produit un impact positif sur la société est passée à seulement 50 % en 2019, contre 71 % en 2015. « A mesure que les grandes entreprises technologiques se sont hissées au top du capitalisme mondial, les contestations sont apparues », constate Sébastien Broca, sociologue à l’université Paris-VIII.

    Difficile d’en vouloir à l’opinion : en quelques années à peine, ces innovations, vendues comme révolutionnaires et consacrées au bien commun, ont accompagné l’élection de Donald Trump et sa rhétorique raciste et rétrograde ; Google a discrètement cherché à développer un moteur de recherche censuré, le projet « Dragonfly », fait sur mesure pour respecter les exigences du gouvernement chinois ; Amazon a nié toutes les avancées du droit du travail pour maintenir la cadence dans ses immenses entrepôts nécessaires à la vente en ligne.

    Les exemples ne manquent pas. « Le techlash est le résultat prévisible pour une industrie incapable de se gouverner elle-même », conclut le Financial Times. Depuis, les mêmes questions ne cessent de hanter les cercles de pouvoir, les médias et les plates-formes de discussions, tous réseaux sociaux confondus : où est passée l’utopie ? Comment la Silicon Valley a-t-elle pu devenir cette inquiétante machine dont on aurait visiblement perdu le contrôle ? Peut-on encore l’empêcher de menacer nos libertés, nos vies privées, et peut-être même la démocratie ?Retour ligne automatique
    Le coup de grâce Cambridge Analytica

    Sa puissance, visiblement sans limites, est déjà devenue « inquiétante », selon les termes de plusieurs personnes interrogées pour cet article. Pour une industrie de la tech déjà en plein doute existentiel, les révélations sur les pratiques de l’entreprise Cambridge Analytica font office de coup de grâce. En 2018, l’ancien consultant Christopher Wylie, qui a travaillé pour cette entreprise britannique spécialisée dans le conseil en communication et l’analyse de données, transfère des disques durs de documents à plusieurs journalistes du quotidien anglais The Guardian, toutes employées dans la rubrique « Arts et culture ».

    « Il n’y avait pas un seul journaliste tech sur cette histoire, raconte le lanceur d’alerte via Zoom, il fallait des gens, en l’occurrence uniquement des femmes, qui ne faisaient pas partie de ce petit monde masculin pour pointer ses failles. » Elles sont béantes : un outil dédié à la lutte contre la radicalisation aurait été tordu pour devenir un vaste projet de manipulation des données permettant d’influer sur plusieurs élections démocratiques. Cambridge Analytica serait ainsi devenu un outil de « guerre psychologique », pointe Christopher Wylie.

    L’impact médiatique de cette série d’articles est à la hauteur des informations rendues publiques. Le trentenaire, installé à Londres, se lance dans une « tournée d’audiences parlementaires », s’exprime sur tous les plateaux de télévision disponibles, devient le visage – cheveux de couleurs variées, lunettes branchées – de la débâcle de la tech. Il précise : « Pour la première fois, tout le monde a compris qu’il pouvait être une cible, même la femme au foyer de 50 ans originaire du Minnesota intéresse Cambridge Analytica. Nous sommes tous victimes de la surveillance généralisée. » Avec, comme dommage collatéral, les idéaux fondateurs de la Silicon Valley.Retour ligne automatique
    Des nerds devenus les rois du monde

    Cupertino, Californie, 1984. Jean-Louis Gassée est attablé au Good Earth, un café du centre-ville aujourd’hui disparu pour cause de gentrification. C’est l’heure du petit-déjeuner. Le premier d’une nouvelle vie. Le Français de 40 ans vient d’être nommé directeur de la division recherche et développement chez Apple, les cool kids de l’ordinateur personnel – un Macintosh, comme ils ont appelé leur révolution estampillée d’une pomme croquée. Mais, pour l’instant, Jean-Louis Gassée regarde le ciel et laisse son esprit vagabonder dans le big sky country.

    « La tech était sexy, c’était le futur et c’était forcément génial ! Je crois qu’il y a eu un gros manque de responsabilité de la part de ces leaders politiques qui n’ont pas prêté attention aux signes avant-coureurs. » Un ancien grand patron de la tech

    « Je me disais, ça y est, je suis arrivé, rejoue-t-il aujourd’hui par téléphone depuis la Côte ouest, c’est l’endroit où j’avais toujours voulu aller. » Depuis son arrivée chez Hewlett-Packard, et sa branche française, en 1968, le cadre n’a jamais cessé de rêver des Etats-Unis. Là-bas, il entrevoit le « sentiment des possibilités » et une culture de l’entreprenariat plus aboutie qu’à Paris. « Il n’y avait pas que le fric qui comptait ! Je voulais y aller pour faire ce qui n’existait pas avant, pour innover ! », sourit l’ancien businessman, 76 ans aujourd’hui. En l’espace de deux décennies, il a vu se lancer des dizaines de start-up, et certaines sont devenues, depuis, des empires.

    La saga emblématique de cet âge d’or reste peut-être celle de Google, symbole de la méritocratie en vogue au cœur de cette Silicon Valley encore tâtonnante. La preuve : Larry Page et Sergey Brin sont les « deux meilleurs ingénieurs » de l’université Stanford et ils ont une « idée toute simple et très belle », assure l’entrepreneur. Ils souhaitent ranger les pages Internet en les classant selon leur mérite. Jean-Louis Gassée : « Ils ont construit un algorithme, mis sur pied quelques serveurs et c’est devenu ce qu’on sait. »

    Hors de cette bulle de nerds devenus les rois du monde, on loue aussi la vision de cette jeune génération fraîchement débarquée dans les affaires, prête à tout gagner, autant qu’à « contribuer au bien de l’humanité ». Les médias érigent Steve Jobs, et plus tard Mark Zuckerberg ou Jeff Bezos, au rang de nouvelles figures du cool et de la réussite à l’américaine. Le grand public est conquis. Et les décideurs politiques leur ouvrent bientôt grand les portes. Toutes les portes.

    Snowden sonne l’alarme

    Les années Obama sont le théâtre d’une véritable love story entre la tech et la Maison Blanche. A partir de 2008, les pontes de Google ont organisé près d’« un rendez-vous par semaine » avec le président, selon un ancien patron d’une grande entreprise canadienne. A en croire les archives répertoriées pendant les deux mandats de Barack Obama, près de quatre cents de ces rendez-vous ont bien eu lieu dans la plus haute sphère du pouvoir politique.

    Assez pour que de nombreux hauts fonctionnaires poursuivent leur carrière dans les conseils d’administration des mastodontes de la Silicon Valley. Et vice versa. Un feu vert symbolique pour tout un corps de métier. Cet ancien grand nom de l’innovation canadienne confirme : « La tech était sexy, c’était le futur et c’était forcément génial ! Je crois qu’il y a eu un gros manque de responsabilité de la part de ces leaders politiques qui n’ont pas prêté attention aux signes avant-coureurs. Ces signaux étaient pourtant là. »

    Le plus flagrant se manifeste en 2013. C’est un cataclysme. Le jeune informaticien Edward Snowden dévoile un vaste programme de surveillance de masse pilotée par la NSA (National Security Agency). Les services de renseignement ont puisé directement des données sur les plateformes Internet et dans les entreprises de leur propre pays, sans autorisation ni contrôle. Adolescent dans les années 1990, Snowden avait cru aux interventions des pionniers de la tech, détaille-t-il dans son autobiographie. « Il raconte comment, à 14 ans, il pouvait parler à des scientifiques renommés à l’autre bout du monde, explique le sociologue Sébastien Broca. Mais, pour lui, il y a eu trahison de cette utopie initiale. »

    C’est ainsi qu’il justifie son geste radical et pour lequel il sera prêt à vivre en exil au nom de la protection de nos données privées. Dans ce programme, décrit comme « orwellien » par la justice fédérale américaine, les grandes entreprises mises en cause ont souvent été considérées comme victimes plutôt que complices. Malgré leur participation évidente à certaines de ces manœuvres.

    Le péché originel

    A la même époque, le 17 juin 2014, Facebook et la prestigieuse université Cornell publient un article scientifique intitulé « La preuve expérimentale de la contagion émotionnelle à grande échelle à travers les réseaux sociaux », ou comment manipuler les sentiments des utilisateurs des réseaux sociaux grâce à des publicités ciblées. Comme une conclusion logique, l’année suivante, Google abandonne sans bruit son slogan historique, le célèbre « Don’t be evil » (« ne faites pas le mal »).

    Mais pour Tim O’Reilly, pionnier légendaire de la Silicon Valley, le ver était dans le fruit bien avant les révélations de Snowden : « Le 8 février 1996, la section 230 a été adoptée dans la loi américaine, qui permet aux plateformes Internet de ne pas être responsables des publications sur leurs sites, détaille l’entrepreneur, donc on a arrêté de modérer le contenu correctement. »

    En parallèle, un autre verrou saute : la monétisation des données. Oublié l’utopie de start-up tournées vers le bien commun. A l’aube des années 2000, les nouvelles compagnies commencent à songer en termes de rentabilité et Google se met à vendre ses données au plus offrant. La pratique sera bientôt généralisée et des milliards de dollars de profits suivront.

    Et l’on découvre que les GAFA sont des entreprises capitalistes comme les autres, voire pire que les autres. Pour Tim O’Reilly, la tech s’inscrit dans la logique ultralibérale définie par l’économiste Milton Friedman. Dans une tribune publiée dans le New York Times Magazine le 13 septembre 1970, le futur Prix Nobel écrivait : « La responsabilité sociale des entreprises est de générer du profit. » Tim O’Reilly y voit le péché originel, le fruit défendu dans lequel ont croqué les GAFA. Jusqu’à ce que le paradis fantasmé ne devienne un enfer.

    La fronde des employés

    Le 1er novembre 2018, à 11 heures du matin, environ 20 000 employés de Google quittent leur poste de travail, sans un regard pour les open spaces bientôt déserts. Dublin, Chicago, Zurich ou Berlin, presque aucun bureau n’échappe à la « plus grande grève de l’histoire du droit du travail moderne », selon Ben Tarnoff, auteur du livre d’entretiens Voices from the Valley (2020, non traduit), organisée simultanément dans cinquante villes. Les employés modèles protestent contre les parachutes dorés offerts à plusieurs cadres dirigeants accusés de harcèlement sexuel – notamment Andy Rubin, créateur de la technologie Android, parti avec 90 millions de dollars.

    Cette « révolte de la tech » dans le plus grand moteur de recherche du monde avait débuté plus tôt dans l’année, contre le « Projet Maven » – un contrat noué avec le Pentagone pour améliorer le programme de drones américains à l’aide de l’intelligence artificielle. « Ces sujets sont devenus très importants au cours des deux dernières années, raconte Evan Greer, directeur adjoint de Fight for the Future, un organisme à but non lucratif militant pour la défense des droits des usagers du numérique. Et ils interrogent plus largement le but de toute cette technologie. »

    « Beaucoup d’entreprises se sont associées à des boîtes dont le seul but est de briser toute tentative de création de syndicat. » Ben Tarnoff, employé de la Silicon Valley

    Conscients de leur pouvoir immense, les employés de ces entreprises s’associent aux mouvements nationaux et internationaux, de Black Lives Matter aux différents cercles féministes impliqués dans la lutte contre le harcèlement et le viol depuis les révélations de #metoo en 2017. « Toutes ces actions ne viennent pas de nulle part, elles reposent sur une dynamique plus globale dans la société », souligne Evan Greer.

    Résultat, toute la « Vallée » est bientôt rythmée par les levées de boucliers : des employés pressent Microsoft d’abandonner ses liens et son projet à 10 milliards de dollars avec l’armée américaine ; en pleine administration Trump, l’entreprise Salesforce est pointée du doigt pour son partenariat avec les douanes américaines ; Amazon doit, pour la première fois, organiser des négociations avec les employés de ses hangars de tri. Alors, tout est en train de s’arranger ? Pas vraiment.Retour ligne automatique
    Représailles et surveillance

    « On dirait que c’est de nouveau le XIXe siècle », s’amuse Ben Tarnoff, comme pour tenir l’épuisement à distance. Par là, l’employé de la Silicon Valley fait référence aux « représailles agressives » tristement devenues la norme sous le soleil de la Californie. Dans les plus grandes entreprises, plusieurs leaders de ces mouvements spontanés ont été licenciés dans la foulée de leurs prises de parole publiques.

    En novembre 2020, le site d’information américain Motherboard révèle qu’Amazon a signé un généreux contrat avec l’entreprise Pinkerton, leader historique des agences anti-syndicats et spécialisée dans l’espionnage des employés prêts à sortir du rang. « Beaucoup d’entreprises se sont associées à des boîtes dont le seul but est de briser toute tentative de création de syndicat », précise Ben Tarnoff.

    Pour ne prendre aucun risque, les moyens de surveillance développés dans la Silicon Valley sont régulièrement utilisés en interne – même chez Google, l’une des entreprises les plus « libres » : les téléphones professionnels sont mis sur écoute, les serveurs internes prévus pour les échanges entre services sont rendus accessibles au management et des accords de confidentialité impitoyables sont imposés à certains employés. Le pire ? Tout ça fonctionne. Depuis l’année 2018, le nombre de manifestations publiques ou privées a drastiquement diminué. La routine semble avoir repris ses droits. Ben Tarnoff : « Après la frustration et la colère de voir leurs équipes se rebeller, beaucoup de cadres dirigeants ont adopté un discours réactionnaire. »Retour ligne automatique
    Les « réformateurs de la tech »

    D’autres ont pris le chemin inverse, renoncé à leurs salaires à six chiffres, leurs titres ronflants et leurs portefeuilles de stock-options, pour se lancer dans la mêlée. C’est le cas de Jim Balsillie, ancien PDG de l’entreprise RIM et créateur du célèbre BlackBerry, devenu en quelques années une figure centrale d’un jeune mouvement de « réformateurs de la tech ». Soit d’anciens cadres haut placés et chief executive officers (CEO) qui ont vu la bête de l’intérieur, le désastre potentiel et ont décidé de ne pas rester les bras ballants. « Je ne pensais pas que la tech deviendrait si toxique », regrette le multimilliardaire.

    Ses actions contre le projet de « smart city » pilotée par Google à Toronto, la ville où il a fait ses études, aux côtés d’associations locales, ses travaux avec le milliardaire hongrois George Soros pour le Forum économique mondial de Davos ou la création de plusieurs think tanks ont fait de lui un véritable « activiste », comme l’a résumé Shoshana Zuboff, influente autrice de L’Age du capitalisme de surveillance (Zulma, 2020). Aux côtés de puissantes personnalités de la Silicon Valley, comme Roger McNamee, ancien mentor de Mark Zuckerberg et investisseur star de Californie, ou Tristan Harris, ancien cadre de Google, il pointe la cupidité des nouveaux pontes de l’innovation, emportés par leur hubris et leurs rêves de monopole, encouragés par des succès tonitruants ou leurs réactions violentes face à la moindre tentative de contrôle.

    Jim Balsillie rappelle : « Dans l’histoire, le travail des enfants, l’esclavage et les déchets toxiques ont été bannis. Nous avons toujours imposé des règles pour contrôler le capitalisme, afin que le bien-être de la société reste l’objectif final. » L’entrepreneur aimerait bien que cela continue. Fin novembre 2020, 132 patrons, souvent jeunes, de sociétés de nouvelles technologies basées au Canada ont transmis une lettre ouverte au premier ministre Justin Trudeau qui, tel Obama il y a quelques années, semble sous le charme de la tech. Exigeant des garde-fous, ils l’ont invité à se montrer « responsable sur la question des données » pour favoriser la « construction de la nation », surtout dans une période de crise. « Il faut réguler, pointe le créateur du BlackBerry, c’est une question de démocratie. »

    La riposte des Etats

    En 2019, aux Etats-Unis, la Federal Trade Commission (FTC) a infligé une amende record de 5 milliards de dollars – la plus importante de l’histoire du pays – à Facebook, pour non-respect de la vie privée. Dans l’Union européenne, 8,25 milliards d’euros ont été demandés à Google pour abus de position dominante de 2017 à 2019, a tranché la commissaire à la concurrence Margrethe Vestager, qui a aussi permis l’avènement du règlement général sur la protection des données (RGPD), première base juridique solide pour contrer les GAFA.

    « Dans les cercles politiques, tout le monde sait désormais que ces entreprises ne sont pas forcément là pour agir dans l’intérêt de tous », précise Damian Collins, député conservateur au Parlement britannique. Grâce au soutien des idéalistes de la tech, et à son rôle au sein du Real Facebook Oversight Board – un groupe indépendant pour le contrôle des activités du réseau social –, l’homme politique a prévu de passer à la vitesse supérieure : des régulations contraignantes et internationales. « Ces entreprises sont présentes partout et nous sommes limités dans nos décisions nationales, justifie le membre du Parlement, donc nous avons par exemple instauré un grand comité international avec des parlementaires en Europe et dans le monde. »

    L’idée est en cours depuis deux ans déjà, et les premières avancées, des deux côtés de l’Atlantique, commencent à surgir, malgré l’absence presque totale de collaboration des GAFA. Le 9 décembre, la FTC et 48 Etats américains ont accusé Facebook d’avoir bafoué les lois anti-trust en rachetant des concurrents pour s’assurer un contrôle total de plusieurs marchés. Le 19 décembre, c’est Google qui a fait l’objet d’une troisième plainte en deux mois. Une coalition de 38 Etats a lancé des poursuites contre le géant de l’Internet là aussi pour pratiques anticoncurrentielles.

    Quant à l’Union européenne, elle a dévoilé, le 15 décembre, un plan d’attaque en deux volets : un Digital Service Acte (DSA) pour la régulation des contenus, et le Digital Market Act (DMA) afin de préserver la concurrence dans le numérique. Affaire à suivre. Gageons que les protestations – et les pressions – des géants du numérique seront à la hauteur des ambitions des législateurs.

    Habituellement, les premières « questions difficiles » posées, le dialogue se rompt très vite. « J’ai demandé à Facebook, dans un rendez-vous privé, de vérifier combien et quelles publicités avaient été achetées par des comptes russes pendant la campagne pour le Brexit », se souvient Damian Collins, lui-même en faveur du maintien dans l’UE. Les équipes de Zuckerberg proposent alors de vérifier des preuves que le parlementaire apporterait, sans avoir accès aux serveurs de l’entreprise. Difficile de faire plus, assurent-ils. « Puis ils ont ajouté qu’ils ne regarderaient pas et ne me donneraient pas l’information », poursuit le parlementaire britannique.

    Le poids des étudiants

    Pour rester optimiste, le milieu de l’année 2020 a déjà apporté une (petite) victoire. Pendant l’été, la grande entreprise de données Palantir Technologies, cofondée par Peter Thiel, un des seuls soutiens de Donald Trump dans la tech, a dû quitter Palo Alto. Et la Silicon Valley tout entière. Direction Denver, dans le Colorado, où l’entreprise a installé ses nouveaux locaux, prête à continuer à collaborer avec l’Immigration and Customs Enforcement (ICE) pour « optimiser » les renvois de réfugiés illégaux, présents sur le territoire américain, comme ce fut le cas durant toute l’administration Trump.

    Qu’est-ce qui a poussé la grande entreprise loin de la Côte ouest ? « Les étudiants », sourit Ben Tarnoff. Plusieurs milliers de jeunes, organisés dans seize universités différentes, dont Stanford, qui jouxte Palo Alto. Armés de pancartes désignant Palantir comme « social evil », ils ont réussi à faire ployer l’une des entreprises les plus mystérieuses et les plus puissantes du monde moderne. « Ce sont eux qui ont le pouvoir, précise l’auteur de Voices from the Valley. Cette boîte, comme beaucoup d’autres, recrute principalement à Stanford ou au MIT, et d’un coup ils ne pouvaient plus recruter. »

    La première victoire d’une longue série ? Cette stratégie a été appliquée dans d’autres cas, pour chambouler des géants comme Amazon. Sans succès. Ces entreprises et nos vies n’ont pas fini d’être intimement liées. Le sociologue Sébastien Broca raconte : « Dans le New York Times, il y a quelque temps, un consultant en nouvelles technologies a dit quelque chose que je n’arrive pas à oublier. Il expliquait que le nirvana vanté par la Silicon Valley avait du plomb dans l’aile, mais que nous, en tant que consommateurs, nous ne cessions de voter pour ces entreprises. »

    Après l’annonce du départ de Palantir, les étudiants de Stanford ont célébré leur victoire sur Instagram, Facebook ou TikTok. Puis, le soir même, certains ont probablement regardé une série Netflix, commandé un plat sur Uber Eats ou se sont offert un cadeau sur Amazon. Il fallait bien fêter ça.

    #Apple #Google #CambridgeAnalytica/Emerdata #NSA #Amazon #Facebook #GoogleSearch #algorithme #Dragonfly #consommation #manipulation #consentement #domination #BigData #GAFAM #GigEconomy #PRISM #syndicat #travail (...)

    ##CambridgeAnalytica/Emerdata ##FTC

  • « Une nation ne peut pas se permettre qu’une puissance étrangère ait la main sur les données de ses citoyens »
    https://www.franceinter.fr/une-nation-ne-peut-pas-se-permettre-qu-une-puissance-etrangere-ait-la-ma

    Si Trump a voulu qu’une entreprise américaine rachète Tik Tok, et si l’Irlande demande à Facebook de cesser d’envoyer les données collectées aux États-Unis, c’est que désormais le big data relève de la souveraineté des pays. C’est en tout cas l’avis d’Arnold Zéphir, concepteur d’intelligences artificielles. Pour justifier sa position, Trump a mis en avant les risques d’espionnage via la collecte, à grande échelle, de données des Américains. Récemment, l’Autorité irlandaise de protection des données (...)

    #ByteDance #CambridgeAnalytica/Emerdata #TikTok #algorithme #smartphone #GPS #géolocalisation #BigData #marketing #surveillance (...)

    ##CambridgeAnalytica/Emerdata ##CNIL

  • Shoshana Zuboff : « Larry Page, cofondateur de Google, a découvert rien de moins que le capitalisme de surveillance »
    https://www.lemonde.fr/idees/article/2020/11/26/shoshana-zuboff-larry-page-cofondateur-de-google-a-decouvert-rien-de-moins-q

    Dans un entretien au « Monde », l’universitaire américaine montre comment, au début du nouveau millénaire, Google et consorts ont fait de nos « informations personnelles » la marchandise suprême, et bâti des empires sur leur collecte et leur commerce. Shoshana Zuboff est professeure émérite à la Harvard Business School. Elle a étudié l’essor du capitalisme numérique, la transformation du travail et de la société de consommation qu’a entraînée cette révolution. Elle vient de faire paraître L’Age du (...)

    #Google #GoogleSearch #algorithme #domotique #prédiction #bénéfices #BigData #publicité #surveillance #CambridgeAnalytica/Emerdata #Facebook #manipulation #Amazon #Zoom (...)

    ##publicité ##CambridgeAnalytica/Emerdata ##technologisme

  • « Réélire Donald Trump serait un changement du cours de l’histoire »
    https://www.lemonde.fr/idees/article/2020/10/19/jill-lepore-reelire-donald-trump-serait-un-changement-du-cours-de-l-histoire

    L’historienne Jill Lepore raconte, dans un entretien au « Monde », la première expérience d’analyse de données à des fins politiques aux Etats-Unis, conçue en 1959 pour faire élire John Kennedy. Selon elle, le recours important aux mathématiques dans la politique américaine a conduit à à la situation actuelle, « où nous sommes tous tellement segmentés et microciblés que nous n’avons plus le sens du bien commun ». Historienne prolifique, Jill Lepore est aussi professeure à Harvard et journaliste au New (...)

    #CambridgeAnalytica/Emerdata #Simulmatics #algorithme #élections #données #DataBrokers #microtargeting (...)

    ##CambridgeAnalytica/Emerdata ##profiling

  • Élections américaines : entre Facebook et Trump, un mariage de réseau
    https://www.telerama.fr/idees/elections-americaines-entre-facebook-et-trump-un-mariage-de-reseau-6712640.

    Son patron, Mark Zuckerberg, a beau s’en défendre, Facebook est accusé de faire le lit du conspirationnisme et le jeu de Donald Trump, plus conciliant à son égard que le camp démocrate. Au point d’avoir scellé un pacte avec le président ? Octobre 2019 : alors qu’il est à Washington pour être cuisiné par le Congrès, Mark Zuckerberg reçoit une invitation informelle à dîner. Pas n’importe où : au 1600 Pennsylvania Avenue. À la Maison-Blanche. De cette réception en comité restreint, il ne filtrera rien, ni le (...)

    #CambridgeAnalytica/Emerdata #Facebook #manipulation #élections #extrême-droite

    ##CambridgeAnalytica/Emerdata

  • L’implication de Cambridge Analytica dans la campagne du Brexit était limitée… tout comme l’efficacité de ses outils
    https://www.lemonde.fr/pixels/article/2020/10/08/l-implication-de-cambridge-analytica-dans-la-campagne-du-brexit-etait-limite

    Une enquête britannique conclut que l’entreprise au cœur du scandale de vol de données personnelles n’avait développé aucune technologie innovante. Cambridge Analytica « n’a effectué qu’un travail limité pour la campagne [pro-Brexit] Leave.eu, au-delà de son implication dans l’analyse des données des membres du parti UKIP ». C’est l’une des principales conclusions de l’enquête menée par l’Information Commissionner Office (ICO – « Bureau du commissaire à l’information ») britannique, qui a publié mercredi 7 (...)

    #CambridgeAnalytica/Emerdata #algorithme #manipulation #données #élections #profiling (...)

    ##CambridgeAnalytica/Emerdata ##publicité

    • @koantig c’est plus facile de penser que c’est du vent (et ça rassure la population de croire que ça n’a pas eu d’influence sur le vote vu la monstruosité du scandale) que d’évaluer à sa mesure le système de surveillance mis en place pour profiler les électeurs et les influencer dans leur vote. Plusieurs films documentaires sur Cambridge Analytica présentent des enquêtes extrêmement bien menées pour se faire une idée plus précise de cette surveillance et du basculement mené tout en maintenant le mythe démocratique du vote, cela permet de comprendre l’avènement de figure tel que Trump. Enfin, pour mieux comprendre la réification en bulletin de vote des êtres humains dans la sphère politique, on peut se faire une idée des forces en œuvre avec les côtes prédictives de la bourse mondiale et les gains pharaoniques et cyniques du même auteur du programme.

    • Je n’ignore évidemment pas les problèmes que la généralisation de la surveillance engendrent (j’écris ce message sur tor ! Et il n’y a qu’à voir le genre de trucs que je poste) mais il faut s’attacher à mesurer les effets de ces outils à leur juste valeur.

      Pour Trump et le Brexit, elles ont sans doute jouer un rôle mais c’est parce que le vote était déjà à 50-50. Un effet même marginal peut décider de l’issue. Le fait que ces élections étaient si serrées au départ est un problème plus profond.

      Le FUD et le confusionisme m’ont l’air beaucoup plus efficaces pour saloper la démocratie que des machines fonctionnant sous deep learning, nourri par la surveillance (raison de plus de s’en passer !).

    • Le mot Brexit n’apparait que 2 fois dans le rapport en ligne, j’ai repris les passages qui me semblaient intéressants. Je ne développerai pas parce que je trouve épuisantes et stériles les conversations « pour avoir raison ».

      https://ico.org.uk/media/action-weve-taken/2618383/20201002_ico-o-ed-l-rtl-0181_to-julian-knight-mp.pdf

      This further work confirms my earlier conclusion that there are systemic vulnerabilities in our democratic systems.

      The investigation is therefore concluding, and the following letter and Annexes acts as our final written account to Parliament. It provides a summary of the conclusions we have drawn from our analysis of the evidence in the final stages of our investigation, the additional actions we have taken and why, and broader learning we and other data protection authorities can draw on to inform future investigations and regulatory work in the digital era. In addition, Annex 1 provides the Committee with detailed answers to the specific questions asked by the Committee. Annex 2 provides a deep dive into how SCL Elections / Cambridge Analytica used the personal data it held, whether these methods could be used in the future, and the associated risks to citizens.

      The following organisations have now paid the penalty notices levied on them:•Facebook (£500,000) paid 04 November 2019•Vote Leave (£40,000) paid 29 April 2019•Leave.EU (£15,000) paid 15 May 2019 •Emma’s Diary (£140,000) paid 29 August 201814.In addition, we successfully prosecuted SCL Elections for their failure to comply with my Enforcement Notice. We fined them £18,000

      22 - What is clear is that the use of digital campaign techniques are a permanent fixture of our elections and the wider democratic process and will only continue to grow in the future. The COVID-19 pandemic is only likely to accelerate this process as political parties and campaigns seek to engage with voters in a safe and socially distanced way.

      23 - I have always been clear that these are positive developments. New technologies enable political parties and others to engage with a broad range of communities and hard to reach groups in a way that cannot be done through traditional campaigning methods alone. But for this to be successful, citizens need to have trust in how their data is being used to engage with them.

      27.The impact of this investigation has also had international reach. I have been asked to brief parliaments and governments across the world and I have shared the learning from this investigation with election oversight and privacy regulators internationally. The prominence of the use of personal data in political influence has grown significantly, and several international counterparts have since undertaken similar work, as is appropriate to safeguard their national democratic structures.

      –----

      10.SCL’s own marketing material claimed they had “Over 5,000 data points per individual on 230 million adult Americans.” However, based on what we found it appears that this may have been an exaggeration. 11.Although we do not have a list of all the datasets, during the document review we discovered evidence that some of the data sets as at September 2015 included:•Nationwide voter files from L2 (meaning “Labels and Lists”) and DataTrust (~50 data points for 160M individuals)•Nationwide consumer data from Acxiom and Infogroup (~500 data points for 160M individuals) •Election return results from Magellan (~20data points for national census tracks) •Nationwide consumer data from DataTrust (3000 data points for 100M individuals) •Psychographic inventories (10 data points for 30M individuals) •Facebook social network (graph database containing 30M individuals) •Facebook likes (570 data points for 30M individuals) •In-depth Republican Primary focused surveys (80k) •ForAmerica member data (14.6M post comments, 240M post likes across 31 M users) •Emails from Infogroup (30M) •Emails from DataTrust (26M)12.In short, the number of data points varied considerably, both from individual to individual and from one project to the next.

      14.In respect of Dr Kogan’s application, which he called thisisyourdigitallife(the App), the material obtained in the evidence review corroborated our understanding as set out in our previous reports that it obtained data from individuals who authorised it to access their Facebook data. However, the App functioned in a way which meant that it was also able to obtain the data of that user’s Facebook ’friends’ (who had not themselves restricted such sharing through their own Facebook ’privacy controls’). In conjunction with the personality quiz function of the App, along with a record of each user’s ’likes’ information, Dr Kogan was able to model personality traits for users of the App, and for their Facebook ’friends’. This approach seeming built on
      14earlier work by Dr Kogan involving Facebook ‘likes’ and personality scores.Dr Kogan set up a new company, GSR, this was established and funded for the primary purpose of acting as a vehicle for the provision of the services anticipated under the contract between GSR and SCL / CA.

      19.It was suggested that some of the data was utilised for political campaigningassociated with the Brexit Referendum. However, our view on review of the evidence is that the data from GSR could not have been used in the Brexit Referendum as the data shared with SCL/Cambridge Analytica by Dr Kogan related to US registered voters. There was evidence of considerable focus in the data collection and data matching processes between GSR and SCL on US voters, as this was what was to be paid for under the contract(s) between them. Cambridge Analytica did appear to do a limited amount of
      15workfor Leave.EU but this involved the analysis of UKIP membership data rather than data obtained from Facebook or GSR. Some evidence was recovered however that suggested an intention by SCL / GSR to target UK voters in 2014 through the same process. This work does not appear however to have been taken forward.

      23.In early 2014, SCL/CA commissioned Aggregate IQ ("AIQ"), a Canadian based company, to build a Customer Relationship Management (CRM) tool for use during the American 2014 midterm elections. SCL called the tool RIPON. It was designed to help political campaigns with typical campaign activity such as door to door, telephone and email canvassing. In October 2014, AIQ also placed online advertisements (including on the Facebook Platform) for SCL on behalf of its clients.

      29.The data points collected by GSR with respect to survey users and their Facebook ‘friends’ was specifically selected to enable a ‘matching’ process against pre-existing SCL databases. Matching took place using file sharing platforms and by reference to name, date of birth and location –with SCL’s existing datafiles being ‘enriched’ and supplemented by GSR’s data about those same individuals –and this matched information being passed back into SCL systems. This resulted for example information including scores for voting frequency, whether likely republican or democrat, voting consistency, and a profile which predicted personality traits matched to information such as voter ID, name, address, age, and other commercial data.

      30.Through such processes the relevant US voter GSR data (about approx. 30 million individuals) was then further analysed using machine learning algorithms to create additional “predicted” scores relating to partisanship and other criteria which were then applied to all the individuals in the database. Some of these focussed on likes as wide ranging as “gay rights”, “Obama the worst president in US history”, “Re-elect President Obama in 2012”, “the Bible” and “National Rifle Association”. These scores were used to identify clusters of similar individuals who could be potentially targeted with advertising relating to political campaigns. This targeted advertising was ultimately likely the final purpose of the data gathering but whether or which specific data from GSR was then used in any specific part of campaign has not been possible todetermine from the digital evidence reviewed. There is however evidence recovered that suggests that similar approaches and models based on the predicted personality traits and other measures were used with Republican National Committee (RNC) data.

  • Algorithmic Governmentality and the Death of Politics
    https://www.greeneuropeanjournal.eu/algorithmic-governmentality-and-the-death-of-politics

    In recent years, the likes of the Cambridge Analytica scandal together with regulatory steps such as the EU’s GDPR data law have contributed to a swell in public awareness on the potential risks of big data and artificial intelligence. Privacy, however, is only the tip of the iceberg. We sat down with legal philosopher Antoinette Rouvroy to discuss her work on algorithmic governmentality and the profound transformation the neoliberal-driven tech revolution is catalysing in society and (...)

    #CambridgeAnalytica/Emerdata #algorithme #[fr]Règlement_Général_sur_la_Protection_des_Données_(RGPD)[en]General_Data_Protection_Regulation_(GDPR)[nl]General_Data_Protection_Regulation_(GDPR) #prédiction #BigData #GAFAM #profiling (...)

    ##CambridgeAnalytica/Emerdata ##[fr]Règlement_Général_sur_la_Protection_des_Données__RGPD_[en]General_Data_Protection_Regulation__GDPR_[nl]General_Data_Protection_Regulation__GDPR_ ##surveillance

  • Why Facebook’s political-ad ban is taking on the wrong problem
    https://www.technologyreview.com/2020/09/06/1008192/why-facebooks-political-ad-ban-is-taking-on-the-wrong-problem

    A moratorium on new political ads just before election day tackles one kind of challenge caused by social media. It’s just not the one that matters. When Mark Zuckerberg announced that Facebook would stop accepting political advertising in the week before the US presidential election, he was responding to widespread fear that social media has outsize power to change the balance of an election. Political campaigns have long believed that direct voter contact and personalized messaging are (...)

    #CambridgeAnalytica/Emerdata #Facebook #algorithme #manipulation #domination #élections (...)

    ##CambridgeAnalytica/Emerdata ##SocialNetwork

  • If Then : How the Simulmatics Corporation Invented the Future
    https://bookshop.org/books/if-then-how-the-simulmatics-corporation-invented-the-future/9781631496103

    The Simulmatics Corporation, launched during the Cold War, mined data, targeted voters, manipulated consumers, destabilized politics, and disordered knowledge—decades before Facebook, Google, and Cambridge Analytica. Jill Lepore, best-selling author of These Truths, came across the company’s papers in MIT’s archives and set out to tell this forgotten history, the long-lost backstory to the methods, and the arrogance, of Silicon Valley. Founded in 1959 by some of the nation’s leading social (...)

    #CambridgeAnalytica/Emerdata #Simulmatics #algorithme #élections #prédiction #marketing #microtargeting #profiling (...)

    ##CambridgeAnalytica/Emerdata ##publicité

  • The Anti-Democratic Origins of Voter Prediction
    https://newrepublic.com/article/158821/jill-lepore-if-then-book-review-simulmatics-corporation-voter-election-

    How the Simulmatics Corporation tried to engineer an election—and paved the way for the Cambridge Analytica scandal I’m always a bit relieved when a tech company’s algorithm seems to fall short of mind reading. It’s somewhat reassuring when a so-called smart ad displays hideous shoes I would never buy just because I once bought a different pair from the same brand, or when Facebook suggests I befriend a good friend’s ex, having determined that he’s in my extended orbit, but lacking the (...)

    #algorithme #élections #prédiction #marketing #microtargeting #profiling #publicité #Simulmatics (...)

    ##publicité ##CambridgeAnalytica/Emerdata

  • The problems AI has today go back centuries
    https://www.technologyreview.com/2020/07/31/1005824/decolonial-ai-for-everyone

    Algorithmic discrimination and “ghost work” didn’t appear by accident. Understanding their long, troubling history is the first step toward fixing them. In March of 2015, protests broke out at the University of Cape Town in South Africa over the campus statue of British colonialist Cecil Rhodes. Rhodes, a mining magnate who had gifted the land on which the university was built, had committed genocide against Africans and laid the foundations for apartheid. Under the rallying banner of “Rhodes (...)

    #CambridgeAnalytica/Emerdata #DeepMind #algorithme #éthique #racisme #discrimination #GigEconomy (...)

    ##CambridgeAnalytica/Emerdata ##travail

  • Manipulations numériques en Afrique, par André-Michel Essoungou
    https://www.monde-diplomatique.fr/2020/09/ESSOUNGOU/62142

    Début juin, Facebook a fermé 446 pages, 96 groupes et plus de 200 comptes Instagram administrés par la société franco-tunisienne URéputation. Celle-ci aurait cherché à influencer, par la diffusion de fausses informations, des élections en Afrique francophone. Laboratoire mondial des manipulations numériques, le continent développe plusieurs types de riposte. Un temps rangées au musée des utopies, les élections démocratiques se sont répandues en Afrique au cours des trois dernières décennies. Mais, à (...)

    #CambridgeAnalytica/Emerdata #ChinaMobile #Huawei #Orange #Vodafone #Facebook #Twitter #WhatsApp #manipulation #données #élections #fraude #censure #microtargeting #SocialNetwork (...)

    ##CambridgeAnalytica/Emerdata ##payement

  • If you’re not terrified about Facebook, you haven’t been paying attention
    https://www.theguardian.com/commentisfree/2020/jul/26/with-facebook-we-are-already-through-the-looking-glass?CMP=share_btn_tw

    Facebook and America are now indivisible, says the Observer journalist who broke the Cambridge Analytica scandal – and the world is a sicker place for it In 2016, we didn’t know. We were innocent. We still believed social media connected us and that connections were good. That technology equalled progress. And progress equalled better. Four years on, we know too much. And yet, it turns out, we understand nothing. We know social media is a bin fire and that the world is burning. But it’s (...)

    #DataPropria #CambridgeAnalytica/Emerdata #FBI #Facebook #Instagram #WhatsApp #manipulation #données #élections #BigData #microtargeting #publicité (...)

    ##CambridgeAnalytica/Emerdata ##publicité ##SocialNetwork
    https://i.guim.co.uk/img/media/ce781bc53cdba8703e9c035e177769d00c87624c/0_177_5184_3112/master/5184.jpg

  • Brad Parscale, le sorcier numérique de Trump
    https://www.mediapart.fr/journal/international/190720/brad-parscale-le-sorcier-numerique-de-trump

    Donald Trump, en chute dans les sondages depuis le printemps 2020 après sa gestion catastrophique de la pandémie, s’est séparé de son directeur de campagne Brad Parscale quatre mois avant l’élection de novembre. Au centre du système Trump, il a été celui qui a tout misé sur le numérique et la puissance de Facebook dans la campagne présidentielle de 2016. Ironie de l’histoire, c’est sur Facebook et non pas sur Twitter, victime d’un piratage massif, que Trump a d’abord annoncé le remplacement de Parscale. (...)

    #CambridgeAnalytica/Emerdata #Google #Facebook #Twitter #algorithme #manipulation #technologisme #données #élections #BigData #GAFAM #microtargeting (...)

    ##CambridgeAnalytica/Emerdata ##profiling

  • Cambridge Analytica, big data et gros dégâts
    https://www.liberation.fr/futurs/2017/08/17/cambridge-analytica-big-data-et-gros-degats_1590468

    L’entreprise britannique spécialisée dans le marketing politique promet monts, merveilles et prospérité aux politiques, grâce au microciblage de leurs électeurs, via les données personnelles. Donald Trump et les brexiters en auraient profité. Jusqu’à la fin de l’année 2016, seuls les familiers du « big data » (traitement massif de données) électoral ou connaissaient l’entreprise SCL (pour Strategic Communication Laboratories) et sa filiale Cambridge Analytica. Un premier article, très documenté, paraît à (...)

    #CambridgeAnalytica/Emerdata #SCL #manipulation #données #élections #BigData #marketing #microtargeting (...)

    ##CambridgeAnalytica/Emerdata ##publicité

  • Why we’re concerned about profiling and micro-targeting in elections.
    https://privacyinternational.org/news-analysis/3735/why-were-concerned-about-profiling-and-micro-targeting-electio

    There is now an ecosystem that drives voter profiling and targeted messages, often known as micro-targeting, that accompany modern political campaigning globally. The targeted ad-supported internet is made up of thousands of companies that track and profile us all 24 hours a day- not just during election time. Key points While data driven political campaigns are not new, the granularity of data available and the potential power to sway or suppress voters through that data is. There is a (...)

    #CambridgeAnalytica/Emerdata #Facebook #Twitter #algorithme #[fr]Règlement_Général_sur_la_Protection_des_Données_(RGPD)[en]General_Data_Protection_Regulation_(GDPR)[nl]General_Data_Protection_Regulation_(GDPR) #données #élections #prédiction #religion #BigData #comportement (...)

    ##CambridgeAnalytica/Emerdata ##[fr]Règlement_Général_sur_la_Protection_des_Données__RGPD_[en]General_Data_Protection_Regulation__GDPR_[nl]General_Data_Protection_Regulation__GDPR_ ##marketing ##microtargeting ##profiling ##publicité ##PrivacyInternational

  • Le nudge et le comportementalisme
    https://www.franceculture.fr/emissions/signes-des-temps/le-nudge-et-le-comportementalisme

    Théorie du nudge ou comment inciter sans en avoir l’air... Le nudge (coup de pouce en anglais) est un outil d’économie dite « comportementale » qui utilise les données neurologiques et psychologiques pour inciter à adopter des comportements plus rationnels. Le nudge (coup de pouce en anglais) est un outil d’économie dite « comportementale » qui utilise les données neurologiques et psychologiques pour inciter à adopter des comportements plus rationnels.• Crédits : © Ganesh Namasivayam - Getty Marc (...)

    #manipulation #comportement #COVID-19 #santé #BNP-Paribas #Coca-Cola #Facebook #Twitter (...)

    ##santé ##CambridgeAnalytica/Emerdata

  • Manifestations, géolocalisation et publicités ciblées : un nouveau Cambridge Analytica ?
    https://korii.slate.fr/et-caetera/black-live-matters-manifestations-geolocalisation-publicite-politique-ci

    Une pratique de ciblage politique controversée est utilisée par divers groupes politiques pour affiner leurs campagnes. Alors que des manifestations historiques contre le racisme et les violences policières ont lieu aux États-Unis, des entreprises siphonnent les données de géolocalisation des smartphones des personnes qui sont descendues dans la rue et les revendent à des groupes politiques. « Nous voulons nous assurer que nous utilisons toutes les options de notre boîte à outils pour atteindre (...)

    #CambridgeAnalytica/Emerdata #algorithme #smartphone #géolocalisation #métadonnées #BigData #microtargeting #profiling #publicité #élections #VoteMAP #TheCollective #activisme #BlackLivesMatter (...)

    ##CambridgeAnalytica/Emerdata ##publicité ##lutte

  • Facebook wants to help register 4 million voters this year with new ‘Voting Information Center’
    https://www.theverge.com/2020/6/16/21293674/facebook-2020-us-election-register-voters-information-center-election-inte

    Facebook aims to improve the resources it providers American voters and will attempt to help more people register to vote ahead of the 2020 US election, according to a new op-ed by CEO Mark Zuckerberg published in USA Today on Tuesday evening. Zuckerberg says the company set a goal of helping 4 million people register to vote, up from 2 million four years ago, through resources provided across Facebook, Instagram, and Messenger. Facebook will also introduce a new “Voting Information Center” (...)

    #CambridgeAnalytica/Emerdata #Facebook #Instagram #Messenger #manipulation #élections (...)

    ##CambridgeAnalytica/Emerdata ##modération

  • La Commission européenne sommée de s’expliquer sur ses liens avec Palantir
    https://www.euractiv.fr/section/economie/news/eu-commission-pressed-on-controversial-links-to-palantir

    L’entreprise américaine Palantir collabore avec Europol par le biais de la société française CapGemini, notamment pour l’analyse de données liées au terrorisme. Une situation qui inquiète des eurodéputés. L’intervention des députés européens fait suite à une enquête récente menée par Euractiv. Celle-ci a révélé que la présidente de la Commission, Ursula von der Leyen, a encontré le PDG de Palantir à Davos en janvier dernier, mais que l’exécutif n’a pas conservé de notes sur le détail de leurs échanges. Palantir (...)

    #CambridgeAnalytica/Emerdata #CapGemini #Europol #Palantir #anti-terrorisme #BigData (...)

    ##CambridgeAnalytica/Emerdata ##santé

  • Cambridge Analytica executives and Mercer family launch Emerdata - Business Insider
    https://www.businessinsider.com/cambridge-analytica-executives-and-mercer-family-launch-emerdata-20

    The power players behind Cambridge Analytica have set up a new company — and the daughters of Donald Trump-supporting billionaire Robert Mercer have just joined as directors. Rebekah and Jennifer Mercer joined Emerdata on March 16, but it is shrouded in mystery. Alexander Nix, the suspended CEO of Cambridge Analytica, is also a director, as well as other executives from parent firm SCL Group. Emerdata also lists Johnson Chun Shun Ko, a Chinese executive from Frontier Services (...)

    #profiling #publicité #BigData #élections #manipulation #CambridgeAnalytica/Emerdata

    ##publicité ##CambridgeAnalytica/Emerdata
    https://i.insider.com/5ab22e08e532f825008b46fb

  • Facebook : l’amende record de 5 milliards de dollars validée par un juge
    https://www.lemonde.fr/pixels/article/2020/04/25/facebook-l-amende-record-de-cinq-milliards-de-dollars-validee-par-un-juge_60

    L’amende, la plus importante jamais imposée par le régulateur américain, est bien légale, a confirmé la justice. L’amende de 5 milliards de dollars imposée l’été 2019 par l’agence américaine de protection des consommateurs, la FTC, à Facebook pour ne pas avoir su protéger les données personnelles de ses utilisateurs, a été validée jeudi 23 avril par un juge. C’est une décision « historique », a estimé vendredi le président de cette agence, Joe Simons, en soulignant que la FTC n’avait jamais infligé une amende (...)

    #FTC #DataBrokers #BigData #élections #procès #Facebook #CambridgeAnalytica/Emerdata

    ##CambridgeAnalytica/Emerdata