• ‘Digidogs’ are the latest in crime-fighting technology. Privacy advocates are terrified. - POLITICO
    https://www.politico.com/news/2023/08/10/ai-surveillance-robotics-police-privacy-new-york-00110672

    Advances in artificial intelligence, surveillance and robotics are putting the stuff of yesteryear’s science fiction into the hands of an ever-growing list of municipalities from New York City to Topeka.

    Privacy advocates are worried.

    “More departments are using more tools that can collect even more data for less money,” said Albert Fox Cahn, head of the New York City-based watchdog group Surveillance Technology Oversight Project. “I’m terrified about the idea that we’ll start seeing decades of work to collect massive databases about the public being paired with increasingly invasive AI models to try to determine who and who isn’t a threat.”

    Recently, the NYPD drew down $750,000 to purchase two Digidogs, which police officials say will be ideal for hostage situations or entering radioactive or chemically hazardous areas that would be too dangerous for a human.

    Under a previous (but short-lived) pilot during the Bill de Blasio administration, a Digidog was deployed during at least two standoffs and, in one instance, was used to deliver food to hostages. In April this year, firefighters deployed a separate Digidog to search for survivors at a lower Manhattan building collapse.

    The city’s most recent robot purchase is part of a broader push from Mayor Eric Adams, a moderate Democrat and retired police captain, to incorporate high-tech policing tools into the NYPD’s arsenal, no matter the source of funding.

    At the end of a press release announcing the purchase of the Digidogs, for instance, the NYPD sought to assuage a concern grimly indicative of this new era.

    “Under the NYPD’s protocols, officers will never outfit a robot to carry a weapon and will never use one for surveillance of any kind,” the department wrote.

    It turns out, that’s an important disclaimer.

    Companies like Ghost Robotics have already attached sniper rifles to quadruped robots. And in November, the San Francisco legislature voted to give law enforcement robots the authority to use lethal force. The proposal — which would have allowed police to place explosives on automatons in limited circumstances — was reversed after public outcry. But the legislature left the door open to reconsidering the initiative in the future.

    Other technology seems to have biases baked into its foundation, with serious implications for communities of color. Facial recognition, for example, has proven to be more susceptible to false identifications when the subject is Black.

    The bill would also qualify defendants for pro bono legal representation and would mandate any money seized would go into a general fund, rather than the coffers of law enforcement.

    Without diverting the stream of money, Fox Cahn of the Surveillance Technology Oversight Project warned that the system has the potential to become a self-fulfilling prophecy.

    “Clearly we are seeing this huge growth in police surveillance, across the board data collection and the use of AI,” he said. “What I fear is that it will become a vicious cycle where police purchase more surveillance software to seize more assets to fund even more surveillance.”

    #Robots #Police #Surveillance #Capitalisme_surveillance

  • #46 Capitalisme de surveillance et logiciel libre, avec Christophe Masutti [redif] - La Cantine Brestoise
    https://www.lacantine-brest.net/capitalisme-de-surveillance-et-logiciel-libre-avec-christophe-masut

    Cet épisode est une rediffusion d’un entretien que nous avait accordé Christophe Masutti en 2021. Si l’épisode n’est pas nouveau, et même si certaines actualités que nous y évoquions appartiennent désormais au passé, les thèmes abordés sont toujours de grand intérêt et nous paraissent valoir qu’on y revienne.

    L’auteur y présentait son ouvrage Affaires privées. Aux sources du capitalisme de surveillance (C&F éditions, mars 2020) dans lequel il interroge la possibilité d’une économie du numérique qui pourrait préserver la vie privée des individus d’une surveillance constante de la part des États et des entreprises.

    Nous parlions ensuite d’une éducation populaire au numérique portée par l’association Framasoft dont il est un administrateur, mais aussi du logiciel libre et de ses grandes figures, notamment de Richard Stallman, dont il a publié la biographie française autorisée en 2010.

    #Christophe_Masutti #Capitalisme_surveillance #Affaires_privées

  • Christophe Masutti, sur le capitalisme de surveillance et le logiciel libre - La Cantine Brestoise
    https://www.lacantine-brest.net/christophe-masutti-sur-le-capitalisme-de-surveillance-et-le-logicie

    Un podcast avec Christophe Masutti

    Christophe Masutti présente son ouvrage Affaires privées. Aux sources du capitalisme de surveillance (C&F éditions, mars 2020) dans lequel il interroge la possibilité d’une économie du numérique qui pourrait préserver la vie privée des individus d’une surveillance constante de la part des États et des entreprises.

    Nous parlons ensuite d’une éducation populaire au numérique portée par l’association Framasoft dont il est un administrateur, mais aussi du logiciel libre et de ses grandes figures (il a publié la biographie française autorisée de Richard Stallman en 2010).

    #Christophe_Masutti #Capitalisme_surveillance

  • Affaires privées – Blog Politique étrangère
    http://politique-etrangere.com/2021/04/26/affaires-privees

    Christophe Masutti allie le regard de l’historien, l’expérience du praticien et la démarche militante dans cette somme sur la surveillance numérique et la vie privée en ligne : universitaire, hacktiviste et administrateur du réseau Framasoft dédié au logiciel libre, l’auteur s’approprie, autant qu’il déconstruit, le concept de « capitalisme de surveillance ».

    Introduit par la Monthly Review en 2014 pour décrire les stratégies d’hégémonie américaine via le numérique et popularisé par Soshanna Zuboff dans The Age of Surveillance Capitalism (2019), il désigne à la fois un modèle d’économie numérique, un état de marchandisation invasive de l’espace en ligne, et une source de connaissances, de profit et de pouvoir convoitée. Pour Soshanna Zuboff, si le capitalisme du XXe siècle reposait sur la production de masse et la montée des revenus de la classe moyenne, le capitalisme du XXIe siècle reposerait sur la surveillance : l’extraction de données personnelles à l’insu des usagers.

    Mais là où celle-ci voit un ensemble de pratiques coercitives à l’égard des individus, qui les contraint à vivre dans une économie immorale – avec l’idée toutefois qu’une réforme est possible –, Christophe Masutti envisage un prisme plus global. Ainsi, une « culture de la surveillance » – partagée par tous les acteurs du système international – structurerait nos sociétés et imposerait les technologies numériques comme moyens d’appréhender le monde. En d’autres termes, l’économie numérique s’appuierait essentiellement sur des processus culturels et des choix collectifs qui constituent non des contraintes, mais des propositions de vie. Dans sa dernière partie, l’auteur considère les modèles issus du logiciel libre et des services ouverts comme une résistance à ce capitalisme de surveillance, mais aussi comme une préfiguration de ce que pourrait être une économie de la contribution généralisée.

    Pour Masutti, la surveillance est un enjeu organisationnel : les projets de contrôle à grande échelle des populations, exercés au moyen de traitements massifs et automatisés de l’information furent, à l’origine, conçus plus pour créer des schémas de gouvernance profitables que pour devenir des instruments de pouvoir. Les techniques d’acquisition et de gestion de l’information en masse servent, avant tout, à la rationalisation des procédures, à la gestion des services, et à construire des modèles spécifiques de relations, de travail, etc.

    Mais la rationalisation a ouvert les portes d’une nouvelle forme de pouvoir, à la fois pour les géants du numérique qui savent exploiter les données, et pour les pouvoirs politiques. Il n’est pas anodin qu’un phénomène comme le nudge, à l’origine propre au marketing et destiné à provoquer une décision du consommateur, soit devenu un outil des campagnes électorales : les phénomènes de rationalisation internes aux entreprises se sont étendus aux institutions et aux processus politiques. Les récentes élections américaines en constituent une parfaite illustration.

    Masutti n’élude pas la problématique du « solutionnisme technologique », revenue dans le débat depuis la crise du COVID-19 : le capitalisme de surveillance « transforme la politique lorsque les monopoles technologiques font assimiler aux États une doctrine qui stipule que chaque problème a une solution technique » (qu’ils sont à même de produire). Le succès apparent des « doctrines » montre bien, in fine, la sensibilité des interactions entre États et Big Tech.

    Julien Nocetti

    #Christophe_Masutti #Affaires_privées #Surveillance #Capitalisme_surveillance

  • Aux sources du capitalisme de surveillance - Université de Strasbourg - Recherche
    https://recherche.unistra.fr/actualites-recherche/actualites-de-la-recherche/aux-sources-du-capitalisme-de-surveillance

    Dégooglisation d’internet, émergence d’une société contributive… membre de l’association Framasoft qui promeut le logiciel libre, Christophe Masutti travaille à favoriser la culture numérique. Son engagement amène le chercheur au sein du laboratoire Sociétés, acteurs, gouvernement en Europe (Sage) à réfléchir sur les libertés numériques et les Gafam* dont il fait un livre dans lequel il propose son regard d’historien des sciences et techniques sur le capitalisme de surveillance depuis 1965.


    En plus de sa casquette de chercheur, Christophe
    Masutti est en charge des affaires européennes au
    CHU de Strasbourg. Crédit : Y. Kervran-CC

    « Pour moi, le capitalisme de surveillance est inscrit dans l’histoire des techniques elles-mêmes et sa définition n’inclut a priori aucune valeur morale. Dès les années 60, les sociétés de courtage travaillaient déjà sur les données à des fins marketings. La donnée est devenue un modèle d’affaire dès lors que les ordinateurs étaient utilisés à des fins de surveillance. Au milieu des scandales, en 1970 le Fair Credit Reporting Act est voté pour réguler les pratiques de surveillance des sociétés d’évaluation de crédit aux États-Unis. Quatre ans plus tard, le Privacy Act régule l’usage des données personnelles », poursuit le chercheur qui évoque le capitalisme de surveillance comme un ensemble de pratiques qui répondent aux intérêts hégémoniques du capitalisme américain et aujourd’hui aussi Chinois.

    #Christophe_Masutti #Capitalisme_surveillance

  • Centre d’Action Laïque - Gouvernance numérique et résistances
    https://www.laicite.be/magazine-article/gouvernance-numerique-resistances

    Dans «  Affaires privées. Aux sources du capitalisme de surveillance  »1, le philosophe des sciences et des techniques et «  hacktiviste  » Christophe Masutti retrace l’évolution de la surveillance de masse, du marketing au contrôle social. Tout en défendant des solutions alternatives.

    Du capitalisme de surveillance à des fins publicitaires au contrôle des populations, l’outil numérique ne cesse de transcender les limites éthiques. Comment en est-on arrivé là  ? Et que recouvre le concept de capitalisme de surveillance  ? «  Les moyens pour élaborer la surveillance et le traitement de l’information par l’économie numérique consistent à extraire de la société des informations qui ont une valeur (en matière de connaissance, d’intérêts financiers…), explique Christophe Masutti. «  La surveillance répond alors à une logique capitaliste dans laquelle l’information serait le capital, généré par la production, l’utilisation et la consommation des outils numériques.  »

    #Christophe_Masutti #Capitalisme_surveillance #Affaires_privées

  • Affaires privées de Christophe Masutti | Résumé sur Dygest
    https://dygest.co/christophe-masutti/affaires-privees

    Un bpon résumé du livre... qui ne doit pas empêcher de le lire en entier ;-)

    Synopsis
    Science et environnement

    Chacune de nos traces numériques enrichit des bases de données où les informations nous concernant, anonymes ou non, sont commercialisées pour alimenter des profils. En faisant de la donnée personnelle un moteur de croissance, le Big data bouleverse la notion même de vie privée et son cadre juridique. Si ce processus fait moins de bruit que les dispositifs développés par les États, cette surveillance est une menace pour nos libertés, privées et publiques, car les algorithmes des GAFAM s’imposent face aux institutions. En ce sens, nos vies privées sont la dernière frontière du capitalisme moderne, pour qui l’information est un capital qu’il s’agit de valoriser.

    #Christophe_Masutti #Surveillance #Capitalisme_surveillance

  • Le capitalisme de surveillance [La voix est libre]
    https://radio.picasoft.net/co/2020-04-24.html

    Émission réalisée à l’occasion de la publication du livre Affaires privées - Aux sources du capitalisme de surveillance de Christophe Masutti, aux éditions C&F Éditions.

    L’interview

    Christophe Masutti, docteur en histoire et philosophie des sciences et des techniques, chercheur associé à l’université de Strasbourg, chargé des affaires européennes au CHU de Strasbourg et co-administrateur de l’association Framasoft sous le pseudo Framatophe
    Pour quelles raisons as-tu choisi de ne donner ta définition du capitalisme de surveillance qu’à la fin de ton livre ?
    Le travail historique que tu as mené sur le capitalisme de surveillance, des années 60 à nos jours, t’a amené à montrer qu’il était d’ordre systémique. Qu’est-ce que ça veut dire ?
    Tu expliques qu’en France, on s’est beaucoup intéressé à la soumission individuelle à la surveillance, que l’on s’est limité à la surveillance du sujet, sans prêter plus d’attention aux impacts de la surveillance sur les collectifs. Pourquoi cette étude-là est-elle indispensable pour comprendre le fonctionnement du capitalisme de surveillance et défendre nos libertés collectives ?
    Quelles infrastructures techniques et, surtout, quelles organisations pouvons-nous mettre en place pour sortir du capitalisme de surveillance ?
    Pourquoi est-ce bien une société de la contribution que nous visons, et pas seulement une économie de la contribution ?
    Pourquoi lire un livre historique est-il un bon moyen de comprendre ce que nous vivons aujourd’hui ?
    Si dans les années 60 on pouvait craindre que la police installe des micros dans notre appart, aujourd’hui nous les installons nous-mêmes, avec par exemple les assistants personnels intelligents. Comment expliquer un tel changement ?
    Quels sont les différentes sortes de consentement vis-à-vis de la surveillance ?
    L’archipélisation peut-elle être une piste pour penser l’après-capitalisme de surveillance ?

    Enregistrement
    Émission enregistrée le 23 avril 2020 sur Mumble, dans le salon La voix est libre du serveur de Picasoft.

    #Christophe_Masutti #Capitalisme_surveillance #C&F_éditions #Affaires_privées #Radio

  • Vidéo - Replay webinaire « Surveillance et numérique » | Drupal | inno³ | Open Innovation, Open Source et Open Data |
    https://inno3.fr/actualite/replay-webinaire-surveillance-et-numerique

    Replongez dans le webinaire « Surveillance et numérique : quelle implication pour et par la recherche ? » du 26 Mai 2020 avec Christophe Masutti

    Historien des sciences et des techniques, Christophe nous a présenté son dernier ouvrage Affaires privées : aux sources du capitalisme de surveillance et la place prise par l’informatique et les données dans nos sociétés actuelles en tant que leviers d’une surveillance intimement reliée aux mécanismes capitalistiques.

    #Christophe_Masutti #Vidéo #Affaires_privées #Capitalisme_surveillance #C&F_éditions #Conférence

  • Vidéo : Rencontre avec Christophe Masutti, auteur de « Affaires privées : Aux sources du capitalisme de surveillance » - Qu’est-ce que Tu GEEKes ?
    https://peertube.qtg.fr/videos/watch/042551bb-8028-433f-9abd-9dea86774775
    /lazy-static/previews/042551bb-8028-433f-9abd-9dea86774775.jpg

    Les vidéos de Framasoft
    Par framasoft@framatube.org

    Librairie Kléber, Strasbourg (Salle blanche 20 mai 2020).

    Rencontre avec Christophe Masutti, auteur de « Affaires privées : Aux sources du capitalisme de surveillance » ; Caroline Zorn, avocate au barreau de Strasbourg ; animée par Hélène Michel...

    #Christophe_Masutti #Affaires_privées #Capitalisme_surveillance #C&F_éditions #Vidéo

  • « La lutte contre la surveillance est un anticapitalisme » par Romain Haillard | Politis
    http://www.politis.fr/articles/2020/04/la-lutte-contre-la-surveillance-est-un-anticapitalisme-41802

    Drôle d’époque. Des drones survolent nos têtes pour nous intimer de rester chez nous ; nos téléphones caftent nos déplacements aux opérateurs télécoms, qui eux-mêmes caftent aux décideurs ; des multitudes d’acteurs économiques trouvent des « solutions » technologiques aux problématiques liées au coronavirus ; les géants du numérique épaulent nos gouvernements pour mieux nous surveiller. À la manière de Michel Foucault, Christophe Masutti réalise une archéologie du capitalisme de surveillance dans Affaires privées, chez C&F Éditions. Selon le membre administrateur du réseau d’éducation populaire Framasoft, formuler une critique de la surveillance aujourd’hui ne peut plus se faire sans l’adosser à un anticapitalisme farouche.

    Est-il toujours pertinent de différencier surveillance d’État et capitalisme de surveillance ?

    Christophe Masutti : Les solutions développées par le capitalisme de surveillance deviennent des instruments de gouvernance. Ces marchands de la surveillance vont faire croire aux technocrates qu’il y aura un moyen d’automatiser des processus coûteux dans un moment où tout doit concourir à la réduction de la dépense, et donc à la réduction de l’État. Mais il y aura toujours besoin de -l’humain. Quand nous voyons l’état de l’hôpital aujourd’hui, l’utilité des machines se voit vite dépassée. Comme l’idée de faire un traçage des individus avec l’application StopCovid.

    C’est l’idée du solutionnisme technologique. Tout problème, économique ou politique, pourrait trouver une réponse technologique. Cette conception domine la Silicon Valley et a fait des émules – nos gouvernants n’y échappent pas. Cette idéologie qui ne se revendique pas comme telle affaiblit le pouvoir politique. Les décisions devraient s’enfermer dans des choix techniques dépolitisés. Macron et la startup nation se marient bien à cette dépolitisation. Mais quand nous dépolitisons, nous n’agissons plus par conviction – de droite comme de gauche. Ne reste plus que l’État seul, hors sol, plus que la technocratie.

    #Christophe_Masutti #Affaires_privées #Capitalisme_surveillance #C&F_éditions #Interview

  • [OpenESR] - Webinaire « Surveillance et Numérique » avec Christophe Masutti - CodiMD
    https://md.inno3.fr/gRmqcskHQ8W43LXl5WPblA#

    Intervention de Christophe MASUTTI

    Le webinaire dans son ensemble est disponible sur l’instance Libre Video
    C. Masutti propose de commencer par une contextualisation historique de la vie privée et de la surveillance, afin de prendre du recul sur ce que nous vivons et de retracer la longue histoire de la vie privée, de la privacy et des différents acteurs qui ont participé à leurs conceptualisations.

    Retour historique sur des notions intriquées : vie privée, privacy, surveillance

    À l’origine du travail de C. Masutti sur la vie privée et la surveillance, il y a la lecture de nombreuses réflexions qui, dès la fin des années 1960, font surgir une crainte de la société Orwellienne face aux grandes banques de données. Il procède à trois citations remarquables :

    Cette littérature grise (rapport, discours, etc.) est essentielle pour se saisir des enjeux inhérents à la vie privée et la surveillance, ainsi C. Masutti a noté un écart important entre les grands discours des livres et publications scientifiques et la « science en acte », la manière dont elle se confronte au réel et aux puissances décisionnaires.

    À partir de cette littérature, qui cite fréquemment et amplement Orwell (auteur du roman dystopique 1984), la question a été de savoir ce qui avait changé depuis la fin des années 1960 jusqu’à aujourd’hui. La réponse, qui constitue l’objet de l’ouvrage de C. Masutti, est l’émergence d’un capitalisme de surveillance.
    Pour comprendre comment s’est opérée la mutation vers un capitalisme de surveillance, une voie possible consiste à revenir sur la façon dont le concept de vie privée, et celui plus large de privacy se sont structurés au cours du temps, en commençant par leur théorisation dans les travaux d’Alan Westin.

    Professeur de droit à l’université de Columbia, Alan Westin travaille sur la vie privée et la confidentialité dans les pratiques de consommation. Il définit la vie privée comme une exigence à décider soi même quand et comment les informations qui nous concernent peuvent être communiquées à d’autres.
    Avec d’autres juristes, A. Westin a initié aux États-Unis (et très vite de manière internationale) un mouvement de pensées sur la vie privée. Si la vie privée est un concept défini à la fin du XIXe siècle (par S. Warren et L . Brandeis) avec l’expression célèbre The right to be let alone, il faut comprendre qu’avec l’arrivée du substrat technologique des ordinateurs, des bases de données et des pratiques de communication, cette définition ne pouvait plus suffire. Et tout le champ de recherche à ce sujet est encore loin d’être épuisé : la vie privée est un concept mouvant, éternellement en adaptation aux contextes sociaux et technologiques.

    Un ami d’A. Westin, Daniel J. Solove, publiera en 2002 une tentative de généralisation de la Privacy qu’il définit en 6 points : 1) The right to be let alone, 2) l’accès limité à sa personne, 3) le secret, 4) le contrôle des renseignements personnels et 5) la vie privée.

    Dans les années 2000, privacy comme vie privée vont devenir des sujets phares du monde universitaire en questionnant leur évolution avec le développement de l’informatique. Ainsi deux lois clefs, datant des années 1970 sont particulièrement importantes à rappeler. Il s’agit du Fair Credit Reporting Act de 1970, qui réglemente la collecte, l’utilisation et la redistribution des données des consommateurs ; ainsi que du Privacy Act de 1974, qui donne un cadre à la collecte, la conservation, et l’utilisation d’informations personnelles identifiables par le gouvernement fédéral.

    Ces lois, qui entrent en vigueur aux Etats-Unis, sont une réponse aux pratiques de fichage informatisé mises en place par des banques pour en produire des listes secrètes et des analyses illicites qu’elles revendaient par la suite, sur un modèle d’affaire particulièrement lucratif. Aussi, grâce à ce cadre juridique, les institutions publiques ont dû obéir à un code de conduite ficelé.

    1974 est également une année charnière en France avec l’affaire du Système Automatisé pour les Fichiers Administratifs et le Répertoire des Individus (SAFARI). Ce projet d’interconnexion des fichiers nominatifs de l’administration française géré par le Ministère de l’intérieur rassemblait toutes les informations issues d’autres bases de données nationales pour pouvoir établir un grand fichage informatisé de tous les Français. Cette affaire a permis en France la création de la CNIL (Commission Nationale Informatique & Libertés) en 1978 bien que la question du consentement ait fait l’objet de quelques études depuis le début des années 1970 (en parallèle des recherches à l’œuvre aux Etats-Unis et au Royaume-Uni).

    Ce mouvement de réponse législative aux violations de la vie privée par les entreprises se développera également au Royaume-Uni, avec d’une part le rapport Younger sur le Right of Privacy Bill, et d’autre part les dispositions liées au scandale des procédures de recensement dont les questions invasives étaient posées afin que l’administration publique puisse créer des banques de données destinées à la revente.

    Le rôle de l’information dans nos sociétés

    Cette approche critique du capitalisme passe notamment par une critique de l’information comme valeur capitalistique et du développement en conséquence des technologies de l’information. C’est ainsi le rapport entre information et société qui est en jeu et qui n’a cessé d’être questionné depuis les années 1960 dès le début de l’informatisation.

    Cette vision, corroborée par les révélations de Snowden, pousse à envisager la question de la vie privée au regard du niveau technique et technologique d’une société. On ne peut pas faire l’histoire de la surveillance en faisant l’impasse sur les conditions technologiques dans lesquelles elle se développe.
    En effet, l’émergence d’une économie de la surveillance n’est pas seulement due à une mutation de l’économie (dans laquelle l’information devient un capital), mais est aussi fonction des évolutions technologiques qui l’ont rendue possible. Une société de l’information constitue en cela un terrain fertile pour le développement de la surveillance avec notamment le rôle majeur de l’information pour orienter les comportements de consommation.

    Issues des mouvements des années 1970 et représentées par les travaux de David Lyon, les surveillance studies constituent un champ dédié à l’étude du développement du phénomène de la surveillance massive, et tendent actuellement à montrer que le solutionnisme technologique s’est élevé au rang d’idéologie (Silicon Valley, startup nation), depuis notamment CyberSyn au Chili, entrainant avec lui de nouveaux moyens de surveillance auxquels consentent plus ou moins facilement les citoyens.
    L’exemple récent des débats autour de l’application StopCovid, et de l’utilisation des données captées par une application similaire aux USA aux fins de savoir qui participe à des manifestations, en sont des illustrations particulièrement frappantes.

    Solutions face au capitalisme de surveillance

    Privilégier le collectif et le local.
    Ne pas faire de concessions par rapport au chiffrement des données.
    L’utilisation des logiciels libres.
    Dispatcher les lieux de pouvoirs en autant d’instances locales que possible (instances en pair-à pair).

    #Christophe_Masutti #Affairs_privées #Capitalisme_surveillance #Conference

  • Of course technology perpetuates racism. It was designed that way. | MIT Technology Review
    https://www.technologyreview.com/2020/06/03/1002589/technology-perpetuates-racism-by-design-simulmatics-charlton-mcilw

    We often call on technology to help solve problems. But when society defines, frames, and represents people of color as “the problem,” those solutions often do more harm than good. We’ve designed facial recognition technologies that target criminal suspects on the basis of skin color. We’ve trained automated risk profiling systems that disproportionately identify Latinx people as illegal immigrants. We’ve devised credit scoring algorithms that disproportionately identify black people as risks and prevent them from buying homes, getting loans, or finding jobs.

    So the question we have to confront is whether we will continue to design and deploy tools that serve the interests of racism and white supremacy,

    Of course, it’s not a new question at all.

    As part of a DARPA project aimed at turning the tide of the Vietnam War, Pool’s company had been hard at work preparing a massive propaganda and psychological campaign against the Vietcong. President Johnson was eager to deploy Simulmatics’s behavioral influence technology to quell the nation’s domestic threat, not just its foreign enemies. Under the guise of what they called a “media study,” Simulmatics built a team for what amounted to a large-scale surveillance campaign in the “riot-affected areas” that captured the nation’s attention that summer of 1967.

    Three-member teams went into areas where riots had taken place that summer. They identified and interviewed strategically important black people. They followed up to identify and interview other black residents, in every venue from barbershops to churches. They asked residents what they thought about the news media’s coverage of the “riots.” But they collected data on so much more, too: how people moved in and around the city during the unrest, who they talked to before and during, and how they prepared for the aftermath. They collected data on toll booth usage, gas station sales, and bus routes. They gained entry to these communities under the pretense of trying to understand how news media supposedly inflamed “riots.” But Johnson and the nation’s political leaders were trying to solve a problem. They aimed to use the information that Simulmatics collected to trace information flow during protests to identify influencers and decapitate the protests’ leadership.

    They didn’t accomplish this directly. They did not murder people, put people in jail, or secretly “disappear” them.

    But by the end of the 1960s, this kind of information had helped create what came to be known as “criminal justice information systems.” They proliferated through the decades, laying the foundation for racial profiling, predictive policing, and racially targeted surveillance. They left behind a legacy that includes millions of black and brown women and men incarcerated.

    #Racisme #Intelligence_artificielle #capitalisme_surveillance #surveillance

  • « La lutte contre la surveillance est un anticapitalisme » par Romain Haillard | Politis
    https://www.politis.fr/articles/2020/04/la-lutte-contre-la-surveillance-est-un-anticapitalisme-41802

    Interview par Romain Haillard

    La lutte contre les technologies de surveillance est indissociable de celle contre le capitalisme, estime Christophe Masutti, membre de l’association d’éducation populaire Framasoft.

    Drôle d’époque. Des drones survolent nos têtes pour nous intimer de rester chez nous ; nos téléphones caftent nos déplacements aux opérateurs télécoms, qui eux-mêmes caftent aux décideurs ; des multitudes d’acteurs économiques trouvent des « solutions » technologiques aux problématiques liées au coronavirus ; les géants du numérique épaulent nos gouvernements pour mieux nous surveiller. À la manière de Michel Foucault, Christophe Masutti réalise une archéologie du capitalisme de surveillance dans Affaires privées, chez C&F Éditions. Selon le membre administrateur du réseau d’éducation populaire Framasoft, formuler une critique de la surveillance aujourd’hui ne peut plus se faire sans l’adosser à un anticapitalisme farouche.

    Est-il toujours pertinent de différencier surveillance d’État et capitalisme de surveillance ?

    Christophe Masutti : Les solutions développées par le capitalisme de surveillance deviennent des instruments de gouvernance. Ces marchands de la surveillance vont faire croire aux technocrates qu’il y aura un moyen d’automatiser des processus coûteux dans un moment où tout doit concourir à la réduction de la dépense, et donc à la réduction de l’État. Mais il y aura toujours besoin de -l’humain. Quand nous voyons l’état de l’hôpital aujourd’hui, l’utilité des machines se voit vite dépassée. Comme l’idée de faire un traçage des individus avec l’application StopCovid.

    C’est l’idée du solutionnisme technologique. Tout problème, économique ou politique, pourrait trouver une réponse technologique. Cette conception domine la Silicon Valley et a fait des émules – nos gouvernants n’y échappent pas. Cette idéologie qui ne se revendique pas comme telle affaiblit le pouvoir politique. Les décisions devraient s’enfermer dans des choix techniques dépolitisés. Macron et la startup nation se marient bien à cette dépolitisation. Mais quand nous dépolitisons, nous n’agissons plus par conviction – de droite comme de gauche. Ne reste plus que l’État seul, hors sol, plus que la technocratie.

    La frontière entre ces deux surveillances apparaît donc de plus en plus ténue ?

    Au point de ne plus pouvoir faire la différence. Il ne faut pas s’étonner de voir de plus en plus de pantouflage entre l’administration et les géants du numérique, par exemple. Peu à peu, il y a un glissement, une délégation des fonctions régaliennes à des agences qui ont la capacité de fournir une solution technologique. Prenez par exemple le représentant de Facebook en France. À la suite des attentats contre Charlie Hebdo, il a fait une présentation à Sciences Po Paris de son système de surveillance contre les fausses informations en ligne. Le choix du lieu n’est pas anodin. Le danger, c’est de ne plus gouverner classiquement et de s’engouffrer dans une expertise de la mesure.

    En quoi cette expertise de la mesure peut-elle être faussée – en opposition à l’idée d’une machine surpassant l’homme ?

    Faisons une analogie avec la cartographie. Nous avons toujours eu besoin de cartes pour gouverner. Il faut une représentation du pays, de son territoire. Mais la carte n’est pas le territoire, c’en est une représentation. Les prophètes du solutionnisme ne confondent pas la carte avec le territoire, mais estiment qu’elle en serait une représentation fidèle. Ils tiennent des discours sur la représentation et non sur l’objet lui-même. La cartographie n’est pas neutre, comme le profilage ne l’est pas. Nos profils, nos doubles numériques ne sont qu’une représentation ultra-simplifiée de nous, et non pas notre reflet pur.

    Comment défendre la prédation de nos profils numériques ?

    Si nous envisageons la défense de nos données personnelles uniquement sous le prisme individuel, alors nous arrivons à des aberrations comme la patrimonialisation des données défendue par Gaspard Koenig. Prenons l’exemple du patrimoine génétique humain. Nous en sommes propriétaires, mais nous ne pouvons pas en faire commerce. C’est un patrimoine propre à chacun, mais aussi un patrimoine commun à l’humanité. Même chose pour nos données personnelles. Ces data se construisent par nos interactions et nos relations avec les autres. Défendre nos libertés individuelles alors, c’est défendre notre droit de disposer de nos données, collectivement.

    Donc des protections comme le règlement général de protection des données (RGPD) apparaissent comme une mauvaise réponse au problème.

    Cette réglementation prouve que nos institutions veulent agir, c’est une marque de bonne volonté. Mais le RGPD ne fait que formaliser le don du consentement. Prenons l’exemple d’Equifax aux États-Unis. Dans les années 1960 et 1970, cette société récoltait toute sorte d’informations sur des clients potentiels de compagnie d’assurances pour évaluer le risque de défaut de paiement. Ces informations étaient évidemment récoltées sans leur consentement. Ces méthodes ont choqué à l’époque et ont poussé à adopter une réglementation sur ces informations. Equifax a alors lancé « Buyer’s Market » en 1990. Les clients payaient un abonnement annuel de 10 dollars et donnaient sciemment leur profil, contre des coupons de réduction.

    Les informations recueillies avec notre consentement permettent d’avoir une analyse encore plus fine de nos comportements. Grâce à l’onboarding, c’est-à-dire du reprofilage. Il est possible ensuite d’associer votre attitude à un moment t avec des jeux de données antérieures – glanées depuis des dizaines et des dizaines d’années par des sociétés comme Axciom. Donc, si vous donnez votre consentement, votre profil peut être reconstruit. Avant même les premières discussions sur le RGPD, le Boston Consulting Group, un cabinet de conseils en stratégie, prédisait en 2014 : « Dans un domaine aussi sensible que le big data, la confiance sera l’élément déterminant pour permettre à l’entreprise d’avoir le plus large accès possible aux données de ses clients, à condition qu’ils soient convaincus que ces données seront utilisées de façon loyale et contrôlée. » Le temps est malléable avec les data. Grâce à cet accès, vous êtes déterminés par ce que vous faites, ce que vous avez fait et ce que vous allez faire. C’est une construction où la notion de choix n’existe plus.

    Soit un monde orwellien…

    Attention à la dystopie orwellienne. Déjà, dans les années 1970, était brandie la peur d’une société sur le modèle de 1984. Nous n’avons plus à avoir peur de cette société : nous y sommes déjà. Ce chiffon rouge nous empêche de penser, de voir la réalité. La surveillance selon Orwell provenait d’une volonté étrangère à l’homme, pas de l’homme lui-même. Notre société de surveillance émane aussi de notre propre culture, de notre acculturation à l’informatique et donc à la surveillance. Notre consentement, nous l’avons fabriqué.

    Quels comportements trahissent notre acculturation à la surveillance ? Et comment s’en sortir ?

    Le plaisir d’aller sur Facebook. Le goût d’être partagé et aimé sur Twitter. Je prends un exemple plus ancien. Avant, il n’y avait pas de portiques antivol dans les supermarchés. Mes parents, quand ils les ont découverts, s’en sont offusqués : « Alors nous serions tous suspectés d’être des voleurs ? » Désormais, non seulement il y a les portiques, mais il y a aussi les caméras et un vigile à chaque entrée. Et peu de personnes pour revenir sur ce déploiement. Pour s’en sortir, j’ai ma recette : l’usage inconditionnel du chiffrement de nos données. L’utilisation de réseaux fédérés comme Mastodon à la place des Gafam. Et, enfin, utiliser au maximum des logiciels libres, construits sur la base du droit à partager et donc dans une idée d’émancipation collective.

    La critique de la surveillance en dehors de toute critique anticapitaliste est-elle possible ?

    Non. Pour la sociologue Shoshana Zuboff, notre capitalisme est « malade », alors il faudrait le réguler. Elle se focalise uniquement sur les Gafam, même si elle le fait avec un grand talent. Les Gafam mettraient en danger nos démocraties. Mais le problème est bien plus profond. Le modèle dans lequel nous nous trouvons est dépendant de ses infrastructures numériques : les ordinateurs, les réseaux…

    Le capitalisme de surveillance ne vient pas de nulle part. Cette forme de libéralisme se fonde sur la transformation de l’information en un bien capitalisable. Le consumérisme, la surfinanciarisation reposent sur nos données comme bien, c’est systémique. Ne pas inscrire cette critique dans l’anticapitalisme, c’est oublier que cette surveillance se nourrit des inégalités sociales pour opérer un tri de la population.

    L’analyse doit-elle se traduire dans les luttes ? Faut-il opposer à la surveillance une lecture anticapitaliste pour lutter efficacement contre ?

    J’en suis persuadé. Et j’ajouterais que, ce qui est intéressant, ce ne sont pas les luttes en elles-mêmes, mais les contre-modèles mis en place dans le combat. La sociologue Marianne Maeckelbergh appelle cette démarche la « préfiguration ». Le fonctionnement du collectif devient aussi important que l’alternative proposée elle-même. Le mouvement altermondialiste, les gilets jaunes, les ZAD, la communauté libriste… Ces mouvements – qui ne sont pas aussi marginaux qu’on voudrait le croire – réfléchissent autant que leurs actions s’inscrivent dans la spontanéité. C’est un retour à ce que nous appelions l’action directe. Elle n’est pas forcément violente, elle peut être altruiste.

    C’est le sens de ce que nous faisons à -Framasoft et dans la communauté du logiciel libre. Nous aimons dire : « faire, faire sans eux, faire contre eux, faire quand même ». Et notre communauté n’est pas à écarter des autres luttes. Il y a une archipellisation. Une pensée n’a de sens qu’à partir du moment où elle entre dans un dialogue. Tout ne doit pas s’uniformiser et se centraliser dans une doctrine unique. À l’image d’un archipel, il y a des îles, des faunes et des flores différentes, qui forment un « tout » hétérogène certes, mais un « tout » quand même.

    Chistophe Masutti Docteur en histoire et en philosophie des sciences et des techniques

    #Christophe_Masutti #Capitalisme_surveillance #Surveillance #Coronavirus

  • Prophètes et technologistes à l’ère de la suspicion généralisée – Framablog
    https://framablog.org/2020/04/10/prophetes-et-technologistes-a-lere-de-la-suspicion-generalisee

    par Christophe Masutti

    Bref, on refait l’histoire au fil des événements présents : la sous-dotation financière des hôpitaux et les logiques de coupes budgétaires au nom de la rigueur ? voilà ce que révèle le Covid-19, enfin la vérité éclate ! Comment, tout le monde le savait ? Impossible, car nous avions tous bien affirmé que la rigueur budgétaire était nécessaire à la compétitivité du pays et maintenant il faut se tourner vers l’avenir avec ce nouveau paramètre selon lequel la rigueur doit prendre en compte le risque pandémique. Et là le prêtre devient le prophète de jours meilleurs ou de l’apocalypse qui vient.

    Pourquoi je raconte tout cela ? Je travaille dans un CHU, les politiques de santé publiques me sont quotidiennes ainsi que la manière dont elles sont décidées et appliquées. Mais vous le savez, ce n’est pas le sujet de mes études. Je m’intéresse à la surveillance. Et encore, d’un point de vue historique et un peu philosophique, pour faire large. Je m’intéresse au capitalisme de surveillance et j’essaie de trouver les concepts qui permettent de le penser, si possible au regard de notre rapport à l’économie et au politique.

    Je l’affirme : non la crise COVID-19 ne révèle rien à propos du capitalisme de surveillance. Elle ne révèle rien en soi et encore moins à travers les prophètes auto-proclamés. Et la première des raisons est que ces derniers arrivent bien tard dans une bataille qui les dépasse.

    Pendant la crise sanitaire que nous traversons il ne faut pas se demander ce qu’elle peut révéler mais interroger les discours qui se servent de cette crise pour justifier et mettre en œuvre des pratiques de surveillance et limiter encore davantage nos libertés.

    C’est l’exposé des faits, ni plus ni moins. Tout comme dire que notre ministre de l’intérieur C. Castaner a d’abord affirmé que l’État Français n’avait pas pour intention de copier la Corée du Sud et la Chine en matière de traçage de téléphones portables, avant de revenir sur ses propos et affirmer que les services gouvernementaux planchent sur une application censée tracer les chaînes de transmission. Qui s’est offusqué de ce mensonge d’État ? C’est devenu tellement banal. Pire, une telle application permettrait d’informer les utilisateurs s’ils ont « été dans les jours précédents en contact avec quelqu’un identifié positif au SARS-CoV-2 », comme l’affirment les deux ministres Castaner et Véran dans un entretien au Monde. C’est parfait comme technique de surveillance : la Stasi pratiquait déjà ce genre de chose en organisant une surveillance de masse basée sur la suspicion au quotidien.

    Le smartphone n’est qu’un support moderne pour de vieilles recettes.

    Ainsi, par exemple, l’illectronisme des enfants et de leurs enseignants livrés à une Éducation Nationale numériquement sous-dotée, est le fruit d’une volonté politique. Comment pourrait-il en être autrement ? Afin d’assurer la « continuité pédagogique » imposée par leur ministre, les enseignants n’ont eu d’autres choix que de se jeter littéralement sur des services privateurs. Cette débandade est le produit mécanique d’une politique de limitation volontaire de toute initiative libriste au sein de l’Éducation Nationale et qui serait menée par des enseignants pour des enseignants. Car de telles initiatives remettraient immanquablement en question la structure hiérarchique de diffusion et de valorisation des connaissances. Un tel gouvernement ne saurait supporter quelque forme de subsidiarité que ce soit.

    Ainsi l’application pour smartphone Stop Covid (ou n’importe quel nom qu’on pourra lui donner) peut d’ores et déjà figurer au rang des grands flops informatiques pour ce qui concerne son efficacité dans les objectifs annoncés. Il suffit de lire pour cela le récent cahier blanc de l’ACLU (Union Américaine pour les libertés civiles), une institution fondée en 1920 et qu’on ne saurait taxer de repère de dangereux gauchistes.

    À l’heure où les efforts devraient se concentrer essentiellement sur les moyens médicaux, les analyses biologiques, les techniques éprouvées en santé publique en épidémiologie (ce qui est fait, heureusement), nous voilà en train de gloser sur la couleur de l’abri à vélo. C’est parce que le solutionnisme est une idéologie confortable qui permet d’évacuer la complexité au profit d’une vision du monde simpliste et inefficace pour laquelle on imagine des technologies extrêmement complexes pour résoudre « les grands problèmes ». Ce n’est pas une révélation, simplement le symptôme de l’impuissance à décider correctement. Surtout cela fait oublier l’impréparation des décideurs, les stratégies budgétaires néfastes, pour livrer une mythologie technologiste à grand renfort de communication officielle.

    À celui-ci s’ajoute une certaine pauvreté dans la manière d’appréhender cette fuite en avant vers la surveillance. Avec l’expression « Big Brother », on a l’impression d’avoir tout dit. Mais c’est faux. On ne passe pas si facilement d’un libéralisme autoritaire à une dystopie orwellienne, il y a des étapes, et à chaque étape nous prenons une direction. Scander « Big Brother » (comme la récente Une de l’Obs le 02 avril 2020 « Big Brother peut-il nous sauver ? »), c’est un peu comme si on cherchait à donner une théorie sans d’abord la démontrer. « Big Brother » impose une grille de lecture des événements tout en prédisant déjà la fin. Ce n’est pas une bonne méthode.

    Qu’importe si l’application pour smartphone Covid-19 dit le vrai ou pas, elle ne saurait être remise en cause parce que, de manière statistique, elle donne une représentation de la réalité que l’on doit accepter comme fidèle. Ce serait sans doute l’une des plus grandes leçons de cette épidémie : la consécration du capitalisme de surveillance comme la seule voie possible. Cela, ce n’est pas une prophétie, ce n’est pas une révélation, c’est le modèle dans lequel nous vivons et contre lequel nous ne cessons de résister (même inconsciemment).

    #Christophe_Masutti #Capitalisme_surveillance #Coronavirus

  • La surveillance, stade suprême du capitalisme ?
    https://www.lemonde.fr/idees/article/2019/06/14/la-surveillance-stade-supreme-du-capitalisme_5476001_3232.html

    Bientôt un autre regard critique sur le concept de capitalisme de surveillance : parution à l’automne du livre de Christophe Masutti qui fait l’archéologie du concept et replonge dans l’évolution sur cinquante ans du traçage informatisé. Chez C&F éditions, évidemment ;-)

    Depuis vingt ans, un capitalisme mutant mené par les géants du Web s’immisce dans nos relations sociales et tente de modifier nos comportements, analyse l’universitaire américaine Shoshana Zuboff dans son dernier ouvrage. Mais son concept de « capitalisme de surveillance » ne fait pas l’unanimité.

    Shoshana Zuboff a été l’une des premières à analyser la manière dont l’informatique transformait le monde du travail. Cette pionnière dans l’étude détaillée des bouleversements du management s’est félicitée, au départ, de l’arrivée de « travailleurs du savoir ». Elle a perçu très tôt que l’extension d’Internet et la généralisation des ordinateurs personnels permettraient de fonder une « économie nouvelle » capable de répondre aux besoins des individus et de renforcer le pouvoir des consommateurs.

    Puis elle a été terriblement déçue. En janvier, Shoshana Zuboff a résumé ses craintes dans The Age of Capitalism Surveillance (Public Affairs, non traduit).

    La presse anglo-saxonne, du libéral Wall Street Journal au très à gauche The Nation, du Guardian à la New York Review of Books, mais aussi l’anticapitaliste Naomi Klein et le professeur de communication Joseph Turow, ont salué ce livre comme un essai majeur.
    « Chef-d’œuvre d’horreur »

    Le titre, « L’Age du capitalisme de surveillance », en annonce le concept : en vingt ans, « sans notre consentement significatif », un capitalisme mutant mené par les géants du Web – Google, Apple, Facebook, Amazon et Microsoft (Gafam) – s’est immiscé dans nos relations sociales et introduit dans nos maisons – « de la bouteille de vodka intelligente au thermomètre rectal », résume Shoshana Zuboff.

    Un de ses concepts centraux est, assure l’universitaire dans son essai, la notion de « surplus de comportement » : les Gafam, mais aussi les opérateurs de téléphonie comme AT&T ou les sociétés de l’Internet des objets et de la « smart city », ne se contentent pas de collecter les données d’usage et de service : ils intègrent dans les pages en réseaux et dans les machines intelligentes des dispositifs d’espionnage invisible. Ils repèrent ainsi, grâce aux algorithmes, nos habitudes les plus intimes. Ils reconnaissent nos voix et nos visages, décryptent nos émotions et étudient leur diffusion grâce à l’« affective computing » afin de capter « la totalité de l’expérience humaine en tant que matière première gratuite ».

    Ces masses de données comportementales sont revendues comme des « produits de prévision » extrêmement lucratifs. « Vous n’êtes pas le produit, résume Shoshana Zuboff, vous êtes la carcasse abandonnée de l’éléphant traqué par des braconniers ! »
    « Un contrat faustien »

    La logique de cette traque mène à ce qu’elle appelle l’« instrumentarianism » (« l’instrumentalisation ») : la capacité de modeler les comportements en vue d’obtenir « des résultats rentables », voire d’« automatiser » les conduites.

    « Il est devenu difficile d’échapper à ce projet de marché dont les tentacules s’étendent des innocents joueurs de Pokémon Go dirigés vers les bars et les magasins qui paient pour les attirer à l’impitoyable exploitation des profils Facebook à des fins d’orientation de comportement individuel » – et ce « en cliquant oui à l’achat de nouvelles chaussures de sport proposé après votre jogging du dimanche matin », ou en ciblant « votre vote de fin de semaine », comme on l’a vu pendant l’affaire Cambridge Analytica, la société de conseil dont le slogan proclame « Data drives all we do » (« Les données déterminent tout ce que nous faisons »). « Ils veulent notre âme, conclut Shoshana Zuboff. Nous avons signé avec eux un contrat faustien. »

    Depuis sa sortie, « L’Age du capitalisme de surveillance » reçoit une volée de critiques. Dans The Nation, Katie Fitzpatrick, professeure de pédagogie à l’Université d’Auckland, estime que le « sombre constat » de Shoshana Zuboff est justifié mais qu’elle « échoue dans son analyse politique » car elle est aveuglée par la confiance qu’elle accorde aux capacités démocratiques du libéralisme. « Nous n’avons pas besoin d’une nouvelle théorie politique alarmiste pour comprendre ce qui se passe », conclut-elle.

    Pour le spécialiste du numérique Evgeny Morozov, auteur du Mirage numérique (Les Prairies ordinaires, 2015), l’analyse de Shoshana Zuboff, qui est d’autant plus dérangeante qu’elle a travaillé pour « deux bastions du techno-optimisme », Fast Company et BusinessWeek, insiste trop sur la surveillance et pas assez sur le capitalisme : « En considérant le capitalisme de surveillance comme notre nouveau Léviathan invisible, elle rate la manière dont le pouvoir fonctionne depuis plusieurs siècles : le Léviathan invisible est avec nous depuis longtemps. »

    #Capitalisme_surveillance #Shoshana_Zuboff

  • Comment des villes « hyper connectées » contrôlent l’espace public
    https://www.lemonde.fr/economie/article/2018/12/19/au-nom-de-la-smart-city-des-villes-sous-surveillance_5399527_3234.html

    Ni fantasme ni science-fiction : ces dispositifs sont très exactement ceux que des villes françaises commencent à expérimenter sous le nom générique de « safe city » (la ville sûre), avatar en uniforme de la « smart city », la « ville hyper connectée ». « La sécurité est, avec la mobilité, le pilier le plus réaliste de la smart city, estime Marc Darmon, directeur général adjoint du groupe Thales. Il y a un marché porteur pour ces technologies, par la conjonction de l’urbanisation, de la numérisation et de risques qui s’aggravent. »
    Un mouvement de fond

    De Nice à Valenciennes (Nord), de Marseille à la Défense ou à Nîmes, de plus en plus de collectivités se laissent tenter par des plates-formes numériques organisées autour des outils de surveillance et de contrôle de l’espace public.

    Un mouvement de fond, en phase avec de puissants intérêts industriels et porté par des subventions publiques, qui prospère dans un certain flou juridique et inquiète les associations de défense des libertés publiques. Construits autour d’une vidéoprotection dernier cri, dopée à l’intelligence artificielle, aux algorithmes et au « big data », ces dispositifs ont l’avantage de rendre bien concret l’un des rêves fondateurs de la smart city : la gestion centralisée de la ville depuis un poste unique de commandement.

    Mais dans ce schéma, les outils de surveillance occupent une place à part. Au point de faire de la sécurité la première priorité. « La vidéoprotection n’est qu’une partie de la smart city, mais c’est peut-être la plus importante, car elle donne une vision instantanée du territoire : c’est le cœur et le poumon de la ville, c’est un outil qui sert à la gestion ordinaire de l’espace urbain », assume Bernard Serafino, responsable de la sécurité au cabinet du maire de Nîmes.
    « Big data de la tranquillité publique »

    La préfecture du Gard a déployé, avec Engie Ineo, un système de vidéosurveillance intelligente à l’échelle des quinze communes de l’agglomération : 600 caméras, reliées à un centre de supervision high-tech, qui permettent de gérer l’espace urbain et de rechercher et de suivre un individu ou un véhicule d’un bout à l’autre de l’agglomération.

    La ville de Marseille, de son côté, se fait fort depuis le printemps de mettre en place un « big data de la tranquillité publique » grâce aux technologies de Engie Ineo et à une plate-forme de données Oracle, un dispositif censé être opérationnel début 2019. « La safe city est la première brique de la smart city, c’est un outil d’aide à la décision pour la collectivité », décrit Caroline Pozmentier, l’adjointe au maire chargée de la sécurité publique.

    « Une logique de surveillance massive »

    Dans ce contexte, les plates-formes safe city « made in France » sont cofinancées par la Banque publique d’investissement (Bpifrance), subventionnées par les collectivités et encouragées par le Comité de la filière industrielle de sécurité (Cofis), placé sous la tutelle du premier ministre Edouard Philippe.

    « C’est important pour les villes de se dire qu’il y a des acteurs français sur ces sujets clés : notre droit est plus contraignant que celui de la Chine ou des Etats-Unis sur la gestion des données », estime Nathalie Allegret, chez Engie Ineo.

    Françaises ou non, ces technologies soulèvent quelques inquiétudes. « La safe city, c’est la prolifération d’outils issus du milieu du renseignement, dans une logique de surveillance massive, d’identification des signaux faibles, des comportements suspects », dénonce Félix Tréguer, un responsable marseillais de l’association La Quadrature du Net. « Ces outils permettront un contrôle social très sophistiqué quand leur potentiel sera optimisé, estime-t-il. Nous ne trouvons pas rassurant que la police municipale devienne le service de renseignement de l’espace public urbain et de son double numérique. »

    « Améliorer les secours, la circulation, c’est légitime, mais la généralisation de la vidéosurveillance nous inquiète, et scruter les réseaux sociaux, ce n’est pas le rôle d’un maire ! Sans aucun garde-fou, un outil pareil ne peut pas faire preuve de la neutralité indispensable, redoute Henri Busquet, de la Ligue des droits de l’homme à Nice. C’est potentiellement un outil de destruction politique, qui fait courir un risque particulier aux opposants, aux journalistes… »

    La tentation du contrôle social

    L’inquiétude est d’autant plus vive que certains élus ne cachent pas vouloir repousser les limites du cadre légal. « On pourrait faire beaucoup mieux, estime M. Estrosi, qui s’est plusieurs fois heurté à la CNIL. Ce qui nous limite, c’est la loi, notamment la loi Informatique et libertés de 1978. Je demande à ce que le législateur fasse évoluer les textes, au rythme où évolue la société. Je dispose du logiciel qui permettrait dès demain matin d’appliquer la reconnaissance faciale et d’identifier des individus fichés où qu’ils se trouvent dans la ville… Pourquoi se l’interdire ? Est-ce qu’on veut prendre le risque de voir des gens mourir au nom des libertés individuelles, alors qu’on a les technologies qui permettraient de l’éviter ? »

    #Capitalisme_surveillance #Videosurveillance #Smart_city #Safe_city

  • Archéologie du capitalisme de surveillance – Statium Blog
    https://statium.link/blog/2018/10/12/archeologie-du-capitalisme-de-surveillance

    Par Christophe Masutti

    L’expression « capitalisme de surveillance » est employée le plus souvent non comme un concept mais comme un dénominateur, c’est-à-dire de l’ordre de la perception des phénomènes, de ceux qui nous font tomber de nos chaises presque tous les jours lorsque nous apprenons à quels trafics sont mêlées nos données personnelles. Mais il n’a pas été défini pour cela : son ambition est surtout d’être un outil, une clé de lecture pour comprendre la configuration politique et sociale de l’économie de la surveillance. Il faut donc mettre à l’épreuve ce concept et voir dans quelle mesure il permet de comprendre si l’économie de la surveillance obéit ou non à une idéologie, au-delà des pratiques. Certes, il faut donner une définition du capitalisme de surveillance (idéologique, pratique, sociale, collective, culturelle, anthropologique ou politique), mais il faut surtout en comprendre l’avènement.

    Je propose dans ce livre une approche historique qui commence par une lecture différente des révolutions informatiques depuis les années 1960. Comment vient la surveillance ? comment devient-elle un levier économique ?

    On peut focaliser non pas sur l’évolution technologique mais sur le besoin d’information et de traitement de l’information, tout particulièrement à travers des exemples de projets publics et privés. L’informatisation est un mouvement de transformation des données en capital.

    Qu’est-ce qui donne corps à la société de la surveillance ? c’est l’apparition de dispositifs institutionnels de vigilance et de régulation, poussés par un débat public, politique et juridique, sur fond de crainte de l’avènement de la société de 1984. C’est dans ce contexte qu’au sein de l’appareillage législatif germèrent les conditions des capacités de régulation des institutions. Néanmoins la valorisation des données, en tant que propriétés, capitaux et composantes stratégiques, fini par consacrer l’économie de la surveillance comme modèle unique. Le marketing, la modélisation des comportements, la valeur vie client : la surveillance devient une activité prédictive.

    #Christophe_Masutti #Surveillance #Capitalisme_surveillance #Informatisation