• Etalab vient de publier les feuilles de routes (FDR) de 15 ministères en terme de politique numérique pour les prochaines années : https://www.etalab.gouv.fr/politique-de-la-donnee-des-algorithmes-et-des-codes-sources-15-strategie - Des documents riches, mais qui restent silencieux sur quelques enjeux.

    Derrière ce programme d’ouverture des données et de publications des codes sources des systèmes on trouve également des stratégies renforcées de partages des données - API, mais surtout partages de données « entre acteurs habilités »... ce qui signifie la possibilité de croisement et d’échanges de données entre administrations, pas tant pour bénéficier à l’usager que pour mieux nous surveiller et contrôler ! Voir ce que nous disait sur ces sujets, le sociologue Vincent Dubois : https://www.internetactu.net/2021/06/22/le-calcul-de-risque-cette-revolution-industrielle-de-ladministration-p

    Ces FDR visent à créer de nouveaux services et « fédérer les énergies »… sans toujours dire lesquelles ou pourquoi (de nombreux exemples sont évoqués, mais on ne sait pas toujours si ce sont des projets en cours ou des exemples). La documentation publique des projets de l’administration reste le point invisible de ces FDR ! Alors qu’on ne cesse de parler d’ouverture, les projets, en tant que tels, sont invisibilisés. Alors qu’on attendrait plutôt des descriptions précises de chacun, de leurs enjeux, des données qu’ils vont mobilisés, de leurs impacts…

    Ainsi parmi les innombrables exemples évoqués dans ces documents, on trouvera par exemple un Quotient familial partagé du « mois précédent », dont l’enjeu est de mettre à jour plus rapidement le QF dès il évolue. Le risque bien sûr, c’est de produire une plus grande volatilité des droits, au détriment des usagers : voir ce que nous disions sur cet enjeu : https://www.agirparlaculture.be/une-politique-numerique-de-gauche-est-elle-possible

    Dans ces FDR, on ne trouve pas vraiment d’annonces sur les garanties apportées aux usagers, pas d’annonces sur des structures de recours, de dialogues. La médiation semble rester le parent pauvre de cette accélération numérique.

    Au programme également, mieux identifier les algorithmes publics existants et en produire de nouveaux. Mais, derrière cette volonté se profile un encouragement à utiliser l’IA, sans que des mesures sur l’équité et la responsabilité des traitements ne soient mises en place.
    Si plusieurs FDR invitent à consulter les usagers sur ces déploiements, le silence est d’or sur les méthodes : pas d’annonce de mise en place de comités d’éthique, d’espaces de co-élaboration avec les administrés…

    Bref, ce que ces FDR annoncent, c’est l’accélération des traitements et des échanges de données. Pas sûr que ce soit toujours au bénéfice des administrés.

  • Voilà près de 10 ans que l’administration publique - la CAF, notamment, rejointe depuis par Pôle Emploi et l’administration fiscale - pratique des calculs de risque - du scoring - de ses administrés, sans vraiment nous en parler… Avec le sociologue Vincent Dubois, à l’occasion de la parution de son livre « Contrôler les assistés », nous revenons sur cette révolution discrète, largement faite à notre insu, cette transformation de fond du contrôle des administrés, à bas bruit.

    Comment la fouille de données, l’échange de données et la rationalisation des pratiques administratives pour mieux se mouler dans les évolutions informatiques, d’une manière bien plus réticulaire qu’on le craignait en 1978 avec le projet Safari, nous a conduit à « atteindre une forme de surveillance jamais vue »... https://www.internetactu.net/2021/06/22/le-calcul-de-risque-cette-revolution-industrielle-de-ladministration-p

  • L’IA ne comprend rien aux images – L’image sociale
    http://imagesociale.fr/9739

    Alors que l’analyse automatique s’attaque à la détection des émotions, l’absence d’une interprétation correcte de la nature des messages visuels fait apparaître les limites de la simplification algorithmique. Le principe de l’identification des expressions faciales les réduit à un vocabulaire dont il suffirait d’établir le relevé. Mais les jeux expressifs, comme les emojis, sont des modalisateurs qui ne prennent sens qu’au sein d’une interaction. Leur compréhension relève d’une analyse du discours en contexte, que chacun effectue spontanément – mais qui est hors de portée des machines.

  • Atlas of AI : déconstruire les dénis de l’IA
    https://www.internetactu.net/2021/04/15/atlas-of-ai-deconstruire-le-deni-de-lia

    Le livre de Kate Crawford cherche à détruire deux mythes. Le premier est de croire que des systèmes non humains sont analogues à des esprits humains. Il consiste à croire qu’« avec suffisamment d’entraînement ou de ressources, des intelligences plus ou moins proches de celles des hommes peuvent être créées à partir de zéro, sans se confronter à la façon fondamentale dont les humains sont incarnés, reliés et définis par des écologies qui les dépassent ». Le second est de croire que l’intelligence est indépendante de tout, notamment du social, du culturel, de l’histoire et des forces politiques, quand l’intelligence a toujours été convoquée dans l’histoire pour justifier des relations de domination, de l’esclavage à l’eugénisme.

    Pour Crawford, l’IA n’est ni intelligente ni artificielle. Elle n’est qu’une industrie du calcul intensive et extractive qui sert les intérêts dominants. Une technologie de pouvoir qui « à la fois reflète et produit les relations sociales et la compréhension du monde ». L’IA n’a rien de neutre : elle est fondamentalement politique. Pour la comprendre, nous devons toujours demander qu’est-ce qui est optimisé, au bénéfice de qui et sous la décision de qui… L’enjeu de cet Atlas, explique-t-elle, vise à offrir au lecteur la possibilité de relire le monde, de comprendre les empires où se déploient les nouvelles dominations numériques. Il vise à cartographier les États et les entreprises qui façonnent et dominent cette industrie, leur nature extractive, ses impacts partout désastreux, que ce soit sur la planète comme sur les formes de travail qui la font fonctionner.

  • La Smart City, la ville intelligente, n’a vraiment plus la cote – mais depuis le temps qu’on le répète, on peut avoir des doutes ! Apparue il y a une bonne dizaine d’années, l’idée que les nouvelles technologies allaient fluidifier nos usages urbains semble en berne. Longtemps, les collectivités locales, soucieuses de prendre le train de l’innovation en marche, achetaient des solutions sur étagère pour entrer dans le club de la modernité. Reste qu’en même temps qu’elle déployait ses promesses, la ville intelligente a vu les critiques s’étendre, notamment autour des préoccupations relatives au respect de la vie privée, à l’image de l’annulation de l’imposant projet de Sidewalk Labs à Toronto (sur ce sujet, je renvoie aux billets de Mais où va le web – @MaisOuVaLeWeb – qui expliquait en détail en 2019 les enjeux du projet et en 2020 les enjeux de l’opposition par le collectif Block Sidewalk mené par l’activiste Bianca Wylie). Si Google/Alphabet a invoqué les effets de la pandémie pour jeter l’éponge en mai 2020, le projet d’aménagement du quartier des docks de Toronto est surtout tombé sous la pression sans faille de ses opposants.

    Après la #SmartCity, la Dark #City ? | InternetActu.net
    https://www.internetactu.net/2021/03/24/apres-la-smart-city-la-dark-city
    /assets/images/logo_ia.png

  • Dé-surveiller : peut-on contrer l’accélération technologique ? | InternetActu.net
    https://www.internetactu.net/2021/03/18/de-surveiller-peut-on-contrer-lacceleration-technologique
    /assets/images/logo_ia.png

    La phrase puissante de la fin, je la mets au début :

    Il n’y a pas vraiment d’antonyme à la surveillance. Sans mots pour s’y opposer, on comprend qu’il soit donc difficile de nous en défaire.

    À l’espoir d’un « Green New Deal » a succédé le risque d’une bascule numérique, un « Screen New Deal », constatait dès mai 2020 la journaliste et essayiste altermondialiste Naomi Klein (@NaomiAKlein) : c’est-à-dire un avenir sans contact et sans humain, un changement de nature de nos relations, instrumentées et armées par les technologies numériques

    Nous ne reviendrons pas aux guichets ou aux agences, notamment du fait des investissements réalisés. Les interfaces sont là pour durer. Qu’est-ce qui reviendra en présentiel et qu’est-ce qui n’y reviendra pas ? Nous voilà un peu plus enfermés Derrière les grilles des calculs, dans les retz d’une surveillance toujours plus étendue

    Couverture du livre d’Olivier TesquetLe risque, c’est que le numérique soit désormais orienté vers une « économie de la distanciation sociale », explique le journaliste à Télérama, spécialiste de l’analyse de la société de surveillance, Olivier Tesquet (@oliviertesquet), dans son dernier livre, court et tonique, État d’urgence technologique (Premier Parallèle, 2021). Il y rappelle avec force que la sécurité n’a rien à proposer à la société, hormis sa seule logique : toujours plus de sécurité, de surveillance et de répression au détriment de toutes autres réponses à nos difficultés. À l’heure où la santé devient la première des sécurités, le risque est qu’avec elle, toutes nos constructions sociales (école, travail, déplacements..) basculent à leur tour dans l’idéologie mortifère de la seule sécurité.

    Reste que là où on le rejoindra, bien sûr, c’est que la surveillance a beau diffuser son virus, elle n’est un remède contre rien. StopAntiCovid ne soigne personne, pas plus que le passeport vaccinal qu’on nous annonce. Dans cette accoutumance sécuritaire, ce « continuum carcéral », la seule chose qu’on perd, c’est nos libertés ! La montée de la réponse sécuritaire, 12 mois plus tard, n’a fait bouger aucune ligne tant et si bien qu’on se retrouve à la même situation que l’année dernière face au virus, avec 100 000 morts de plus et une crise économique qui couve. Les pare-feu de la sécurité ne nous ont protégé de rien, surtout pas de la dépression généralisée que produit une télé-société. Le philosophe Jean-François Lyotard, qui en 1981 annonçait l’informatisation de la société, avait raison, rappelle Tesquet : la techno est en train de sauver le néolibéralisme de sa propre crise, mais pour nous mener nulle part !

    Constatons deux choses. Malgré une production pléthorique de lois, les béances de l’État de droit restent entières. Comme si la production de plus de droit ne produisait finalement pas de réponse effective. Voire, pire, comme si finalement ses béances étaient son mode de développement. Même constat quant à la production pléthorique de surveillance… Là encore, cette obsession ne produit rien d’autre qu’elle-même. La loi comme la surveillance ressemblent finalement beaucoup au technosolutionnisme, c’est-à-dire qu’elles produisent essentiellement leur propre solution : toujours plus de loi, de surveillance ou de technologie, sans motiver cette production de résultats effectifs. Comme si ces réponses ne cherchaient à produire finalement que leur propre accélération.

    #surveillance

  • L’illusion de l’innovation… et l’illusion de sa critique
    https://www.internetactu.net/2021/03/04/lillusion-de-linnovation-et-lillusion-de-sa-critique

    Plus de gens semblent écrire sur les problèmes réels et potentiels des technologies, constate l’iconoclaste professeur de sciences et technologie de la Virginia Tech Lee Vinsel (@sts_news) sur son blog. Reste que parmi ces critiques, beaucoup se révèlent plus parasitaires qu’autre chose. Notamment, souligne le chercheur, ceux qui supposent que la technologie procède d’un changement extraordinaire, mais dénoncent les risques et les problèmes en appelant à les dépasser. Pour Vinsel, les trolls (...)

    #manipulation #technologisme #art

    /assets/images/logo_ia.png

  • Regouverner (1/2) : la nouvelle ère des licences libres
    https://www.internetactu.net/2021/02/17/regouverner-1-2-la-nouvelle-ere-des-licences-libres

    En 1972, l’avocate et politologue féministe Jo Freeman (Wikipedia) publiait un article sur « la tyrannie de l’absence de structure » (voir sa traduction en français) où elle critiquait les formes d’organisation ouvertes, sans chefs. Elle remarquait que ces structures implicites rendaient plus difficiles de reconnaître, contester où éliminer les rapports de domination qui y prospéraient… Cette critique n’a pas empêché le récit des structures sans hiérarchies de prospérer, à l’image par exemple des propos (...)

    #technologisme #FreeSoftware

    /assets/images/logo_ia.png

  • Regouverner (2/2) : multiplier les outils d’une gouvernance distribuée
    https://www.internetactu.net/2021/02/18/regouverner-2-2-multiplier-les-outils-dune-gouvernance-distribuee

    Continuons avec la remarquable critique des errances de l’open source que formule Nathan Schneider (@ntnsndr) dans son article de recherche « la tyrannie de l’ouverture ». La contestation ne s’arrête pas à la démultiplication de nouvelles licences ouvertes, elle interroge profondément les questions de gouvernance pour faire de nouvelles propositions, forcément passionnantes ! « Un bien commun doit avoir un moyen de discerner le bien commun » L’open source est certainement devenu le principal mode de (...)

    #technologisme #FreeSoftware

    /assets/images/logo_ia.png

  • Design Justice : repolitiser le design
    https://www.internetactu.net/2021/02/03/design-justice-repolitiser-le-design

    Sasha Costanza-Chock (@schock), activiste, professeure associée au Laboratoire d’études comparatives sur les médias du MIT et chercheuse associée à la Ligue pour la justice algorithmique (@ajlunited), fondatrice du défunt Codesign Studio du MIT, est l’auteure de Design Justice : community-led practices to build the worlds we need (MIT Press, 2020, non-traduit, disponible en accès ouvert). Comme son titre l’indique, Design Justice invite à reconcevoir la justice sociale, c’est-à-dire les rapports de (...)

    #éthique #technologisme #art #travail #sexisme #discrimination #LGBT

    /assets/images/logo_ia.png