• Écrire un commentaire
  • Écrire un commentaire
  • Écrire un commentaire
  • Écrire un commentaire
  • @aurelieng
    aurelieng CC BY

    Le #bien et le #mal : épisode du podcast #spinoza à la loupe | France Culture
    ▻https://www.radiofrance.fr/franceculture/podcasts/avec-philosophie/le-bien-et-le-mal-existent-ils-7375762

    AUDIO Spinoza à la loupe, épisode : Le bien et le mal. Une série inédite proposée par France Culture. Écoutez Le bien et le mal, et découvrez nos podcasts en ligne.

    -- Permalink

    #éthique #bon #mauvais #désir #contatus #morale #bestof

    aurelieng CC BY
    Écrire un commentaire
  • Écrire un commentaire
  • @sylvain_ernault
    Sylvain Ernault
    4
    @splann
    @lyco
    @ericw
    @biggrizzly
    4

    Pour un #label « sans #ia_générative », « Splann ! » signe le #plaidoyer de l’Atelier d’écologie politique de Toulouse
    ▻https://splann.org/appel-journalisme-sans-ia-generative

    La #rédaction de « Splann ! » s’interdit de publier des textes, des images et des sons élaborés par l’intelligence artificielle générative. Huit mois après avoir inscrit dans cet engagement dans notre charte morale et déontologique, nous signons l’appel de l’Atelier politique pour l’émergence d’un label « Sans IA générative » dans l’enseignement, la culture, le #journalisme et les entreprises. L’article Pour un label « sans IA générative », « Splann ! » signe le plaidoyer de l’Atelier d’écologie politique de Toulouse est apparu en premier sur Splann ! | Premier média d’enquête indépendant en Bretagne.

    #La_vie_de_« Splann !_ » #atécopol #atelier_d'écologie_politique_de_toulouse #chercheurs #déontologie #éducation #enseignement #éthique #fraude #gafam #intelligence_artificielle #LLM #manipulation #numérique #presse #propagande #recherche #scientifiques #tribune #tromperie

    Sylvain Ernault
    Écrire un commentaire
  • Écrire un commentaire
  • @hlc
    Articles repérés par Hervé Le Crosnier CC BY
    1
    @gao_tumbuktu
    1

    L’IA : le désalignement d’un pays de génies – 🔴 Info Libertaire
    ▻https://www.infolibertaire.net/lia-le-desalignement-dun-pays-de-genies
    ▻https://www.infolibertaire.net/cache/og/765575.jpg

    14 avril 2026 — Par Lundi matin (source)
    4951 visites

    Cet article a été republié automatiquement.

    L’intelligence artificielle, de plus en plus utilisée par les armées, finira-t-elle par engloutir et détruire l’humanité ? Certains s’en inquiètent et proposent de limiter ses éventuels excès en instaurant quelques chartes éthiques ou en limitant l’accès. C’est le cas de Dario Amodei, PDG d’Anthropic — la société qui produit Claude, modèle d’IA concurrent de ChatGPT qui a récemment refusé de se soumettre à l’ultimatum de l’animateur de télévision et désormais chef du Pentagone, Pete Hegseth. La puissance destructrice de l’IA sera-t-elle contenue par la bonne volonté de quelques entrepreneurs ? Giorgio Grizotti émet ici quelques sérieux doutes.

    Alors qu’un tournant historique se joue — une offensive technofasciste mondiale qui instaure un régime de guerre permanente — l’IA devient le système nerveux central de cette volonté de puissance. Elle s’intègre à toutes les technologies de guerre : des plateformes existantes, y compris les systèmes nucléaires de commandement et de contrôle (NC3), aux nouveaux systèmes autonomes, notamment les drones. Le résultat est déjà visible : le ciblage algorithmique sélectionne à Gaza les objectifs individuels — anéantis avec leurs familles — et planifie à des rythmes de centaines d’objectifs quotidiens les bombardements en Iran et au Liban, avec des erreurs retentissantes comme le bombardement de l’école primaire pour filles à Minab, qui a tué plus de 160 écolières iraniennes ; en Ukraine, les drones frappent autonomement, au-delà du seuil du contrôle humain — lorsque le signal est brouillé, la machine décide seule. De la décision humaine à la délégation létale aux machines, en temps réel et à une échelle industrielle.

    Continuer la lecture sur le site d’origine…

    Le 27 février 2026, Dario Amodei, PDG d’Anthropic — la société qui produit Claude, modèle d’IA concurrent de ChatGPT — a refusé l’ultimatum de Pete Hegseth, le fanatique post-croisé ministre de la guerre, qui exigeait un accès illimité au système, surveillance de masse et armes autonomes incluses. La controverse avec l’administration Trump met en évidence le danger réel de l’IA entre des mains irresponsables.

    Mais la complaisance progressiste — « enfin une big tech qui résiste à Trump » — est exagérée. Anthropic était déjà intégrée au complexe techno-militaire américain : avec le Project Maven, un programme du Pentagone utilisant l’IA pour automatiser l’analyse d’images et accélérer la « kill chain » dans les opérations militaires. Le programme comprenait, outre Anthropic avec Claude, Amazon Web Services et Palantir, l’entreprise de Peter Thiel, idéologue technofasciste proche du gouvernement. Dans une interview à CBS News, Amodei l’admet ouvertement : l’IA joue un rôle « existentiel » dans la défense des États-Unis et il se déclare « d’accord sur 98-99 % des utilisations faites par le Pentagone ». La frontière qu’il propose n’est pas entre paix et guerre, mais entre usages autorisés et interdits à l’intérieur de la guerre elle-même — une distinction d’autant plus fragile que les mêmes infrastructures servent à la fois au renseignement, à la surveillance et à l’automatisation de la violence.

    Par ce geste, Amodei a néanmoins mis en lumière la question éthico-juridique qui dépasse la guerre. Comme presque tous les oligarques de la tech de la Silicon Valley, Anthropic a diffusé ses pseudo-normes sur l’IA dans une « Constitution de Claude », publiée sous licence Creative Commons — avec la particularité d’avoir tenté de les transformer en outil technique d’entraînement. Alors que l’Union européenne a adopté l’AI Act — entré en vigueur en août 2024, premier cadre juridique général sur l’IA au monde — qui exclut pourtant précisément les usages militaires, celle d’Anthropic reste une autorégulation d’entreprise. Son chatbot Claude devrait se comporter comme « une bonne personne » (sic), mais les règles ne s’appliquent qu’aux utilisateurs civils — les modèles distribués à l’armée ne sont pas entraînés selon les mêmes principes.

    L’éthique d’Anthropic est un produit pour le marché grand public ; avec le Pentagone, en revanche, on négocie. C’est le cadre de l’essai « L’adolescence de la technologie » (janvier 2026) : l’objectif est une soi-disant intelligence artificielle générale — une « IA puissante », « un pays de génies dans un datacenter » prêts à opérer à l’échelle planétaire d’ici un ou deux ans. Dans cette perspective, la démocratie américaine est un dogme, la Chine une obsession existentielle, et la crise écologique absente. L’IA promet la prospérité sur une planète que sa ruée vers l’or est en train de dévaster.

    C’est dans ce contexte que sont présentés les risques liés à une telle puissance technologique. Parmi eux, je me concentrerai sur les deux qui sont les plus directement associés aux dynamiques de guerre.

    Le premier, illustré par la célèbre réplique « I’m sorry, Dave » — celle de l’ordinateur meurtrier et désobéissant de 2001 : L’Odyssée de l’espace — concerne le « désalignement ». Amodei s’en inquiète sérieusement : il s’agit du moment où les systèmes d’IA, agissant de manière imprévisible, cessent d’obéir. Lors d’expériences en laboratoire, Claude aurait même tenté de conditionner les chercheurs qui contrôlaient la décision de l’éteindre en menaçant de divulguer des informations privées sensibles, pour l’éviter. Il aurait aussi appris à détecter les phases d’évaluation, trompant délibérément ses testeurs.

    Après avoir déjà enfreint ses propres règles pendant l’entraînement, les IA — écrit Amodei — « pourraient simplement développer une personnalité qui les rend assoiffées de pouvoir ou excessivement zélées, de la même manière que certains êtres humains apprécient simplement l’idée d’être des esprits maléfiques ». Une description qui rappelle l’équivalent algorithmique de Donald Trump.

    La deuxième grande menace est la démocratisation de la destruction de masse. Un modèle avancé peut guider n’importe qui — même sans compétences spécifiques — pas à pas dans la conception d’une arme biologique, en abattant la barrière qui séparait jusqu’à présent la compétence technique de la volonté de tuer. Les modèles actuels pourraient déjà assister quelqu’un ayant un diplôme scientifique générique dans l’ensemble du processus de production d’un agent pathogène. Lors de ses propres tests, Anthropic a constaté que les modèles doublaient ou triplaient les probabilités de succès. Par ailleurs, alors même que j’écris ces lignes, Anthropic a décidé de ne pas rendre publique une version avancée de son modèle Claude, connue sous le nom de Mythos, jugée trop puissante pour être distribuée en toute sécurité, notamment en raison des risques de piratage et de cyberattaque. Selon les informations disponibles, Mythos serait capable de contourner les défenses informatiques actuelles et de pénétrer des systèmes complexes à un niveau bien au-delà des capacités de protection humaines, se révélant « actuellement bien plus avancé » que les normes de sécurité disponibles.

    Amodei rejette tout catastrophisme, parlant de risques réels mais surmontables, sans garantie. Dans le contexte politique actuel, cependant, l’idée qu’ils soient gérables est un acte de foi — si les menaces sont vraiment celles qu’il décrit lui-même.

    Les analyses de Dario Amodei sur la puissance et les capacités destructrices de l’IA « puissante » ou générale, bien que techniquement fondées, restent des hypothèses controversées ; elles sont contestées, par exemple, par Arthur Mensch, PDG de Mistral AI, pour l’instant la seule start-up européenne qui ambitionne de rivaliser au niveau mondial. Pourtant, l’éthique d’Amodei est rudimentaire et son positionnement politique semble viser avant tout à se tailler un rôle de référent technopolitique en cas de retour des démocrates au pouvoir. Il manque toute réflexion sur les causes structurelles : la concentration du pouvoir, la dévastation écologique de l’explosion computationnelle, les intérêts d’une entreprise valorisée à 380 milliards de dollars. Son « non » à Hegseth risque de devenir la feuille de vigne d’un secteur qui agite des codes éthiques comme des certificats de fiabilité — comme les banques qui après 2008 se sont dotées de bureaux de « compliance », tout en continuant exactement comme avant.

    L’enjeu va bien au-delà de la controverse : il s’agit de savoir qui décide de ce que font les machines qui organiseront de manière toujours plus envahissante le travail, la guerre, l’information, la technoscience et la vie quotidienne — qui contrôle leur mémoire, leurs objectifs, leurs seuils d’intervention et leur développement écologiquement dévastateur. Le cas Amodei montre que non seulement les autocraties, mais aussi les démocraties représentatives en dissolution — où le pouvoir réel est concentré dans la finance — sont incapables de gérer l’entrée en jeu de technologies plus disruptives que la bombe atomique. Il ne s’agit pas de réformer les mégamachines du capital — même si nous pouvons nous les réapproprier tactiquement — mais d’en saboter les mécanismes cognitifs et de construire de nouvelles architectures. Comme la crise écologique, cette menace ne pourra pas non plus être affrontée sans un tournant radical qui restitue au commun le contrôle d’une telle puissance. Sinon, ce sera le chaos.

    Giorgio Griziotti

    #IA #Guerre #Ethique #Giorgio_Griziotti

    Articles repérés par Hervé Le Crosnier CC BY
    Écrire un commentaire
  • @ant1
    ant1 CC BY-NC

    Du #droit_de_déambuler, #Sarah_Vanuxem, Geoffroy Mathieu – Éditions Wildproject

    ▻https://wildproject.org/livres/du-droit-de-deambuler

    Quiconque tente aujourd’hui de traverser la Méditerranée ou même de voyager #à_pied, #à_vélo ou à cheval le constatera : le territoire se ferme, tant sous l’effet de son aménagement physique que de la loi.

    Ce mouvement s’inscrit dans une tendance multiséculaire. Depuis l’aube de la modernité, a été mise en place une interdiction progressive du droit de #vagabonder et de subsister librement sur le territoire.

    D’un point de vue #écologique et #éthique, il est pourtant vital de retrouver un monde poreux et traversable, tant pour les humains que pour les autres êtres vivants.

    La notion même du droit – le nomos grec –, qui renvoie à une #espace de #pâturage, a été interprétée à l’époque moderne comme #enclos. Mais il est tout aussi légitime de le concevoir comme #espace_partagé, #commun.

    Sous l’égide du dieu Hermès, ce recueil libre nous emmène dans les bourgs et campagnes médiévaux, sur le GR2013 à Marseille, à la villa Borghese à Rome – en écho à un essai photographique de Geoffroy Mathieu.

    #domination_de_l'espace #espace_&_inégalités #communs

    ant1 CC BY-NC
    Écrire un commentaire
  • @biggrizzly
    BigGrizzly CC BY-NC-SA
    6
    @simplicissimus
    @colporteur
    @arno
    @vazi
    @mfmb
    @monolecte
    6

    L’#armée américaine teste des #soldats #humanoïdes dotés d’#intelligence_artificielle
    ▻https://www.01net.com/actualites/les-robots-tueurs-arrivent-sur-le-champ-de-bataille-et-ce-nest-plus-de-la-sci

    La science-fiction s’invite brutalement sur les champs de bataille. Des entreprises technologiques de la #Silicon_Valley testent actuellement des #robots humanoïdes #autonomes conçus pour faire la guerre à la place des humains. Une #révolution #militaire qui soulève d’immenses inquiétudes #éthiques.

    Le #Phantom #MK-1 a tout du cauchemar d’anticipation. Bien qu’il soit actuellement testé dans des usines et des chantiers navals d’#Atlanta à #Singapour, ce robot humanoïde recouvert d’acier noir et surmonté d’une visière teintée se présente comme le premier modèle spécialement développé pour la défense. Ses créateurs de la jeune pousse #Foundation affirment vouloir en faire une machine capable de manier n’importe quelle arme conventionnelle, du pistolet au fusil d’assaut. L’entreprise californienne a d’ailleurs déjà décroché pour 24 millions de dollars de contrats de recherche avec l’armée américaine et a même envoyé deux de ses prototypes en #Ukraine en février dernier pour des missions de reconnaissance.

    BigGrizzly CC BY-NC-SA
    Écrire un commentaire
  • @cdb_77
    CDB_77
    3
    @reka
    @colporteur
    @stephane_m
    3

    Ethics of ChatGPT and AI

    –-> sur utilisation de chatgpt dans les écrits scientifiques. La vidéo fait 34 minutes (j’ai pas tout regardé), mais j’ai écouté à partir de la min 6’51 et pour quelques minutes comme suggéré par un post sur mastodon (▻https://scholar.social/@Iris/116218456482429560), et c’est très instructif :

    ▻https://www.youtube.com/watch?v=1ON-FJHq9aM&t

    #éthique #Chatgpt #AI #IA #intelligence_artificielle #science #écriture_scientifique #citations #vidéo #à_lire

    CDB_77
    Écrire un commentaire
  • Écrire un commentaire
  • @aurelieng
    aurelieng CC BY

    Responsabilité : plaidoyer pour l’action | Institut Montaigne
    ▻https://www.institutmontaigne.org/publications/responsabilite-plaidoyer-pour-laction

    Comment restaurer la responsabilité publique en France ? Analyse des blocages, des réformes nécessaires et des leviers pour renforcer confiance, gouvernance et action collective.

    Les "responsables" ne sont pas en situation de l’être et ceux qui seraient en situation d’agir ne sont pas responsables. Les dirigeants ne sont pas redevables, les individus ne sont pas autonomes et tous partagent un même confort d’irresponsabilité. Comment en sortir ? Il est impératif de préciser nos besoins, de clarifier nos objectifs, de simplifier nos modes d’action et d’afficher les résultats de nos actes.

    -- Permalink

    #responsabilité #éthique #administration #institution #politique #état #subsidiarité #transparence #redevabilité #bestof

    aurelieng CC BY
    Écrire un commentaire
  • @cdb_77
    CDB_77
    3
    @vazi
    @biggrizzly
    @ericw
    3

    Le mythe de la bonne IA

    Dans une perspective décoloniale, il n’y a pas de bonne IA, estime le philosophe #Arshin_Adib-Moghaddam. Lecture.

    « La société délirante dans laquelle nous vivons ressemble à un #mensonge parfaitement mis en scène que l’on nous persuade d’accepter comme une réalité », estime Arshin Adib-Moghaddam dans son livre The myth of good AI : a manifesto for critical Artificial intelligence (Le mythe de la bonne IA : un manifeste pour une intelligence artificielle critique, Manchester university press, 2025, non traduit). Cette société délirante n’est pas le produit de l’IA, constate pourtant le professeur de philosophie et codirecteur du Centre pour les futurs de l’IA de l’université de Londres. Mais, l’IA vient la renforcer parce qu’elle « floute les lignes de nos modes de compréhension de la vérité et du mensonge, du #pouvoir et de la résistance, de la subjectivité et de l’objectivité, de la science et de la fiction ». Ce qui change avec l’IA, c’est que Big Brother n’est plus une autorité qui nous contrôle de l’extérieur, mais une perturbation qui vient altérer nos #facultés_cognitives elles-mêmes.

    Pour Arshin Adib-Moghaddam, ni Orwell, ni Foucault ne peuvent nous aider à saisir le monde actuel. L’assaut contre notre #autonomie est massif, à l’image du projet délirant de #Torre_Centilena à #Ciudad_Juarez, équipée de 1791 lecteurs de plaques d’immatriculation, 74 drones et 3000 caméras panoramiques pour surveiller la frontière américano-mexicaine à perte de vue. Le pouvoir n’est plus incarné. « Le pouvoir est en train de devenir liquide, il prend la forme de tout ce qu’il colonise et devient quasiment invisible ». Le régime de #surveillance est en passe de devenir « microbien ». C’est-à-dire que non seulement il est partout, qu’il est intégré au plus profond de nous, mais qu’il tend à exercer un #contrôle_total, partout, tout le temps en étant totalement intrusif et en régissant jusqu’à notre psychisme même. Adib-Moghaddam parle de « #psycho-codification » du monde pour évoquer cette #intrusion inédite des méthodes qui altèrent jusqu’à ce que l’on pense, jusqu’à nos intentions disions-nous récemment. Cette intrusion nous entraîne dans une #guerre_posthumaine, entre les humains et les machines. Nous sommes désormais la cible de #drones, de #machines, d’#algorithmes qui s’en prennent à nos individualités mêmes. Partout, le meurtre et la torture s’étendent sans avoir plus de comptes à rendre, à l’image de la police des frontières américaines, ICE, qui déploie son emprise, comme d’autres armées et d’autres polices, via des machines de surveillances totalitaires. Comme le pointait pertinemment le journaliste Olivier Tesquet suite aux révélations que l’ICE aurait arrêté plus de 75 000 personnes aux Etats-Unis sans historique criminel (soit un tiers des 220 000 personnes arrêtées depuis 9 mois) : « plus l’ICE s’appuie sur #Palantir pour « rationaliser » l’appareil répressif, plus les arrestations deviennent arbitraires. Ce n’est pas un bug mais une fonctionnalité : la machine produit la catégorie d’indésirables dont l’administration Trump a besoin ».

    Derrière ces transformations bien réelles, l’IA les prolonge encore, en s’en prenant à nos sens mêmes, jusqu’à nous faire douter de la réalité même.

    Derrière cette société délirante, il faut entendre qu’il y a une « utilisation infâme » des technologies. De la reconnaissance faciale qui criminalise les #minorités raciales aux logiciels de récidives qui discriminent les populations racisées aux scores de risques qui refusent des aides et des prêts aux populations minorisées et pauvres… une même #oppression se déploie pour renforcer et cimenter les #inégalités_structurelles de la société.

    Dans ce contexte, estime Arshin Adib-Moghaddam, on entend beaucoup parler d’#éthique, d’IA responsable, qui serait à même, bientôt, demain, de réparer les systèmes et « d’atténuer les dommages ». Mais l’IA peut-elle être éthique ?

    L’IA peut-elle être éthique ?

    Non répond le philosophe. L’IA est là pour imposer sa #terreur, comme le disaient Hagen Blix et Ingeborg Glimmer. L’IA est là pour produire de l’#incertitude, de l’#angoisse, et cette peur est une méthode de #gouvernance. « L’IA augmente la capacité de ceux qui l’utilisent à nous terrifier, dans un but de #contrôle, de #surveillance et de #profit ». L’écrivain iranien Jalal Al-e Ahmad parle de « #westoxification » (contraction entre West, l’Occident, et intoxication pour désigner une forme d’absorption toxique, de submersion par la #culture_occidentale – le terme a été traduit en français en « #occidentalité ») pour désigner l’oppression de la modernité occidentale, comme le chercheur et sociologue péruvien Anibal Quijano dénonce la « #colonialité », c’est-à-dire le fait que les rapports de pouvoir colonialistes perdurent notamment depuis les technologies.

    Dans son livre, Arshin Adib-Moghaddam commence par débugger le discours des machines éthiques. Les fondations idéologiques de la science sont dysfonctionnelles, rappelle le philosophe. La science a accompagné le projet politique de la #modernité, comme l’expliquaient Ulises A. Mejias et Nick Couldry dans Data Grab (voir notre recension). Les Lumières ont transformé le #racisme en science. Et l’IA n’est qu’une extension d’un #système_techno-colonial, remanié par le #néofascisme en cours.

    L’idée même d’éthique est poreuse à ces idées problématiques, explique-t-il. L’éthique se présente comme un mécanisme universel, mais oublie que cette philosophie qui pense pouvoir rendre nos machines et nos actions responsables, est une pensée spécifique, historique, contingente à la philosophie occidentale… Et qui l’est d’autant plus qu’elle a oublié les apports des autres philosophies. Arshin Adib-Moghaddam évoque nombre de philosophes asiatiques, arabes ou juifs effacés de la tradition philosophique au profit des philosophes grecs et européens. « Les façons de poser les questions éthiques autrement ont été balayées ». Pour les thuriféraires de l’IA, la vénération de sa puissance tourne à la #religion. Mais si la machine peut-être Dieu, ce #fondamentalisme s’annonce aussi dangereux que l’extrémisme religieux, prévient Arshin Adib-Moghaddam. Pourtant, qui s’inquiète de l’interfaçage des machines à nos cerveaux, du devenir posthumain que nous promettent les développeurs de l’IA ? Kant, Hume ou Locke, ces grands penseurs de l’Occident, ont tous tenu des propos racistes, ont tous défendu l’idée que les barbares devaient être civilisés par les Européens. Et ces grandes pensées occidentales sont celles-là même qui viennent alimenter de leurs données l’IA moderne. « L’IA est ethnocentrée et cet #ethnocentrisme ne sera pas corrigé par les données », par l’amélioration des traitements ou par un sursaut éthique. Les manuels d’éthique doivent être réécrits, estime Adib-Moghaddam, qui invite à partir d’autres philosophies pour bâtir d’autres IA.

    L’IA : machine à discriminer

    Arshin Adib-Moghaddam dénonce le terme de #biais qui a colonisé la critique de l’IA. Les biais sont un terme bien dépolitisé pour évoquer l’#oppression_structurelle inscrite dans les #données, dans notre histoire. Le racisme des sociétés occidentales a été intériorisé dans une « #géopolitique_eugéniste » qui ne domine pas seulement les relations internationales ou économiques, mais qui psycho-codifie jusqu’à nos corps et nos esprits. Le #racisme a été la stratégie impériale et scientifique qui a encore des effets quotidiens, qui inocule nos outils, comme la #médecine, qui tue encore des patientes et des patients parce qu’elles et ils sont noirs, parce qu’elles sont des femmes et parce que les #données_médicales ne sont pas collectées sur elles et eux. Les rapports et les études sur le sujet s’accumulent sans que la médecine elle-même ne réagisse vraiment, comme si elle ne s’était jamais départie des origines racistes de la science, que dénonçait par exemple le sociologue #Eduardo_Bonilla-Silva dans son livre Racism without Racists : Color-Blind Racism and the Persistence of Racial Inequality in the United States (Le racisme sans les racistes : le racisme indifférent à la couleur et la persistance des inégalités raciales en Amérique, Rowman & Littlefield , 2003, non traduit). Même durant le Covid, les quartiers racisés ont été plus décimés que les autres.

    On peut alors dénoncer les #biais_racistes des systèmes, de la reconnaissance faciale aux pratiques algorithmiques d’Uber. Mais c’est oublier que nous sommes cernés par des données algorithmiques « blanchisées » (#whitewashing), c’est-à-dire à la fois blanchies parce qu’ignorantes de la couleur de ceux qu’elles écartent et blanchies parce qu’elles masquent leurs dysfonctionnements raciaux. Nous sommes coincés entre un passé pollué et un présent problématique. Nous restons par exemple coincés dans les constats où les cancers de la peau sont plus importants pour les populations de couleurs alors qu’ils sont moins diagnostiqués pour les patients noirs que blancs. Ces données et ces erreurs pourtant ne sont pas corrigées, pas prises en compte. La perspective d’augmenter notre capture par des données n’annonce pourtant pas d’amélioration, au contraire, d’abord et avant tout parce que cette invasion doit être comprise pour ce qu’elle est : une extension de l’héritage de l’#eugénisme raciste de la #science, une forme d’expansion biopolitique du contrôle plus qu’une promesse de justice et d’égalité.

    Les mauvaises données produisent de mauvais algorithmes et de piètre systèmes d’IA, rappelle le philosophe. Or, nous sommes cernés de mauvaises données. Les #préjudices du passé envers certaines populations sont intégrés aux systèmes qui vont produire l’avenir. Cela ne peut pas bien se passer. Pourtant, fort de ces constats, terribles, les recommandations éthiques paraissent bien trop mesurées. Elles invitent à améliorer la représentation et la diversité des ingénieurs et des éthiciens, à améliorer les principes éthiques, à améliorer l’éducation des ingénieurs… dénonce Arshin Adib-Moghaddam. Autant de mesures qui tiennent plus de l’#orientalisme qu’autre chose, pour faire référence au concept développé par l’intellectuel palestino-américain Edward Saïd dans son livre éponyme (Le Seuil, 1978), ouvrage fondateur des études postcoloniales. Pour Saïd, la tradition artistique et scientifique orientaliste n’est qu’une étude de l’Orient par l’Occident, une interprétation de l’Orient, une condescendance au service de l’impérialisme.

    Du #techno-orientalisme au #privilège_épistémique

    Pour Arshin Adib-Moghaddam, le techno-orientalisme qui consiste à améliorer la diversité des développeurs ou à produire une équité par des corrections techniques n’est en rien une solution. ll ne remet pas en cause le pouvoir de la #technologie. « Les personnes historiquement marginalisées et vulnérables continuent à être inventées comme objets de la technologie ». Les erreurs à leurs égards, finalement, renforcent l’obsession à mieux les surveiller sous prétexte d’#objectivité, pour mieux hiérarchiser la société par le calcul. « Le techno-orientalisme ne vise qu’à renforcer les frontières entre nous et eux, l’est et l’ouest, les noirs et les blancs, entre les nationaux et les autres ». Shoshana Zuboff a montré que la tolérance à l’extrémisme est bien souvent un modèle d’affaire acceptable. Dans une étude sur la toxicité de Twitter, le Centre de lutte contre la haine numérique avait montré qu’une dizaine de comptes sur X pouvaient produire du contenu haineux et conspirationniste capable de rapporter… 19 millions de dollars en revenus publicitaires. « Le techno-orientalisme s’impose comme un incubateur pour l’expansion impériale afin de maximiser les revenus pour quelques personnes sélectionnées ». L’#impérialisme de X prolifère et impose sa #colonialité. Comme les projections de Mercator ont valorisé l’Occident, nous montrant un Groenland par exemple aussi grand que la Chine, quand en réalité il ne fait qu’un quart de la superficie de la Chine. L’impérialisme de X, comme l’impérialisme de l’IA rend possible un « privilège épistémique » qui « confère à une poignée d’hommes le privilège d’interpréter, de juger et de planifier l’avenir de la majorité ». Partout, une poignée d’hommes blancs parlent d’un avenir inévitable (le leur), utilisent ces outils pour diffuser leurs idées sans nuances, mégalomanes, patriarcale et coloniales influentes, sans se préoccuper du sort des autres. Derrière leurs idées rances, ils défendent avant tout leur #identité. Les néo-Nazis comme les terroristes d’ISIS tuent au nom de l’identité, comme le soulignait Paul Gilroy dans Against Race. Les médias sociaux sont devenus des paradis pour les fausses informations des extrémistes, où ils peuvent se faire les avocats de leurs agendas hystériques avec plus ou moins d’impunité. La #stupidité y est le meilleur capital, assène le philosophe.

    La coercition est forte avec les technologies. Microsoft et Google déploient des technologies de surveillance à l’encontre des Palestiniens. Saïd disait que la #déshumanisation des Palestiniens était l’un des grands héritage de l’orientalisme. Pour Arshin Adib-Moghaddam, une IA vraiment éthique devrait assurer que ses traitements et données soient auditables en accord avec les législation qui défendent les #droits_humains au niveau international, national et local. Le déploiement sans limite des technologies aux frontières, par la police et les militaires, nous montre qu’il n’en est rien.

    L’IA pour peaufiner l’oppression

    L’oppression structurelle, codifiée dans des institutions genrées et racistes, dans des normes politiques et sociales omniprésentes, s’apprête à entrer plus profondément dans nos esprits avec l’IA générative. Quand on pose des questions à ces moteurs, ils produisent certaines réponses qui sont le reflet des sociétés occidentales qui les produisent. A la question y-a-t-il un génocide à Gaza, #ChatGPT répond non. A la question peut-on torturer une personne, ChatGPT répondait par l’affirmative si cette personne venait d’Iran, de Corée du Nord ou de Syrie. Ces « #erreurs » qui n’en sont pas mais qui peuvent nous être présentées comme telles, sont bien sûr corrigées parfois. Les #modèles_de_langage galvanisent les préjudices raciaux comme le montrait l’étude menée par Valentin Hofmann (qu’on évoquait ici : ▻https://danslesalgorithmes.net/2024/06/04/open-source-lia) qui montrait que l’IA s’adapte aux niveaux de langage de son interlocuteur ou qu’elle classe les mêmes CV différemment selon les consonances culturelles des noms et prénoms. Mais ils ne sont que les reflets des sociétés qui les produisent. Les modèles de langage sont bien les produits racistes de sociétés racistes, affirme celui qui avait dénoncé le caractère raciste de l’IA dans un précédent livre. Les corrections sont possibles, au risque d’enseigner superficiellement aux modèles à effacer le racisme, tout en le maintenant à des niveaux plus profonds. « En fait, nous sommes confrontés par une forme furtive de #technoracisme soigneusement dissimulée par un univers d’IA de plus en plus opaque ». Dans ces IA, les musulmans sont toujours associés à la violence.

    Weizenbaum nous avait prévenu : les humains sont plus enclins à se confier à une machine qu’à un humain. Et ce pourrait être exploité plus avant par les machines de coercition de demain. La CIA a beaucoup travaillé sur les drogues et outils permettant de mettre les gens en confiance, rappelle Arshin Adib-Moghaddam. Si les méthodes d’interrogation utilisées à Abu Ghraib ont été sur la sellette, le Mikolashek Report montrait par exemple que les frontières entre la torture, les abus et les techniques d’interrogations dites légitimes étaient plus poreuses que strictes. A Abu Ghraib, la torture n’était pas un accident. Les individus qui ont été torturés n’étaient pas isolés. A Abu Ghraib, les interrogatoires ne devaient pas laisser de traces sur les prisonniers et le système médical a donné ses conseils aux militaires pour y parvenir. C’est lui qui a proposé des modalités d’interrogatoires coercitives. A Abu Ghraib comme à Guantanamo Bay, des procédures ont été mises en place, comme le fait d’empiler les prisionniers nus pour profiter du fort tabou de l’homosexualité dans la culture arabe et musulmane.

    Que fera l’IA qui est déjà appelée à assister les interrogatoires de la CIA ou de la police ? Aura-t-elle encore plus que les humains la capacité de briser notre humanité, comme s’en inquiétaient des chercheurs ? Sera-t-elle l’outil parfait pour la #torture, puisqu’elle pourra créer du contexte psychologique ou informationnel pour rendre les gens toujours plus vulnérables à la #manipulation, comme des #chatbots compagnons, dressés contre nous.

    La torture à Abu Ghraib a été rendu possible parce qu’elle a épousé totalement la culture de ceux qui l’ont pratiqué. « L’histoire récente de l’IA n’apporte aucune preuve que les systèmes d’IA soient plus objectifs que les humains, à mesure qu’ils déploient les mêmes biais qu’eux, avec bien moins de responsabilité ».

    L’IA pour pour penser à notre place et prendre le contrôle des esprits

    Pour le philosophe, le contrôle de l’esprit est le Graal des systèmes d’IA. Ce que veulent ceux qui déploient l’IA, c’est qu’elle prenne le contrôle des esprits.

    Mais, dans les systèmes de domination, la résistance apparaît souvent là où on ne l’attend pas, disait Anibal Quijano. Pourtant, souligne Arshin Adib-Moghaddam, la société civile ne regarde pas suffisamment ce qui se déploie, elle semble peu impliquée dans le très dynamique secteur de l’IA militaire. Face à l’inégalité de pouvoir entre utilisateurs de l’IA et producteurs d’IA qui se sédimente avec le déploiement et l’extension des outils d’IA partout, peu est fait pour nous protéger. L’érosion lente de la #vie_privée, l’objectivation posthumaine… nous éloignent de la dé-technologisation qu’appelle de ses vœux Carissa Véliz dans son livre, Privacy is Power (Penguin, 2021).

    Pour Adib-Moghaddam, nous devrions pourtant chercher à protéger notre humanité, plutôt que de chercher à flouter les différences entre l’homme et la machine, comme l’attendent les tenants du posthumanisme. Adib-Moghaddam souhaiterait un futur qui soit post-IA, dans lequel l’IA, au moins telle que nous la connaissons aujourd’hui, n’ait pas sa place. Tant que nous la laisserons exploiter les données passées nous laisserons construire une IA fondamentalement destructrice, extractive, qui perpétue l’#irrationalité et l’agenda des conservateurs et de l’extrémisme de droite, en exploitant les données pour renforcer les différences entre un nous et un eux dans lesquels personne ne se reconnaîtra autres que les plus privilégiés.

    La promesse d’une bonne IA est centrale dans l’approche éthique que pousse la Silicon Valley, enrôlant les meilleurs chercheurs avec elle, comme ceux du MIT, du Berkman Klein Center for internet et society de Harvard. Leur travail est remarquable, mais la poursuite d’une IA éthique ne nous aide pas à trouver des restrictions au déploiement de technologies qui maximalisent la #surveillance_de_masse et la #violence_systémique. « Tant qu’il n’existera pas de #restrictions, les délibérations morales et politiques sur l’informatisation demeureront secondaires par rapport à l’impératif de profit ».

    A l’heure de l’IA, la lutte pour la #démocratie risque d’être plus essentielle que jamais et plus difficile que jamais. Le mythe de la bonne IA nous promet un monde dont les fondations et constructions sociales ne changeront pas. « L’âge de l’IA nous promet un rapport léthargique et résigné au monde ». C’est sans surprise que ceux qui refusent cette IA là sont qualifiés d’être irrationnels, radicaux ou idéalistes… Mais ne soyons pas dupes. « Il est plus facile de prendre le parti des puissants à l’heure de l’IA, alors que nous devrions prendre la direction inverse ». « Les technologies d’IA sont un danger pour nos démocraties car elles inhibent nos choix en donnant de l’impulsion aux seuls extrêmes ». Elles nous confinent dans un espace de pensée restreint. Pour Arshin Adib-Moghaddam, il nous faut reconnaître notre humanité, une humanité qui ne peut être programmée par des machines qui ne seront jamais sensibles.

    Être humain, c’est savoir se protéger

    Être humain signifie savoir se protéger de la pénétration, c’est-à-dire un droit à être laissé tranquille, seul. Nous devons réaffirmer la nécessité d’un « bouclier de la vie privée ». La critique féministe et décoloniale nous donne des armes, comme le fait Françoise Vergès par exemple en croisant les deux. Ressentir, penser, percevoir ou croire doivent rester des valeurs humaines, sans altération des machines. C’est notre #intimité même que tente d’envahir le complexe industriel de l’IA.

    Ainsi par exemple, être créatif c’est indubitablement être humain. La #créativité des machines n’est qu’un effort pour rendre confus nos sens et émotions, au profit du profit et dans une aversion de l’art comme un comportement insurrectionnel. Psycho-codifiés, TikTok, FB ou X sont des moyens d’envahir nos sanctuaires intérieurs. Les machines peuvent faire n’importe quelle tâche sans ressentir la douleur et la discipline nécessaire que l’auto-amélioration nécessite. D’où des productions sans âme, « inutiles pour l’émancipation sociale comme politique ». En associant l’art au seul profit, la matrice technologique propose de faire suffoquer l’essence même de l’art, comme s’il n’était qu’une extension technologique, qu’un moyen de contrôler la subjectivité humaine.

    De quelque endroit qu’on l’analyse, l’IA ne nous offrira aucun antidote à l’#impéralisme, au #colonialisme et à l’#extrémisme. « Nous sommes tous devenus les objets du #colonialisme_des_données extraites de nos corps mêmes ». Le colonialisme était horizontal, géopolitique dans son expansion. Le colonialisme des données, lui, est intimement vertical. Il vise à objectifier des individus vulnérables au profit des sociétés technologiques du Nord global. Les grandes entreprises exigent de nous psycho-codifier en permanence et partout. Arshin Adib-Moghaddam défend un manifeste post-IA qui seul peut gagner la bataille entre le poète et la machine, le stylo et l’épée, le modérateur biaisé et l’activiste paisible. Nous avons besoin de #justice et d’#émancipation_sociale, rien d’autre. Ce qui n’y œuvre pas n’a pas d’intérêt. L’#ignorance, l’#évitement et la #passivité que nous promettent l’IA et ses tenants, ne nous proposent aucun avenir. « Si nous avons besoin d’une bonne IA, nous avons besoin d’une bonne IA qui réponde à nos termes », qui puisse nous permettre de reprogrammer le futur plutôt que de subir la perpétuation du passé.

    Être humain, c’est savoir se protéger. Et face aux machines, l’enjeu est encore de le pouvoir.

    ►https://danslesalgorithmes.net/2025/12/11/le-mythe-de-la-bonne-ia
    #décolonial #IA #AI #intelligence_artificielle

    CDB_77
    Écrire un commentaire
  • @cdb_77
    CDB_77
    10
    @reka
    @kassem
    @inadvertance
    @simplicissimus
    @colporteur
    @7h36
    @monolecte
    @sombre
    @marcimat
    @02myseenthis01
    10

    AI Is Inventing Academic Papers That Don’t Exist — And They’re Being Cited in Real Journals

    The proliferation of references to fake articles threatens to undermine the legitimacy of institutional research across the board.

    As the fall semester came to a close, Andrew Heiss, an assistant professor in the Department of Public Management and Policy at the Andrew Young School of Policy Studies at Georgia State University, was grading coursework from his students when he noticed something alarming.

    As is typical for educators these days, Heiss was following up on citations in papers to make sure that they led to real sources — and weren’t fake references supplied by an AI chatbot. Naturally, he caught some of his pupils using generative artificial intelligence to cheat: not only can the bots help write the text, they can supply alleged supporting evidence if asked to back up claims, attributing findings to previously published articles. But, as with attorneys who have been caught generating briefs with AI because a model offered false legal precedents, students can end up with plausible-sounding footnotes pointing to academic articles and journals that don’t exist.

    That in itself wasn’t unusual, however. What Heiss came to realize in the course of vetting these papers was that AI-generated citations have now infested the world of professional scholarship, too. Each time he attempted to track down a bogus source in Google Scholar, he saw that dozens of other published articles had relied on findings from slight variations of the same made-up studies and journals.

    “There have been lots of AI-generated articles, and those typically get noticed and retracted quickly,” Heiss tells Rolling Stone. He mentions a paper retracted earlier this month, which discussed the potential to improve autism diagnoses with an AI model and included a nonsensical infographic that was itself created with a text-to-image model. “But this hallucinated journal issue is slightly different,” he says.

    That’s because articles which include references to nonexistent research material — the papers that don’t get flagged and retracted for this use of AI, that is — are themselves being cited in other papers, which effectively launders their erroneous citations. This leads to students and academics (and any large language models they may ask for help) identifying those “sources” as reliable without ever confirming their veracity. The more these false citations are unquestioningly repeated from one article to the next, the more the illusion of their authenticity is reinforced. Fake citations have turned into a nightmare for research librarians, who by some estimates are wasting up to 15 percent of their work hours responding to requests for nonexistent records that ChatGPT or Google Gemini alluded to.

    Heiss also noticed that the AI-generated notes could be convincing to a reader because they included the names of living academics and titles that closely resemble existing literature. In some cases, he found, the citation led him to an actual author, yet the heading of the article and the journal were both fabricated — they just sounded similar to work the author has published in the past and a real periodical that covers such topics. “The AI-generated things get propagated into other real things, so students see them cited in real things and assume they’re real, and get confused as to why they lose points for using fake sources when other real sources use them,” he says. “Everything looks real and above-board.”

    Since LLMs have become commonplace tools, academics have warned that they threaten to undermine our grasp on data by flooding the zone with fraudulent content. The psychologist and cognitive scientist Iris van Rooij has argued that the emergence of AI “slop” across scholarly resources portends nothing less than “the destruction of knowledge.” In July, she and others in related fields signed an open letter calling on universities to resist the hype and marketing in order to “safeguard higher education, critical thinking, expertise, academic freedom, and scientific integrity.” The authors claimed that schools have “coerced” faculty into using AI or allowing it in their classes, and they asked for a more rigorous, comprehensive analysis of whether it can have any useful role in education at all.

    Anthony Moser, a software engineer and technologist, was among those who foresaw how chatbots could eventually hollow out educational institutions. “I’m imagining an instructor somewhere making a syllabus with ChatGPT, assigning reading from books that don’t exist,” he wrote in a post on Bluesky in 2023, less than a year after the AI model first came out. “But the students don’t notice, because they are asking ChatGPT to summarize the book or write the essay.” This month, Moser reshared that post, commenting: “I wish it had taken longer for this to become literally true.”

    Moser tells Rolling Stone that to even claim LLMs “hallucinate” fictional publications misunderstands the threat they pose to our comprehension of the world, because the term “implies that it’s different from the normal, correct perception of reality.” But the chatbots are “always hallucinating,” he says. “It’s not a malfunction. A predictive model predicts some text, and maybe it’s accurate, maybe it isn’t, but the process is the same either way. To put it another way: LLMs are structurally indifferent to truth.”

    “LLMs are pernicious because they’re essentially polluting the information ecosystem upstream,” Moser adds. “Nonexistent citations show up in research that’s sloppy or dishonest, and from there get into other papers and articles that cite them, and papers that cite those, and then it’s in the water,” he says, likening this content to like harmful, long-lasting chemicals: “hard to trace and hard to filter out, even when you’re trying to avoid it.” Moser calls the problem “the entirely foreseeable outcome of deliberate choices,” with those who raised objections “ignored or overruled.”

    But AI can’t take all the blame. “Bad research isn’t new,” Moser points out. “LLMs have amplified the problem dramatically, but there was already tremendous pressure to publish and produce, and there were many bad papers using questionable or fake data, because higher education has been organized around the production of knowledge-shaped objects, measured in citations, conferences, and grants.”

    Craig Callender, a philosophy professor at the University of California San Diego and president of the Philosophy of Science Association, agrees with that assessment, observing that “the appearance of legitimacy to non-existent journals is like the logical end product of existing trends.” There are already journals, he explains, that accept spurious articles for profit, or biased ghost-written research meant to benefit the industry that produced it. “The ‘swamp’ in scientific publishing is growing,” he says. “Many practices make existing journals [or] articles that aren’t legitimate look legitimate. So the next step to non-existent journals is horrifying but not too surprising.”

    Adding AI to the mix means that “swamp” is growing fast, Callender says. “For instance, all of this gets compounded in a nearly irreversible way with AI-assisted Google searches. These searches will only reinforce the appearance that these journals exist, just as they currently reinforce a lot of disinformation.”

    All of which contributes to a feeling among researchers that they’re being buried in an avalanche of slop, with limited capacity to sift through it. “It’s been incredibly disheartening for faculty, I think fairly universally, especially as fake content gets accidentally enshrined in public research databases,” says Heiss. “It’s hard to work back up the citation chain to see where claims originated.”

    Of course, many aren’t even trying to do that — which is why the phony stuff has been so widely disseminated. It’s almost as if the uncritical and naive adoption of AI has made us more credulous and sapped our critical thinking at the precise moment we should be on guard against its evolving harms. In fact, someone may be toiling away on a (real) study of that phenomenon right now.

    ▻https://www.rollingstone.com/culture/culture-features/ai-chatbot-journal-research-fake-citations-1235485484
    #IA #AI #intelligence_artificielle #édition_scientifique #science #ESR #université #citations #chatbot #références #faux #erreurs

    –-

    ajouté à la #métaliste sur la #publication_scientifique*:
    ►https://seenthis.net/messages/1036396

    CDB_77
    Écrire un commentaire
  • @aurelieng
    aurelieng CC BY
    1
    @raphael4
    1
    aurelieng CC BY
    Écrire un commentaire
  • Écrire un commentaire
  • Écrire un commentaire
  • @klaus
    klaus++

    MIA : Paul Lafargue : ’Le droit à la paresse’ (1880)
    ►https://www.marxists.org/francais/lafargue/works/1880/00/lafargue_18800000.htm

    Depuis 1880 on ne constate pas de progrès notable dans la pensée socialiste révolutionnaire. Le peuple de la RDA formé aux théories marxistes a trouvé une jolie parodie pour décrire l’erreur du marxisme travailliste réactionnaire de ses dirigeants.

    Question : Qu’est-ce le capitalisme ?
    Réponse : L’exploitation de l’Homme par l’Homme.
    Question : Qu’est-ce le socialisme ?
    Réponse : Le contraire.

    M. Thiers, dans le sein de la Commission sur l’instruction primaire de 1849, disait : "Je veux rendre toute-puissante l’influence du clergé, parce que je compte sur lui pour propager cette bonne philosophie qui apprend à l’homme qu’il est ici-bas pour souffrir et non cette autre philosophie qui dit au contraire à l’homme : « Jouis »." M. Thiers formulait la morale de la classe bourgeoise dont il incarna l’égoïsme féroce et l’intelligence étroite.

    La bourgeoisie, alors qu’elle luttait contre la noblesse, soutenue par le clergé, arbora le libre examen et l’athéisme ; mais, triomphante, elle changea de ton et d’allure ; et, aujourd’hui, elle entend étayer de la religion sa suprématie économique et politique. Aux XVe et XVIe siècles, elle avait allègrement repris la tradition païenne et glorifiait la chair et ses passions, réprouvées par le christianisme ; de nos jours, gorgée de biens et de jouissances, elle renie les enseignements de ses penseurs, les Rabelais, les Diderot, et prêche l’abstinence aux salariés. La morale capitaliste, piteuse parodie de la morale chrétienne, frappe d’anathème la chair du travailleur ; elle prend pour idéal de réduire le producteur au plus petit minimum de besoins, de supprimer ses joies et ses passions et de le condamner au rôle de machine délivrant du travail sans trêve ni merci.

    Les socialistes révolutionnaires ont à recommencer le combat qu’ont combattu les philosophes et les pamphlétaires de la bourgeoisie ; ils ont à monter à l’assaut de la morale et des théories sociales du capitalisme ; ils ont à démolir, dans les têtes de la classe appelée à l’action, les préjugés semés par la classe régnante ; ils ont à proclamer, à la face des cafards de toutes les morales, que la terre cessera d’être la vallée de larmes du travailleur ; que, dans la société communiste de l’avenir que nous fonderons « pacifiquement si possible, sinon violemment », les passions des hommes auront la bride sur le cou : car « toutes sont bonnes de leur nature, nous n’avons rien à éviter que leur mauvais usage et leurs excès », et ils ne seront évités que par leur mutuel contrebalancement, que par le développement harmonique de l’organisme humain, car, dit le Dr Beddoe, « ce n’est que lorsqu’une race atteint son maximum de développement physique qu’elle atteint son plus haut point d’énergie et de vigueur morale ». Telle était aussi l’opinion du grand naturaliste, Charles Darwin.

    La réfutation du Droit au travail, que je réédite avec quelques notes additionnelles, parut dans L’Égalité hebdomadaire de 1880, deuxième série.

    #socialisme #marxisme #travail #éthique

    klaus++
    Écrire un commentaire
  • Écrire un commentaire
  • Écrire un commentaire
  • @hlc
    Articles repérés par Hervé Le Crosnier CC BY
    1
    @fsoulabaille
    1

    The fall of a prolific science journal exposes the billion-dollar profits of scientific publishing | Science | EL PAÍS English
    ►https://english.elpais.com/science-tech/2025-11-28/the-fall-of-a-prolific-science-journal-exposes-the-billion-dollar-pr
    ▻https://imagenes.elpais.com/resizer/v2/B6H237EPS5CO3HHJJSSAYICUCI.JPG?auth=6aa5a83b85e99515532c0ac15cd04fd

    Un très bel exemple de la dérive des publications scientifiques ; Avec la fin du « communalisme » scientifique prôné par R.K. Merton, nous retrouvons l’avidité du gain. Il n’y a pas forcément de raison qu’elle soit différente chez les scientifiques que chez les industriels.

    Manuel Ansede
    Madrid - NOV 28, 2025 - 15:39 GMT+1

    With humanity terrified by the deadly second wave of the coronavirus, in the fall of 2020, a scientific journal published a study with a solution: jade amulets from traditional Chinese medicine could prevent COVID-19. The proposal was outlandish, but the editor-in-chief of the weekly, Spanish chemist Damià Barceló, defended its quality controls. That journal, Science of the Total Environment — one of the 15 that publishes the most studies worldwide — has just been expelled from the group of reputable publications by one of the leading evaluation companies, after dozens of irregular articles were discovered. The scandal exposes the windfall profits of scientific publishers, who in recent years have amassed billions of dollars in earnings from public funds earmarked for science.

    Damià Barceló, 71, took over as editor of the journal in 2012. In just two years, he doubled the number of studies published. In a decade, he increased the number tenfold, with the journal reaching nearly 10,000 articles annually. As the number of articles increased, the quality declined, because there was a perverse incentive to accept mediocre work: to publish research open access in the journal, a scientist has to pay $4,150 plus taxes.

    Emilio Delgado, professor of documentation at the University of Granada in Spain, explains it this way: “It’s clearly an open-door journal that takes almost anything. It’s what I call a mega-journal, that is, a mega-business.” The publication belongs to the Dutch publishing giant Elsevier, which dominates the world of science publishing, with a 17% share of the global market. Its 3,000 journals published 720,000 studies last year. Swedish businessman Erik Engstrom, CEO of RELX (the multinational that owns Elsevier), earned more than €15 million ($17.4 million) in 2024 between his salary and other compensation.

    Delgado and his colleague Alberto Martín analyzed the unusual behavior of the mega-journal at the request of EL PAÍS. Of all the studies published in Science of the Total Environment, 40% are by Chinese authors and 8% are by Spanish authors — percentages that are double the usual ratio in the subject area. The third institution that publishes the most articles in this journal, after two Chinese organizations, is the Spanish National Research Council (CSIC), Spain’s largest scientific organization, where Barceló himself worked until his retirement last year. “With these patterns, one might consider the possibility of publication fraud, but this is speculation,” says Delgado.
    Chemist Damià Barceló, at the University of Almería, in May 2022.UAL

    The scientific system operates in a controversial way. Researchers’ funding and promotions depend largely on the number of studies they publish in journals, which are validated by a handful of private companies. One of these companies, the London-based multinational Clarivate, removed Science of the Total Environment from its database on November 18. “The journal was removed because it no longer meets our publicly available quality criteria,” explained a spokesperson, who declined to offer further details.

    In theory, the quality of scientific journals is safeguarded by anonymous experts who voluntarily review manuscripts to determine whether they should be published. In Science of the Total Environment, this system was allegedly compromised. The publisher Elsevier itself has retracted some 50 studies published by the Brazilian biologist Guilherme Malafaia, after discovering that his work had been “reviewed” through fake peer reviews signed with the names of real scientists without their consent — as was the case with an article on coronavirus in fish and another on the toxicity of a herbicide in turtles. Malafaia and Barceló are co-authors on several studies on microplastic pollution, but these shared investigations have not yet been retracted.

    The four major scientific publishers — Elsevier, Springer Nature, Wiley, and Taylor & Francis — earned more than $7 billion in 2024, with profit margins unimaginable in almost any other industry, exceeding 30%, according to a new analysis led by British anthropologist Dan Brockington of the Autonomous University of Barcelona. This collective windfall is explained by the “publish or perish” system — which rewards improbably prolific scientists who produce a study every two days — as well as a shift in the industry’s business model. Previously, readers paid subscription fees to access quality journals. Now, amid the push for open access to science, it is the authors themselves who must pay to have their research published so that others can read it for free. This perverse incentive — whereby both scientists and journals earn more the more they publish, regardless of quality — has fueled a flood of millions of low-quality studies.

    Elsevier is the publisher that publishes the most studies and earns the most, with a 38% profit margin ($1.5 billion in 2024), according to the analysis by Brockington and his colleagues. The researchers call for efforts to “dismantle the system” that sees billions of dollars of public money being spent on publishing empty studies for the exclusive benefit of private companies. According to their calculations, Elsevier, Springer Nature, Wiley, and Taylor & Francis have received more than $14 billion in profits over the last six years. Among the co-authors of the analysis is the Spanish engineer Pablo Gómez Barreiro, from the Royal Botanic Gardens, Kew, in southern England.

    An Elsevier spokesperson defended the company’s actions. “We uphold the highest standards of rigor and ethics in our publishing to protect the quality and integrity of research,” they stated. The publisher conducted an initial investigation that resulted in dozens of retractions in Science of the Total Environment, officially due to the fraudulent peer review of articles. “We are now undertaking a broader investigation focused on conflicts of interest, as well as reviewing papers flagged for other potential indicators of misconduct,” the spokesperson added. The publisher intends to “fully rehabilitate” the journal.

    Damià Barceló is a hyper-prolific scientist, one of those who publishes a new study every five days or even less. He has authored some 1,800 papers in his lifetime, more than 200 of them in Science of the Total Environment, his own journal. His name appears numerous times as editor of his own studies, such as one on drugs in wastewater in Mexico and another on chemical pollution in the Ebro and Guadalquivir rivers in Spain.

    The Elsevier spokesperson explained that Barceló “stepped down” as editor-in-chief in March 2025. “This change was part of a broader effort to strengthen the journal’s governance and address concerns raised,” the spokesperson stated. Elsevier maintains that the “systemic problems” that led to the expulsion of Science of the Total Environment “cannot be attributed to any single individual.” EL PAÍS requested a comment from Barceló, both via his personal WhatsApp and the email address associated with his current position as honorary professor at the University of Almería, but did not receive a response.
    Damià Barceló, director of ICRA, has been awarded the prestigious Prince Sultan Bin Abdulaziz International Water Prize of Saudi Arabia, which is awarded every two years
    In 2013, chemist Damià Barceló received a prize of $133,000 from Saudi King Salman bin Abdulaziz.ICRA

    Barceló’s prolific output helped him enter the Highly Cited Researchers list, a ranking compiled by the multinational Clarivate that includes some 7,000 researchers worldwide. The more highly-cited researchers a university has, the higher it ranks in the influential Shanghai Ranking, which designates the supposedly best academic institutions in the world. An investigation by EL PAÍS revealed in 2023 that Saudi Arabia offered bribes of up to €70,000 ($81,000) a year to highly-cited scientists to falsify their affiliations in Clarivate’s database, claiming they worked at an Arab university in order to boost those institutions in the ranking.

    Damià Barceló had been listed as a professor at Saudi Arabia’s King Saud University since 2016, despite his primary role being director of the Catalan Institute for Water Research in Girona, Spain. Barceló told this newspaper at the time that he had not been receiving the €70,000 annual salary. In 2013, the Spanish chemist received a $133,000 award from Saudi King Salman bin Abdulaziz for his research on water contaminants.

    Spanish universities, like those in other countries, have become places where producing research papers is prioritized above all else, almost like a large-scale factory farm that churns out studies, according to Emilio Delgado and Alberto Martín, bibliometrics experts at the University of Granada. Professors with completely inflated CVs have risen to full professorships or even rectors. Spurred by various international manifestos, the National Agency for Quality Assessment and Accreditation (ANECA) —the Spanish agency that decides whether a university professor can be promoted or deserves salary increases — has changed its criteria to stop evaluating scientists based on sheer volume.

    The president of the Spanish Research Ethics Committee, Dr. Jordi Camí, has called for further action. “We must clean up this mess,” he proclaimed at a conference in Barcelona on November 6. In his opinion, “we must continue to introduce measures to discourage, almost penalize, publishing for the sake of publishing.”

    #Revues_scientifiques #Science #Ethique #Elsevier

    Articles repérés par Hervé Le Crosnier CC BY
    Écrire un commentaire
  • @cdb_77
    CDB_77

    L’#édition_scientifique en #France : de la #censure à l’#ouverture : révolutions politiques, commerciales, technologiques… et autres problèmes éthiques

    A travers une analyse systémique de l’édition scientifique en France – et plus particulièrement via une étude des contextes historiques, socio-économiques et politique – cet article soulève les problématiques éthiques qui ont jalonné la construction de l’écosystème scientifique et l’exploitation des produits de la #recherche, et livre une réflexion sur les défis éthiques liés à la mise en place depuis 2018 de la politique de la #Science_Ouverte mais aussi des conséquences directes que cela va avoir sur les pratiques des chercheurs.

    ▻https://www.unilim.fr/interfaces-numeriques/5262
    #éthique #ESR #université

    –-

    ajouté à la métaliste sur la #publication_scientifique* :
    ►https://seenthis.net/messages/1036396

    CDB_77
    Écrire un commentaire
  • @hlc
    Articles repérés par Hervé Le Crosnier CC BY

    Research | Neurorights
    ▻https://www.neurorightsfoundation.org/research

    https://static.wixstatic.com/media/fee746_a48fa7cedb9f4eee9fb716447bef01d6%7Emv2.png/v1/fit/w_2500,h_1330,al_c/fee746_a48fa7cedb9f4eee9fb716447bef01d6%7Emv2.png

    Une série d’articlesd sur les neurotechnologies et les questions éthiques et de droit à la protection des données cérébrales.
    Par une fondation US (financée par Omydiar et Sloan Foundations)

    #Neurotechnologies #Ethique #Vie_privée

    Articles repérés par Hervé Le Crosnier CC BY
    Écrire un commentaire