Nouvelle frontière des droits: Neurocapitalisme et données neurales - Migalhas
▻https://www.migalhas.com.br/coluna/humanidades-e-novas-tecnologias/433967/nouvelle-frontiere-des-droits-neurocapitalisme-et-donnees-neurales
Humanidades e Novas Tecnologias
La Nouvelle Frontière des Droits Fondamentaux et Humains, Neurocapitalisme et la Marchandisation des Données Neurales
Paola Cantarini
sexta-feira, 4 de julho de 2025
Atualizado em 3 de julho de 2025 11:42
Compartilhar
facebook
twitter
linkedin
whatsapp
e-mail
curtir0
ComentarComentar
Siga-nos noGoogle News
A
A
Première partie
En nous fondant sur des auteurs tels que Sandra Wachter, Brent Mittelstadt (« A Right to Reasonable Inferences : Re-Thinking Data Protection Law in the Age of Big Data and AI. » Columbia Business Law Review, 2019, ▻https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3248829), Helen Nissenbaum (« Privacy in Context : Technology, Policy, and the Integrity of Social Life. » Stanford University Press, 2010), Luciano Floridi (« Group Privacy : A Defence and an Extension. » Philosophy & Technology, 2014. ▻https://link.springer.com/article/10.1007/s13347-014-0157-2), Daniel Solove et sa théorie sur le processus informationnel approprié lié à la protection de la vie privée (Daniel J. Solove, « The Digital Person : Technology and Privacy in the Information Age. », 2004), ainsi qu’en nous appuyant sur Habermas et Martha Nussbaum, nous affirmons la nécessité d’une nouvelle « Déclaration des droits de l’homme » et de la reformulation de ses fondements pour s’adapter au contexte « onlife » et apporter une approche adaptée à l’intelligence artificielle, car il n’est pas possible de combattre les problèmes actuels en s’appuyant sur des prémisses dépassées, comme la démocratie libérale, c’est-à-dire dans le paradigme libéral.
Il faut repenser le modèle démocratique face à la réduction du nombre de pays démocratiques (Freedom House Report, 2024. Freedom in the World 2024 : The Mounting Damage of Flawed Elections and Disinformation. Washington, DC, ▻https://freedomhouse.org/report/freedom-world/2024/mounting-damage-flawed-elections), puisque seulement 29% de la population mondiale vit sous des régimes démocratiques, avec une baisse pour la 18e année consécutive de la liberté mondiale, une augmentation de l’écart entre pays riches et pauvres (« A Matter of Choice - Human Development Report », 2025 - UNDP/PNUD - Human Development Report 2025 : A Matter of Choice - Reimagining the Future of Human Development in an Age of Uncertainty. New York : UNDP. ▻https://hdr.undp.org/system/files/documents/global-report-document/hdr2025reporten.pdf), une augmentation de la concentration des richesses, une stagnation mondiale de l’Indice de Développement Humain (IDH) et un approfondissement des inégalités numériques et démocratiques, outre l’insuffisance des interprétations encore dominantes comme celle qui prévaut aux États-Unis concernant le 1er Amendement de la Constitution, fondant une conception absolutiste de l’amendement et du droit à la liberté d’expression, dans un anachronisme historique qui n’est pas attentif au changement de l’être humain, de la réalité sociale et des dynamiques du pouvoir, des médias sociaux et qui n’est pas attentif à la Théorie des Droits Fondamentaux qui fonde la pondération nécessaire entre droits fondamentaux en collision.
Contrairement à ce que soutient par exemple Cass R. Sunstein (« #Republic_ Divided Democracy in the Age of Social Media », Princeton University Press, 2017), nous avons besoin d’une pensée disruptive, innovante, particulièrement dans les sciences humaines, comme le soutient également Glauco Arbix (Revista USP/IEA, 2024, IA et recherche scientifique), et de solutions plus que ponctuelles ou incrémentelles.
Le XXIe siècle présente des défis inédits à la dignité humaine qui transcendent les catégories traditionnelles des droits de l’homme établies dans l’après-guerre. La révolution numérique, les avancées en neurosciences, l’intelligence artificielle et les nouvelles formes d’organisation sociale ont créé des lacunes normatives qui exigent une reformulation profonde du cadre juridico-philosophique des droits fondamentaux et humains. Il est urgent de reconnaître de nouveaux droits humains émergents et de construire une nouvelle « Déclaration des Droits de l’Homme » adaptée aux réalités contemporaines, fondée sur les travaux de penseurs contemporains qui ont consacré leurs carrières à comprendre et répondre à ces défis. Une telle postulation va donc à l’encontre de ce que dispose le premier traité international sur l’IA contraignant, lequel malgré son importance présente encore des lacunes préoccupantes, notamment il ne traite pas des applications militaires de l’IA, ni n’interdit expressément les usages à haut risque comme les systèmes de reconnaissance faciale de masse, laissant une marge pour l’autorégulation (art. 18) et ne crée pas de nouveaux droits humains (art. 13) (Council of Europe. (2024). Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law (CETS No. 225). ▻https://www.coe.int/en/web/artificial-intelligence/convention).
Les innovations rapides en neurosciences et interfaces cerveau-machine (Brain-Computer Interfaces - BCIs) inaugurent une nouvelle frontière dans le domaine des droits de l’homme. Les technologies capables de lire, décoder, manipuler et stimuler l’activité cérébrale mettent en péril l’autodétermination mentale, la vie privée cognitive et l’intégrité psychique des individus. La littérature contemporaine identifie déjà la nécessité d’une nouvelle génération de droits fondamentaux et humains - les neurodroits - comme réponse normative à de tels défis (Yuste et al., 2017 ; Ienca & Andorno, 2017).
Le neurocapitalisme représente une nouvelle configuration de pouvoir dans laquelle les données cérébrales sont extraites, stockées, traitées et commercialisées dans un but lucratif, amplifiant les asymétries déjà existantes et profondes entre individus et entreprises.
Comme l’alerte Frank Pasquale (2015), nous sommes face à une transition d’une « société de l’information » vers une « société de surveillance neurocognitive », dans laquelle la collecte de données s’étend des activités en ligne aux processus mentaux internes.
L’avancée des neurotechnologies exige une profonde mise à jour du catalogue des droits fondamentaux et humains. La vie privée cérébrale, le droit au rêve et la limitation du neurocapitalisme ne sont que les premières expressions de cette transformation normative nécessaire.
La reconnaissance des neurodroits représente non seulement une réponse aux risques émergents, mais aussi un engagement éthique pour la préservation de l’autonomie, de la dignité et de la liberté cognitive des individus dans un monde de plus en plus invasif et neuroinformationnel.
Le droit à la vie privée cérébrale se réfère à la protection juridique de l’activité électrique, chimique et fonctionnelle du cerveau, incluant les données dérivées de sa captation, analyse et inférence par les technologies neuroscientifiques. Il s’agit d’un prolongement direct de la protection des données personnelles, mais avec un degré de sensibilité et de risque inédit.
L’activité neurale contient des informations sur les émotions, croyances, mémoires et même les intentions futures. Un tel contenu, s’il est accessible sans consentement ou traité de manière inadéquate, peut violer les droits à l’intimité, à l’autodétermination informationnelle et à la liberté de pensée, configurant une nouvelle forme de surveillance cognitive (Ienca & Andorno, 2017).
Parmi les principaux nouveaux droits humains et fondamentaux se distinguent les neurodroits, exigeant une protection juridique de l’esprit humain, comme le dispose Rafael Yuste, directeur du Centre de Neurotechnologie de l’Université de Columbia et président de la NeuroRights Foundation, et principal architecte théorique des neurodroits. Yuste, qui fut également l’un des concepteurs de la BRAIN Initiative lancée par le président Obama en 2013, soutient que l’avancée des neurotechnologies requiert une protection juridique spécifique de l’esprit humain, soulignant l’urgence temporelle de la mise en ouvre des neurodroits. Dans ses mots à l’UNESCO : « Il faut agir avant qu’il ne soit trop tard ». Cette urgence découle du fait que les neurotechnologies se développent exponentiellement, et la fenêtre d’opportunité pour établir des protections légales proactives se ferme rapidement.
Les neurodroits sont un ensemble émergent de droits fondamentaux qui visent à protéger l’intégrité, l’autonomie et la liberté mentale des individus face à l’avancée des neurotechnologies et de l’interface directe entre cerveau et machine (Brain-Computer Interfaces - BCIs), outre les technologies de lecture, manipulation ou altération de l’activité cérébrale.
Selon Yuste, les neurodroits fondamentaux sont (Yuste, R., Goering, S., et al., « Four ethical priorities for neurotechnologies and AI. », 2017, Nature, 551(7679), 159-163) :
Droit à la Vie Privée Mentale : La protection des informations personnelles obtenues par les neurotechnologies (neurodonnées) contre le décodage sans consentement préalable ;
Droit à l’Identité Mentale : Le droit à la conscience et au maintien de l’identité personnelle contre les altérations non autorisées par des interventions neurotechnologiques ;
Droit à la Liberté Cognitive (Cognitive Liberty)/Droit à l’Agentivité : La protection de l’autonomie de la volonté et de la capacité de prise de décisions libres ;
Droit à l’Intégrité Mentale/Droit au Libre Arbitre : La préservation de la capacité de choix indépendant contre les manipulations neurales ;
Droit à l’Amélioration Cognitive : La liberté de choisir d’utiliser ou de refuser les technologies d’amélioration mentale ;
Droit à la Non-Discrimination Algorithmique Basée sur les Données Neurales (Fair Access to Mental Augmentation).
Parmi les initiatives législatives et constitutionnelles dans le monde, il y a le pionniérisme du Chili, comme premier pays à initier la constitutionnalisation des neurodroits en incluant dans sa réforme constitutionnelle de 2021 le droit à l’intégrité physique et mentale et à la protection des données neurales comme droits fondamentaux explicites dans la Constitution (▻https://www.bcn.cl/leychile). Dans l’Union européenne, le thème apparaît déjà dans les débats du Conseil européen de bioéthique, dans l’AI Act et dans l’AI Liability Directive, avec une préoccupation concernant l’IA et la manipulation des processus cognitifs.
Aux États-Unis, il y a des projets de loi en débat, spécialement au niveau étatique (ex. : Californie), et des discussions dans le cadre de la Neuroethics Initiative des National Institutes of Health (NIH).
L’UNESCO dans la Recommandation sur l’Éthique de l’Intelligence Artificielle - 2021 inclut le thème de la protection de la vie privée mentale comme partie de l’agenda éthique pour l’IA.
Le XXIe siècle est marqué par l’émergence de technologies capables d’accéder, décoder et manipuler l’activité cérébrale humaine. Les interfaces cerveau-machine, dispositifs de neurostimulation et techniques de neuromarketing avancé configurent un scénario où les frontières entre pensée, décision et intervention externe deviennent de plus en plus ténues. Un tel contexte exige un élargissement urgent du catalogue des droits fondamentaux et humains, incorporant des neurodroits qui protègent l’autonomie, la dignité cognitive et la liberté mentale.
Le concept de neurocapitalisme, tel que délimité par Rafael Yuste (2021) et élargi par des auteurs comme Marcello Ienca (2017), peut être conceptualisé comme le système économique émergent basé sur l’extraction, le traitement et la monétisation de données neurales pour la création de valeur économique par la prédiction et modification d’états mentaux, comportements et décisions. En d’autres termes, c’est un modèle émergent d’exploitation commerciale de l’activité cérébrale.
Différemment du capitalisme de surveillance traditionnel, qui infère les états mentaux par des comportements observables, le neurocapitalisme accède directement à l’activité neurale, promettant d’éliminer l’« incertitude » inhérente aux inférences comportementales. Un tel modèle émergent permet aux entreprises privées de monétiser les données neurales, offrant des services de divertissement, santé ou productivité, mais au coût de la capture massive de données cérébrales (Yuste, 2021).
Les entreprises technologiques développent déjà des produits capables de capter les signaux neuraux à des fins de publicité ciblée, modulation du comportement du consommateur et analyse d’états émotionnels. Les pratiques de neurodata mining, dans lesquelles les données cérébrales sont collectées, stockées et vendues, créent une nouvelle catégorie de risque social : la surveillance neurocognitive. Cette forme d’exploitation extrapole les limites de la vie privée traditionnelle, atteignant des dimensions profondes de la subjectivité humaine.
Du point de vue juridique, un tel scénario représente une violation non seulement de l’autodétermination informationnelle (Floridi, 2014), mais aussi des principes constitutionnels de la dignité de la personne humaine et de la liberté de pensée.
La catégorie émergente du droit dénommée « Brain Data Privacy » cherche à établir des garde-fous normatifs pour protéger les informations dérivées de l’activité cérébrale, indépendamment de leur identification directe avec l’individu. Il s’agit d’un droit qui transcende la logique traditionnelle de la protection des données personnelles, reconnaissant le caractère sensible, intime et structurellement lié à l’identité des données neurales.
Ienca et Andorno (2017) proposent que le droit à la vie privée mentale soit positivé comme un nouveau droit humain, englobant l’interdiction de la collecte, stockage et traitement de données cérébrales sans consentement libre, spécifique et informé. En outre, des auteurs comme Rafael Yuste plaident pour des restrictions légales explicites à l’usage commercial de données neurales, de façon à limiter les effets destructeurs du neurocapitalisme.
Les plateformes de neurojeux, dispositifs portables pour la méditation ou la productivité et même les applications d’analyse d’humeur basées sur l’EEG (électroencéphalographie) collectent déjà de telles données. L’absence de régulation adéquate crée un environnement propice à l’exploitation économique de l’esprit humain, avec de potentielles violations de la vie privée, liberté de pensée et dignité cognitive.
Les modalités d’exploitation neurocapitaliste sont :
1) Le neuromarketing direct - des entreprises comme Neurosky, Emotiv et Nielsen commercialisent déjà des dispositifs EEG consumer-grade pour l’analyse de réponse neurale aux stimuli publicitaires. Cette « lecture directe » des préférences neurales représente un saut qualitatif par rapport au marketing traditionnel, promettant l’accès aux « véritables » désirs du consommateur, non filtrés par la conscience réflexive (▻https://neurosky.com ; Busto, P. (2017). Neurosky and the commercial promise of brain-computer interfaces. Frontiers in Human Neuroscience ; ▻https://www.emotiv.com ; Chynal, P., et al. (2019). Use of Emotiv EPOC in advertising and marketing : A review. Sensors ; ▻https://www.nielsen.com/us/en/solutions/neuroscience ; Plassmann, H., Ramsøy, T. Z., & Milosavljevic, M. (2012). Branding the brain : A critical review and outlook. Journal of Consumer Psychology).
2) Optimisation Cognitive Commerciale - des plateformes comme Nootopia, Brain.fm et Focus@Will vendent des promesses d’enhancement cognitif par stimulation neurale, créant des marchés de capacités mentales où attention, mémoire et créativité deviennent des commodités (▻https://nootopia.com ; ▻https://www.brain.fm ; Rebolledo-Mendez, G. et al. (2020). The effects of auditory stimulation with Brain.fm on cognitive performance. Frontiers in Human Neuroscience ; ▻https://www.focusatwill.com).
3) Économie de l’Attention Neurale - des dispositifs de surveillance continue de l’attention, comme ceux développés par BrainCo, permettent la quantification et marchandisation en temps réel des ressources attentionnelles, créant de nouveaux marchés de « temps mental » (▻https://www.brainco.tech ; MIT Technology Review (2020). China’s vast experiments with brain-reading tech ; Xu, W. et al. (2020). Wearable neurofeedback system for monitoring student attention. IEEE Transactions on Human-Machine Systems).
Le neurocapitalisme opère par trois mécanismes centraux d’accumulation et d’expropriation :
1) Extraction Neurale : Capture de données cérébrales par des dispositifs invasifs et non-invasifs, fréquemment sous prétexte thérapeutique ou d’enhancement.
2) Traitement Algorithmique : Application de machine learning et IA pour le décodage de patterns neuraux et la création de profils mentaux détaillés.
3) Instrumentalisation Comportementale : Usage d’insights neuraux pour l’influence et modification de comportements, créant des boucles de feedback qui amplifient le contrôle sur les processus mentaux.
Les données cérébrales possèdent des caractéristiques uniques qui les distinguent catégoriquement d’autres formes de données personnelles, telles que :
1) Involontarité Radicale - différemment des données comportementales numériques, qui résultent d’actions conscientes (clics, posts, achats), les données neurales sont produites involontairement par les processus cérébraux basiques. L’individu ne peut simplement « arrêter » de produire des ondes cérébrales ou une activité neurale.
2) Accès aux États Mentaux Privés - les neurotechnologies contemporaines permettent l’accès à des états mentaux que l’individu lui-même peut ne pas reconnaître consciemment, incluant des processus pré-conscients, émotions implicites et intentions non articulées.
3) Immutabilité Biométrique - Les patterns neuraux individuels présentent des caractéristiques biométriques uniques et relativement stables, fonctionnant comme des « empreintes digitales cérébrales » qui ne peuvent être altérées volontairement.
L’avancée des neurotechnologies a généré un scénario de profondes transformations dans les relations entre science, marché et droits fondamentaux. De tels défis et particularités démontrent l’inadéquation des Frameworks existants, à commencer par les limitations du modèle de consentement, puisqu’on n’a presque jamais un consentement libre, informé, granulaire et, donc, qualifié (fiction du consentement). Le paradigme du consentement central au RGPD, LGPD et législations similaires, se révèle inadéquat tant pour le contexte original et bien plus encore pour les données neurales en raison de plusieurs raisons :
- Impossibilité de granularité : Il n’est pas possible de consentir sélectivement avec des types spécifiques d’activité neurale - Méconnaissance de la portée : Les individus ne comprennent pas pleinement quelles informations peuvent être extraites de leurs patterns neuraux - Permanence de l’extraction : Une fois l’interface neurale établie, l’extraction de données devient continue et complique la révocation du consentement - Insuffisance de l’anonymisation puisque les techniques traditionnelles d’anonymisation se montrent inefficaces pour les données neurales en raison de :
Singularité des patterns cérébraux : Impossibilité pratique de véritable anonymisation
Capacité de re-identification : Les algorithmes peuvent re-identifier les individus par des patterns neuraux uniques
Inférence d’attributs sensibles : Les données neurales « anonymisées » peuvent révéler l’orientation sexuelle, conditions médicales, croyances politiques
Compte tenu de tels défis, de l’insuffisance du « status quo » du Droit pour une protection adéquate de ces nouveaux droits, nous proposons un framework spécifique et une nouvelle dimension des nouveaux neurodroits, aux côtés du droit à la vie privée cérébrale (Brain Data Privacy), le droit au rêve comme expression de la liberté psychique. Les aspects centraux de la proposition, comme ses fondements épistémologiques et développements seront présentés dans notre prochain texte.
Paola Cantarini é advogada, pós-graduada em Direito Constitucional, Direitos Humanos e Direito Internacional. Mestre e doutora em Direito pelo Programa de Estudos Pós-graduados em Direito da PUC/SP. Doutora em filosofia do Direito pela Universidade de Salento (Itália), pós-doutorado em Filosofia, Arte e Pensamento Crítico pela European Graduate School , Saas-Fee (Suíça), pós-doutorado no Centro de Estudos Sociais da Universidade de Coimbra (Portugal).
Willis Santiago Guerra professor doutor do Programa de Estudos Pós-Graduados em Direito da PUC/SP. Professor Titular da UNIRIO. Tem experiência na área de Direito e Filosofia, com ênfase em Filosofia do Direito e Direito Constitucional.
