Un expert de la sécurité à propos de la cybernétique
« Surpasser Dieu »
Dans son livre « Le crépuscule des machines » l’expert en sécurité Tomas Rid traite de l’histoire des idées de la cybernétique. Interview
Tomas Rid, né en 1975, professeur pour les Etudes de sécurité, enseigne au Department of War Studies du King’s College à Londres. D’après ses réalisations, il est considéré comme un « cyber-guy ». Il s’occupen ensuite de phénomènes comme la « cyberguerre ». Le mot « cyber » vient de « cybernétique » ce dont Rid n’avait pas grand chose à battre. Puis il écrivit une histoire des idées de la cybernétique.
taz : vous vouliez vraiment libérer le concept de cybernétique du mythe ?
Thomas Rid : je voulais aider à le rendre superflu. Lorsque j’ai présenté le projet de livre à des informaticiens, ils étaient chauds bouillants sur ce thème.
Vous avez été étonné de la pertinence ?
Oui et aussi de la profondeur de l’histoire. La cybernétique réunit une recherche proche des militaires et la contre-culture, le tir de l’artillerie et le LSD. Cette tension entre peur et espoir, entre oppression et autolibération. Ce contraste extrême est très intéressant.
La cybernétique commence comme un domaine de recherche militaire. En quoi consiste la cybernétique ?
C’est une question historique, que l’on rencontre en se promenant dans les décennies. Pour Norbert Wiener il s’agit de feedback et de feedback négatif (rétroaction).
C’est-à-dire ?
Lorsque vous règlez votre thermostat à la maison, la température est trop élevée et de ce fait la température diminue, c’est un feedback négatif. Deuxième composante : la fusion de l’humain et de la machine. L’idée de Wiener était que le pilote et son avion de combat formait une unité. Le troisième élément est l’équilibre qui doit être trouvé par les rétroactions. La capacité d’apprentissage de la machine devient un principe de totalité.
Les cybernéticiens pensent la machine comme une forme vivante ?
Un peu avant sa mort, Wiener a écrit « Dieu et le Golem ». Une vie fabriquée par les humains — c’est profondément enraciné dans les mythologies juive et grecque. Elle génère une fascination monstrueuse. Wiener voulait désenchanter la religion avec une théorie des machines. Il a obtenu le contraire et a enchanté les machines du présent. Nous jouons à Dieu lorsque nous créons des intelligences artificielles. Nous avons une exigence profonde de créer une vie qui soit meilleure que la nôtre. Nous voulons surpasser Dieu.
Est-ce que vous voulez-dire quand vous qualifier la cybernétique d’idéologie ?
Nous nous projetons dans les machines. Dans les années 1940 les ordinateurs étaient comparés à des machines pensantes. D’autre part, nous pensons l’humain comme différent de la machine. De même plus tard s’installe le concept de cyberespace. Dans tous ces domaines il y a une oscillation entre angoisse et espoir. La vérité est quelque part entre les deux.
La crainte d’une surveillance de masse repose sur une base empirique. Cette perspective émerge très tôt comme une vision dystopique.
Certains disent la surveillance de masse ne marche pas, d’autres critiquent que nous serons en permanence surveillés. Aucun des deux n’a bon. Je pense que la surveillance de masse est un spectre(†).
(†) NdT : loup-garou pour gg:translate, spectre terrifiant au mot à mot, mais j’imagine, à tort peut-être, que Gespenst est une référence implicite à « Un spectre hante l’Europe ».
Le chiffrement va encoder tout le contenu. Mais les services s’intéressent aux métadonnées.
Pour des appels téléphoniques à l’ancienne, vous avez raison. Ils contiennent de nombreuses métadonnées. Même pour des mails chiffrés, qui envoie à qui est tout à fait transparent. Lorsque vous envoyez un iMessage ou WhatsApp, vous avez en règle générale une connexion HTTPS ou un chiffrement de bout en bout ou les deux. Si vous interceptiez les données vous verriez que les métadonnées ont fortement diminué. De la même façon, les sélecteurs en dur qui intéressent les services échoueront. Même le timing, à quel moment se produit la communication, perd en signification. Parce que vous êtes connecté en permanence par Apple ou sur Facebook. L’utilité des métadonnées s’effondre.
Mais des données sont en permanence générées. Par le smartphone ou les réseaux « sociaux ». Elles vont être utilisées par les entreprises et les gouvernements pour reconstituer de l’information et prédire les comportements futurs. N’est-ce pas une forme de gouvernement cybernétique qui domine depuis longtemps notre présent ?
Ma réponse va vous décevoir : la cybernétique est le sujet que je souhaite traiter, je n’en ai pas besoin comme outil. C’est très important quand on étudie l’histoire. Car la cybernétique est extrêmement séduisante. Le fondateur de la Scientologie, Ron Hubbard, s’était inspiré de Wiener. C’est un exemple paradigmatique de la force de séduction. Dans mon livre, j’ai tenté de résister à cette séduction.
Mais la force de séduction a-t-elle quelque chose à voir avec la plausibilité ?
C’est comme un couteau suisse : on peut s’en servir pour tout. La plupart du temps, ça marche bien. Mais quand on applique la cybernétique à des problèmes sociaux — cyberguerre, surveillance de masse — c’est tout le contraire. La cybernétique nous pousse à des visions extrêmes. C’est ce que montre l’histoire. La cybernétique est elle-même totalement non-cybernétique puisqu’elle ne produit pas d’équilibre.
Vous décrivez l’étrange développement de l’histoire de la cybernétique. Deux courants totalement opposés se développent : d’une part les utopies de liberté absolue des cyberpunks, de l’autre le totalitarisme d’une surveillance globale. Comment cela va-t-il ensemble ?
La technique inspire les visions du futur. Les premières visions du cyberespace sont apparues avec les premiers ordinateurs, puis les choses se sont précipitées. Timothy Leary le gourou du LSD, a reconnu dans le cyberespace un espace nouveau qui s’ouvrait. L’ordinateur est le LSD des années 1980. Ce que pensaient les gens à cette époque est grotesque. Mais je ne veux pas m’en moquer. La cybernétique libère les idées et l’espoir. Les temps pionniers sont des temps de visions. Dans le domaine de l’intelligence artificielle, nous ressentons de nouveau toujours cela.
Lorsque des investisseurs de la Silicon Valley investissent des milliards de dollars dans l’intelligence artificielle, cela devient une possibilité tout à fait tangible, ne pensez-vous pas ? Les idées de la cybernétique ne sont-elles pas peu à peu en train de devenir réalité ?
Nous vivons une époque incroyable de l’histoire de l’humanité. Jamais nos modes de communication n’ont changé en un temps aussi court. En même temps la plupart des prévisions de la cybernétique se sont trompées. Nous avons une perception sélective : nous ne nous souvenons que des prédictions correctes. C’est un point important : la plupart des prévisions d’aujourd’hui se révéleront fausses.
L’agence de recherche du Pentagone vient de lancer un drone catamaran pour détecter les sous-marins. L’année dernière, des milliers de scientifiques ont mis en garde contre les systèmes d’armes autonomes. L’automatisation de la guerre, c’est juste une idée fixe ?
Je fais parfois de la provocation. Un système d’armes autonome tue depuis longtemps des millions d’êtres humains : les mines. Elles ont un grand degré d’autonomie, car elles décident sur la base de paramètres en entrée, par exemple le poids, d’exploser. Avec des drones pilotés par le réseau, il n’y a pas de raison de les automatiser complètement, car on peut inclure des humains dans la boucle de rétroaction. Pourquoi accorder une autonomie de décision lorsque cela n’est pas du tout nécessaire ? Le drone représente un progrès éthique par rapport à la mine. Et la guerre des machines est une réalité depuis la seconde guerre mondiale.
Vous-même, vous avez travaillé pour la RAND Corporation, un think thank militaire états-unien. Êtes vous un conseiller militaire ?
J’ai travaillé au préalable avec Herfried Münkler et suis passé par son école. Je n’ai jamais eu peur des contacts lorsqu’il s’agit des cercles de la sécurité ou des forces armées. Il n’en va pas autrement au King’s College for War Studies à Londres. Nous travaillons en étroite collaboration avec les forces militaires et les services de renseignement de Grande-Bretagne et des Etats-Unis. Quand il s’agit de technique cela devient passionnant.
Pourquoi ?
Quand vous vous déplacez dans cet environnement, vous êtes surpris. On voit des jeunes à capuches, mais ils n’organisent pas de manifs, ils pointent avec leur document d’identité auprès des services. Dans les services ils ont aussi intégré la contre-culture. Snowden en est un exemple.
À votre avis, Snowden est-il un traitre ou un héros ?
Malheureusement, Snowden manque de nuances dans son analyse. Quand on regarde son flux Twitter, c’est plutôt rude. Ça manquait aussi de finesse de diffuser toutes ces données internes de façon indifférenciée. Il a divulgué les interceptions et les documents de la NSA qui n’ont pas grand chose à voir avec les libertés civiles.
Que voulez-vous dire ?
Comment la NSA espionne des cibles iraniennes ou chinoises par exemple. C’est pour cela qu’il y a la NSA. Ça n’a pas à être révélé. Il aurait pu faire fuiter (leak) quelques centaines de documents importants pour le débat. C’est donc un héros et en même temps un traitre.
