Robots tueurs : le futur… c’est maintenant !

?article290

  • Robots tueurs : le futur… c’est maintenant !
    http://obsarm.org/spip.php?article290

    Alors que le Sénat vient de sortir un rapport préconisant un développement des drones armés, #Damoclès publie un dossier qui pointe le manque de réglementation entourant cette filière industrielle et l’absence de débat contradictoire au sein du Parlement sur les recherches actuelles. Au sommaire du numéro Merci Bruno Loi Morin : une véritable avancée Technologie française dans un drone armé au Yémen Focus : Robots tueurs : le futur… c’est maintenant ! Les drones, des armes à (...)

    Damoclès

    / #Contrôle_des_exportations, #Industrie_d'armement, #Nanotechnologies, #Trafics_d'armes, #Droit_international_humanitaire

    • C’est une fuite en avant que le rapport du Sénat se garde bien d’aborder. Notre étude établit que les composants et technologies des #drones civils et militaires sont pour la plupart identiques et peuvent être librement achetés dans le commerce. Une absence de réglementation souhaitée par les autorités françaises. En effet, le secteur civil est le moteur des innovations en matière de recherche sur les nanotechnologies à la base des drones, qu’ils soient à usage civil ou militaire. Ce laisser-faire a un coût : la prolifération. En raison de l’irresponsabilité des producteurs mondiaux de biens à double usage — dont la France —, la liste des puissances militaires possédant des drones armés ne cesse de s’allonger : États-Unis, Royaume-Uni, Chine, Israël, Russie, Corée du Sud notamment. Mais aussi Arabie saoudite, Émirats arabes unis, Iran, Jordanie, Birmanie, Nigeria, Kazakhstan, etc.

    • Je ne comprend que l’idée de conserver jusqu’au bout un veto soit séduisante, mais l’autonomie totale est la seule manière d’opérer en environnement non-permissif lorsque les liens de communication sont brouillés ou que le silence radio est nécessaire pour une discrétion suffisante. Le drone entièrement autonome est une munition comme une autre - on ne rappelle pas la balle une fois qu’elle est sortie du canon.

      Quand à la notion de prolifération pour les drones et l’accusation de laisser-faire, quelle est l’alternative pour des technologies qui n’ont rien de spécifiquement militaire ?

    • Sur la prolifération, on explique qu’il faut remettre en contexte le problème. Comme d’autres technologies, les drones civils dérivent des recherches dans le domaine militaire. Cela signifie qu’il faut avoir un débat sur leur financement public et les activités d’étude/de recherche si on veut lutter contre la prolifération. La question est donc avant tout politique. Après, un contrôle strict sur la filière est tout à fait possible, ne serait-ce que parce que les composants « intelligents » du drone et du robot ne sont pas 36 millions. Cela nécessite bien sûr un accord international car les fabricants de micro-controleurs sont un peu partout...

      Sur l’autonomie, qu’une machine puisse remplacer l’humain pose d’importantes questions : à ce stade les ingénieurs ne savent pas quels critères fixer pour déclencher le tir ou non, et évidemment il est compliqué de distinguer au moyen de l’informatique un civil d’un combattant. D’autre part, les risques de dérèglement de la machine posent des difficultés majeurs. Si l’opérateur ne sait pas comment elle est conçue, la situation va lui échapper.

      Enfin, c’est la légitimité même de la guerre de l’information qui est posée. La technologie devait permettre de mener des guerres chirurgicales à partir des relevés précis des capteurs. Les gens que nous avons interrogés nous explique qu’au contraire, trop d’informations génère une « panique » due à l’incapacité à tout traiter. Dès lors, les soldats ont tendance à tirer dans le tas par peur de voir s’échapper une menace potentielle. La numérisation du champ de bataille et l’automatisation, qui affectent l’ensemble du matériel militaire, posent donc de nombreuses questions.

      Tony
      Observatoire des armements

    • Les drones civils dérivent des recherches dans le domaine militaire ? Au contraire, l’explosion du nombre de drones civils et militaires est due à la disponibilité sur étagère de composants tout ce qu’il y a de plus génériques. Les composants spécifiquement militaires ou au moins fortement liés à des recherches financées par les militaires et disponibles seulement pour des clients militaires sont l’optronique (la boule gyrostabilisée et son contenu valent parfois plus cher que tout le reste du drone) - ceux-là pourraient être surveillés de la même manière que les armes en général. Le reste, c’est à dire essentiellement l’avionique, est hors de tout contrôle possible à moins de surveiller et rendre traçable la vente d’ordinateurs, de moteurs électriques pas-à-pas et de téléphones. Vue la difficulté actuelle de lutter contre la contrefaçon, le traçage des composants « dual use » de drones militaires n’aura pas d’effet supérieur à une légère augmentation des prix dans la chaîne d’approvisionnement illégitime... Et encore vu le cas des mines antipersonnelles non-programmables pour lesquelles je ne sais même pas si les bannissements actuels ont augmenté les prix.

      Oui, le problème essentiel est la discrimination des cibles. Avec les technologies du futur proche, la logique d’un automate laché dans la nature est celle d’une sortie d’interdiction dans une kill box : tout ce qui bouge dans une zone donnée et ne répondant pas correctement à l’IFF est réputé ennemi. Évidemment dans une zone où sont présents des civils, c’est moralement tout aussi répréhensible qu’un bombardement massif... Et ce n’est pas un problème spécifique aux drones - c’est l’éternelle question du respect des civils : on a bien vu ces dernières années que le facteur le plus déterminant n’est pas l’homme dans la boucle (Befhel ist Befehl !) mais plutôt la volonté du commandement de limiter ou non les pertes civiles.

      Un contrepoint néanmoins à ce dernier argument est la notion de distanciation technologique à la violence : il est nettement plus difficile d’étriper une personne au couteau la main dans ses entrailles que déclencher un tir derrière un écran à 6000 kilomètres de distance, alors que le résultat est identique. Or, l’automatisation totale accentuera cette différence (c’est d’ailleurs l’une des raisons pour lesquelles le système de commandement des tirs de missiles balistiques intercontinentaux soviétiques était, contrairement aux systèmes occidentaux, quasi-entièrement démunie d’intermédiaires humains). Il est donc aussi probable qu’en présentant moins de résistance au passage à l’acte, la généralisation du combat automatisé aura pour effet une augmentation sensible du niveau de violence.

    • Il y a historiquement eu une volonté du ministère de la Défense de développer des recherches sur les nano-technologies en créant des startup et différentes formes de partenariat entre le monde civil et militaire au milieu des années 2000. Mais ce que je voulais plutôt dire et que j’ai mal exprimé c’est que la déréglementation du secteur civil a été souhaitée par les autorités parce que ce dernier est devenu le moteur de l’innovation en matière militaire. C’est donc en toute logique que les drones et robots les plus avancés - pensons à Dogo par ex., robot israélien - sont à usage militaire.

      Les autorités ont toujours le dernier mot : on ne peut pas simplement se résoudre à penser que le marché leur a échappé, ce n’était pas le cas au milieu des années 2000. Et ce n’est pas totalement le cas aujourd’hui non plus même si la situation est devenue très compliquée. Il ne s’agirait pas de contrôler tous les composants - tâche impossible - mais au moins les plus stratégiques d’entre eux. Par exemple, le FPGA, qui est un des composants majeurs du drone mais fort répandu ailleurs (à l’intérieur de certains micro-onde, systèmes de barrières de sécurité etc.), est en théorie bien soumis au contrôle mais ce dernier est totalement insuffisant...

      Sur la traçabilité, les industriels reçoivent une fiche produit où figure l’immatriculation du composant qui leur est souvent envoyée par le fabricant avant la mise sur le marché. Il suffirait que l’Etat obtienne ces fiches, les indexe sur une liste, et mette en place un système de déclaration obligatoire, avec des vérifs et des sanctions pénales en cas de violation. Pour que cela soit efficient, il faudrait bien sûr que la réflexion sur le sujet soit également portée au niveau international.

      Après, il ne faut pas oublier que les drones qui feront le plus de dégâts, ce ne seront pas les mini-drones civils mais les drones militaires (les US, israéliens, chinois et bientôt européens....) Il faut aussi agir sur les financements publics.

      Sinon je suis d’accord sur le fond, ce n’est pas qu’une question « militaire », cela touche à notre rapport à la robotisation. Considère-t-on celle-ci comme inéluctable ? Voire souhaitable alors qu’elle sert en premier lieu des objectifs militaires ? C’est une question de société. Au même titre que la croissance ou le nucléaire, il y a des dogmes à déconstruire. Et c’est au citoyen de s’en emparer. Maintenant. Après il sera trop tard.

      Sur le reste, je suis d’accord avec toi, je souscris bien évidemment à ton avis sur « le poids du commandement ». C’est pourquoi on souhaite la mise en place d’un contrôle parlementaire sur toutes ces questions...