Le robot-tueur n’est pas là où l’on croit

🎙️ Écouter cet article en version audio.

Drones-tueurs. La semaine dernière, le New York Times a révélé qu’un drone russe porteur d’un processeur Nvidia avait tué trois personnes à Zaporijjia. De nombreux commentateurs y ont vu l’avènement des robots-tueurs. Déjà, en juin, le directeur de Aero Center, une entreprise ukrainienne, avait déclaré avoir testé en 2023 une dizaine de drones « Terminator » qui tuaient tout ce qu’ils trouvaient.

Premières fois. Ce n’est pas la première fois qu’on affirme tuer automatiquement « pour la première fois ». Déjà, en 2021, certains s’alarmaient des drones-tueurs en Libye. Dès les années 1980, les drones Harpy ont été programmés pour attaquer automatiquement les sources émettrices d’ondes radar. Encore avant, dans les années 1970, l’armée de l’Allemagne de l’Est a mis en place des armes qui tiraient automatiquement sur les personnes voulant franchir la frontière vers l’Ouest.

Fantasmes. L’arme autonome, qui choisit ses victimes, fait peur. L’industrie en joue d’ailleurs fort bien. En 2016, les pontes de l’IA, Elon Musk en tête, publiaient une lettre ouverte au ton alarmiste. Des drones-tueurs pouvant automatiquement choisir une cible et l’exécuter allaient être développés dans les années à venir. Une vidéo hyperréaliste montrant un essaim de drones attaquer de paisibles étudiants a même été publiée pour enfoncer le clou.

Voitures. Mais pour tuer des civils au hasard, pas besoin de drones. Une automobile suffit, comme le montrent trop régulièrement les massacres à la voiture-bélier. Tuer des militaires, en revanche, c’est beaucoup plus compliqué. Ils se cachent et peuvent contre-attaquer. Les drones intègrent certes de l’IA, mais pas pour automatiser entièrement la chaîne qui va du choix de la cible au tir. D’ailleurs, le drone russe de Zaporijjia n’utilisait pas son processeur Nvidia pour cibler des civils mais pour détecter les citernes de propane d’une station-service.

Ciblage. Pourtant, l’IA militaire contribue à augmenter le nombre de massacres de civils. En 2021, un officier israélien, Yossi Sariel, publie The Human-Machine Team. Pour Sariel, la clé du succès, dans une guerre moderne, tient dans le ciblage. Choisir des cibles prend trop de temps. Les humains doivent collecter les données, les vérifier puis donner l’ordre de tirer. En automatisant le processus, on a plus de cibles, plus vite, et on gagne.

1000 à l’heure. Cette technique a déjà été mise en pratique dans deux guerres : celle de Gaza (depuis 2023) et celle d’Iran (depuis février). L’armée d’Israël utilise en particulier le programme « Lavande » qui donne un score à chaque résident de la bande de Gaza, censé représenter la probabilité qu’il appartienne au Hamas. Un score trop élevé se traduit par une mise à mort (un humain passe environ 20 secondes pour valider). Les États-Unis utilisent le système Maven, qui produit 1 000 cibles par heure. (La France et l’OTAN ne sont pas en reste, j’en parlerai dans un prochain numéro.)

Efficacité. J’ai demandé à Ingvild Bode, professeure à l’université danoise d’Odense et directrice du centre pour les études de la guerre, si le ciblage automatique fonctionnait, militairement parlant. Au niveau de l’efficience (le système fonctionne-t-il comme il faut ?), dit-elle, l’amélioration du ciblage est loin d’être prouvée, puisque le risque d’erreur augmente avec le volume de données utilisé. Au niveau de l’efficacité (le système augmente-t-il les chances de victoire militaire ?), « il reste de sérieux doutes », affirme-t-elle, « surtout si, d’un point de vue militaire, la stratégie se borne à ‘seule compte la vitesse’ ». Mais si ça ne marche pas, pourquoi les militaires continuent-ils à utiliser le ciblage automatique ?

Zone de froissement. Dans une automobile, les zones de froissement permettent d’absorber l’énergie de l’impact dans le capot ou le coffre, protégeant les passagers. Une anthropologue a proposé le concept de « zone de froissement morale » pour décrire comment les systèmes automatisés sont tenus responsables des erreurs à la place des humains, permettant du même coup d’absoudre les décideurs – humains – de toute responsabilité.

La faute à l’IA. Lorsque les militaires étasuniens ont tué près de 200 enfants de l’école pour filles de Minab le 28 février dernier, de nombreuses voix ont déploré une « erreur de l’IA ». À Gaza, les soldats israéliens justifient les massacres de civils par l’existence d’une cible militaire fournie par la machine. Si des enfants sont tués, si les informations étaient erronées, c’est uniquement la faute de l’IA. Le ciblage automatisé permet de déplacer la responsabilité de celui qui tue vers un système abstrait et intouchable. Il a sans doute causé la mort de bien plus de civils que les drones tueurs.