Le fil Inflexions

Les 19 et 20 juillet, Inflexions sera au salon du livre de Saint-Cyr Coëtquidan

20 juin : mise en place du comité scientifique pour la commémoration du 150e anniversaire de la guerre de 1870

N°39 | Dire

Brice Erbland
Robots tueurs
Que seront les soldats de demain ?
Paris, Armand Colin, 2018
Brice Erbland, Robots tueurs, Armand Colin

La technologie avancée de la guerre, grâce à « un système d’armes létales autonomes » (sala), va-t-elle radicalement introduire une rupture dans la nature du combat et exclure le combattant de toute initiative par sa soumission à une machine à tuer « intelligente » ? Entre les fantasmes et les craintes, le commandant Brice Erbland, pilote d’hélicoptères de combat, réfléchit en profondeur aux conséquences de cet usage à venir de ces sala et aux précautions à prendre. En particulier comment y intégrer une éthique in bello ? Comment insérer une programmation qui tienne compte de leur autonomie sans les rendre indépendants ? Comment apprendre à la machine, qui ne doit pas être anthropomorphique, à discerner l’ennemi à détruire sans mettre en péril le civil démuni ? Peut-elle donner la mort sans que le soldat responsable de son emploi éprouve la moindre vulnérabilité ? Cette question éthique majeure est abordée par l’auteur qui a déjà éprouvé à plusieurs reprises la conscience morale posée par cette asymétrie. Une machine à tuer autonome, munie d’un système d’autodestruction en cas de capture par l’ennemi, comporte le risque de déshumanisation de l’ennemi. D’où l’importance de la présence du soldat humain sur le champ de bataille pour que cette machine demeure une arme et non une sorte d’autorité indépendante. La partie la plus novatrice de cet ouvrage se réfère à l’éthique. Car cette réflexion dépasse largement l’art de la guerre pour s’adapter à la médecine, à l’industrie, au management… En effet, l’intelligence artificielle au tout début de son essor, est confrontée à sa relation entre autonomie et soumission de son usager. L’ignorance de son fonctionnement peut conduire à des attitudes de paresse, de renoncement au jugement. À ce titre, ce livre peut aboutir au paradoxe d’une programmation éthique réelle, qui enrichit en retour la conscience éthique du soldat. Au lieu du débat simpliste oui/non, une réflexion complexe concernant la programmation de la machine (même si elle ne pourra jamais prévoir l’ensemble des situations) oblige à repenser l’inscription de l’éthique dans la réalité et à nourrir ainsi les autres emplois de l’intelligence artificielle. Il est intéressant que ce soit l’usage militaire qui anticipe sur les autres usages ! Un regret peut-être, l’auteur ne scénarise pas une guerre entre sala. Que sera un jeu d’échecs purement technologique où le mat dépendra plus de l’intelligence artificielle que du discernement humain ?


Martin Motte, George... | La Mesure de la force