Résumé

Amitai Etzioni est professeur de relations internationales à l'université George Washington et auteur de Politique étrangère : sortir des sentiers battus (2016). Il a été conseiller principal à la Maison Blanche Carter. Oren Etzioni est PDG de l'Institut Allen pour l'intelligence artificielle et professeur d'informatique à l'université de Washington. Il a été le fondateur/cofondateur de Farecast (vendu à Microsoft) et de Decide (vendu à eBay).

​

1. Les auteurs « considèrent que l'autonomie signifie qu'une machine a la capacité de prendre des décisions sur la base des informations recueillies par la machine et d'agir sur la base de ses propres délibérations, au-delà des instructions et des paramètres de ses producteurs ».
2. Il semble « inévitable » que les systèmes autonomes, y compris les bombardiers et les avions de combat sans pilote humain, deviennent de plus en plus répandus. « Ce génie a quitté la bouteille et nous ne voyons aucun moyen de la remettre en place. »
3. Pour les « missions ennuyeuses, sales ou dangereuses », les robots seront meilleurs que les humains. Une sortie de longue durée est un exemple de mission « ennuyeuse », l'exposition à des matières radiologiques est un exemple de mission « sale », et le travail de neutralisation des explosifs et munitions est un exemple de mission « dangereuse ».
4. Des économies pourraient être réalisées grâce à des robots militaires. Actuellement, chaque soldat en Afghanistan coûte 850 000 dollars par an. En revanche, « le robot TALON, un petit rover pouvant être équipé d'armes, coûte 230 000 dollars ».
5. Les systèmes d'armes aériennes seront moins sujets à la fatigue et au stress émotionnel, et ils seront plus en mesure de supporter les contraintes physiques, par exemple les manœuvres à G élevé, mieux que les pilotes humains.
6. Les robots militaires autonomes peuvent très bien fonctionner de manière plus éthique que les soldats humains. Ils ne seront pas nécessairement programmés avec un « instinct de survie » et seront donc moins susceptibles de « tirer d'abord, poser des questions ensuite ». Ils seront moins sujets à des émotions de rage, de peur, de lâcheté et à des désirs de représailles ou de vengeance.
7. En remplaçant les combattants humains, « les armes autonomes pourraient réduire les risques de souffrance et de mort ».
8. En revanche, les humains savent mieux distinguer « qui est un civil et qui est un combattant », de sorte que les systèmes d'armes autonomes pourraient être moins en mesure de suivre une règle importante des conflits armés, le « principe de distinction ».
9. L'une des principales règles du droit international humanitaire est qu'en cas de décès de civils, une personne doit pouvoir être tenue pour responsable. Pourtant, cela serait difficile, voire impossible, avec des systèmes d'armes entièrement autonomes.
10. Parvenir à des accords internationaux visant à limiter même certains types d'armes autonomes peut être un défi impossible. Il est déjà assez difficile de tracer une « ligne rouge » claire, tout comme de parvenir à un accord et de parvenir à une application raisonnable.

​

Lire l'article complet ici. Résumé de Stephen Hicks, 2020

‍

‍