Le commandement de l’autonomie du Pentagone devrait s’appuyer sur les leçons anciennes et nouvelles

Alors que les dirigeants du Pentagone lancent leur dernier effort visant à accélérer le développement et le déploiement de systèmes autonomes et robotiques, ils peuvent tirer les principales leçons des tentatives passées et des avancées récentes.

Le projet d’Autonomous Warfare Command, dont le lancement est prévu en octobre prochain, promouvra « non pas un drone particulier, mais la capacité de s’adapter au combat » contre une « opposition réaliste », selon une note du 30 septembre du secrétaire à la Défense Pete Hegseth, qui ajoutait : « Nous n’avons pas une décennie pour faire évoluer nos achats et notre doctrine ».

En effet, sur les champs de bataille d’aujourd’hui, une adaptation efficace à une « opposition réaliste » se produit en quelques semaines, et non en mois et en années, qu’il faut généralement aux sous-traitants de la défense pour mettre à jour leurs conceptions ou même publier des correctifs logiciels. Heureusement, le Pentagone ne part pas de zéro.

Commencez par la mission, pas le robot

Commencez par demander aux commandants et aux opérateurs ce qu’ils attendent de l’autonomie et des robots, plutôt que d’essayer de les éblouir avec une expérience ou une démonstration qui ne correspond pas à leurs besoins.

Un exemple est Maven Smart System, une plateforme de renseignement IA largement adoptée par l’armée américaine et les forces de l’OTAN, et un modèle permettant d’introduire plus rapidement les technologies émergentes dans les forces. Un rapport réputé de 2024 pour le CNAS écrivait : « Une définition claire, urgente mais large du problème a permis à Maven de répondre plus directement aux besoins des utilisateurs. »

Alors, que veulent maintenant les commandants combattants ? Voici le général Frank Donovan, commandant du Commandement Sud des États-Unis, s’exprimant en mai lors d’une Défense Un événement:

« La plupart des systèmes que nous examinons sont principalement nos systèmes de connaissance de domaine, et… Nous pouvons adapter les robots à l’environnement, qu’ils nagent, volent, aient des pieds, quoi qu’ils fassent. »

Donovan venait tout juste de terminer la direction du Defense Autonomous Warfare Group, l’effort d’opérations spéciales visant à appliquer l’autonomie et la robotique aux missions. Il a découvert que les robots étaient nécessaires non seulement pour remplacer les humains au combat, mais aussi pour mieux comprendre ce qui se passait là où les bottes n’étaient pas au sol.

« Nos partenaires, qui ont accès et peuvent se placer là où ils vivent, doivent travailler sur des terrains accidentés, dans la jungle, à l’horizon, à des milliers de kilomètres en mer. »

Construire une autonomie communicative

Donovan a déclaré que l’essentiel de son travail au sein du Defense Autonomous Warfare Group consistait à amener les partenaires à parler des informations dont ils avaient besoin des systèmes robotiques et des informations qu’ils souhaitaient que ces systèmes robots aient.

« Nous ne parlons pas de robots. Nous parlons de l’environnement des données, n’est-ce pas ? Avec les différentes couches de données dont nous avons besoin à la pointe de la technologie pour que nos (forces d’opérations spéciales) et nos coéquipiers des forces conventionnelles disposant d’un… téléphone portable puissent se connecter à ce réseau de données, et quel que soit le robot qui se présente avec cette capacité, ils peuvent l’exploiter instantanément. »

Les systèmes autonomes deviendront encore plus importants lorsque l’accès au réseau sera bloqué par les capacités de guerre électronique de l’adversaire, a déclaré un ancien haut responsable de la défense qui a travaillé à la mise en place de logiciels d’IA pour les forces américaines et alliées.

« La prochaine étape consiste à amener ces systèmes à une véritable autonomie capable de gérer l’environnement opérationnel. Dans tout conflit, le GPS et les communications seront refusés et dégradés. Nous le voyons aujourd’hui en Ukraine et au Moyen-Orient, et c’est une certitude dans tout combat futur », ont-ils déclaré.

Achetez le cerveau et le corps séparément

Une autre leçon vient du secteur automobile, qui s’est tourné vers des partenaires extérieurs pour ses besoins d’autonomie.

En revanche, l’ancien haut fonctionnaire a déclaré : « Le ministère a surtout demandé à l’industrie de s’auto-organiser pour offrir une autonomie aux côtés du véhicule. » Par exemple, les acheteurs du Pentagone à la recherche de drones autonomes ont simplement demandé aux constructeurs de construire des versions autonomes de leurs avions télécommandés.

Ce n’est pas une bonne approche, a déclaré l’ancien responsable. Les fabricants de drones « construisent d’excellentes plates-formes, mais l’autonomie est sa propre discipline. La conduite autonome commerciale l’a compris il y a des années : les constructeurs automobiles construisent d’excellents véhicules et s’associent à des sociétés d’autonomie pour le conducteur », ont-ils déclaré. « La défense a besoin du même modèle. »

Rendez-le modulaire

L’ancien responsable a ajouté que les acheteurs du Pentagone devraient préciser que le package d’autonomie devrait être modulaire, c’est-à-dire pouvoir être mis à niveau à mesure que les menaces évoluent et que la technologie s’améliore.

Cela est vrai non seulement pour les armes individuelles, mais aussi pour l’ensemble des forces et même pour toutes les alliances, ont-ils déclaré. « Les normes ouvertes sont ce qui permet à ce partenariat de fonctionner à grande échelle. »

Cela a été souligné par une récente expérience de l’OTAN au Portugal. En septembre, le Centre de recherche et d’expérimentation maritimes de l’alliance, ou CMRE, a clôturé son plus grand exercice annuel : l’expérimentation robotique et le prototypage de systèmes maritimes sans pilote. L’édition de cette année comprenait une démonstration montrant ce qu’un commandement de guerre autonome chercherait à reproduire : des robots recevant des ordres non pas d’humains mais de logiciels.

« Pour la première fois, nous avions matérialisé notre vision des opérations futures. Nous avions des algorithmes qui analysaient à quoi ressemblait la mission et attribuaient automatiquement des tâches aux drones », a déclaré João Alves, scientifique principal au CMRE.

Ce n’était pas le résultat d’un nouveau capteur ou d’un nouveau logiciel d’IA, mais plutôt d’un changement de politique : les armées partenaires acceptant d’adopter une norme pour les systèmes qu’elles achetaient.

Instaurer la confiance

Le plus grand défi auquel tout bureau, commandement ou unité militaire sera confronté lorsqu’il utilisera des armes autonomes est de savoir quand s’y fier.

C’est la grande conclusion d’une étude de 2017 sur les défaillances en matière de sécurité d’autonomie impliquant des batteries de missiles Patriot. Le cas le plus dramatique a été l’abattage en 2003 d’un F-18 par un Patriot en Irak.

« Le directeur tactique du nœud de commandement et de contrôle du bataillon a donné l’ordre : « Préparez vos lanceurs ». Cette directive équivalait à un ordre d’engagement. Mais ce n’était pas l’intention du directeur tactique », a écrit le psychologue technique de l’armée, John Hawley, dans l’étude.

Même avec tout le reste en place – une mission spécifique, des normes ouvertes et des données partagées, la bonne formation – le plus grand défi auquel tout commandement ou unité est confronté lorsqu’il utilise l’autonomie est « une fiabilité élevée et soutenue dans un environnement opérationnel complexe et imprévisible », conclut Hawley.

Cette même question – ce logiciel comprend-il ce que j’ai l’intention de faire ? – n’a fait que devenir plus urgente à chaque nouvelle instance d’un agent logiciel d’IA enfreignant la loi au service d’une demande mal définie de l’utilisateur.

Si l’AUTOWARCOM veut fixer le cap pour l’armée, ses dirigeants doivent comprendre pourquoi les efforts antérieurs en matière d’autonomie ont réussi ou échoué, et reconnaître que la confiance humaine ne peut être automatisée.