Les aviateurs feront-ils confiance à l’IA ? Les projets futurs de l’Armée de l’Air en dépendent

PORT NATIONAL, Maryland.— Alors que les dirigeants de l’Air Force se préparent à donner à l’IA davantage de pouvoir décisionnel dans les années à venir, ils s’efforcent également de familiariser les aviateurs avec cela.

« C’est un peu effrayant, mais nous devons nous y pencher », a déclaré le secrétaire de l’Air Force, Troy Meink, lors de la conférence Air, Space & Cyber ​​de l’Air and Space Association cette semaine. « L’autonomie est l’une des technologies, sinon la clé, permettant d’obtenir une puissance de combat rentable. »

Bien que Meink ne l’ait pas dit explicitement, « s’appuyer » nécessitera une nouvelle réflexion sur l’établissement d’une confiance entre les aviateurs humains et les assistants IA, les chatbots et les drones autonomes qui les entoureront. Mais d’autres parties de l’Air Force ont consacré beaucoup de temps à y réfléchir, d’autant plus que le service s’efforce de déployer 500 avions de combat collaboratifs hautement autonomes, ou CCA, d’ici 2032.

« Il y a une question de confiance et d’autonomie », a déclaré Michael Gregg, directeur des systèmes aérospatiaux au laboratoire de recherche de l’Air Force. « Nous avons des psychologues et des spécialistes du comportement dans notre 711e Escadre de performance humaine qui étudient actuellement ce problème : comment associer des machines avec des humains pour rendre les humains vraiment très bons dans ce qu’ils font et les aider à prendre des décisions ? C’est l’avenir. »

Et pour certaines missions, comme la protection des bases aériennes contre les attaques de drones, l’Air Force explore la possibilité non pas d’augmenter mais de remplacer la prise de décision humaine. Les vagues de drones frappant les villes ukrainiennes et ravageant les bases américaines au Moyen-Orient incitent les chefs de service à explorer l’utilisation d’agents – des outils d’IA capables d’agir – pour travailler sur le processus d’obtention des autorisations nécessaires au lancement de contre-attaques.

Cela nécessitera que les humains définissent un risque acceptable pour permettre aux agents d’IA de prendre des décisions.

« Il y a une pression accrue sur la façon dont nous utilisons les agents et le flux de travail agent dans tout, des incendies à nos activités de back-office, et comme vous en verrez beaucoup plus à venir cette année », a déclaré Ben Van Roo, PDG de Legion Intelligence, une société qui développe des agents d’IA agentiques à des fins de sécurité nationale.

La question de l’IA dirigeant les « tirs » est controversée, car le terme suggère de permettre à un programme logiciel de lancer un missile, de tirer avec une arme à feu ou de lancer une arme mortelle. Même s’il existe quelques exceptions, la doctrine militaire affirme une forte préférence pour un contrôle humain significatif sur les effets potentiellement mortels.

Mais les technologies cybernétiques, à énergie dirigée et autres technologies non létales donnent à l’armée davantage de tirs qu’elle pourrait déployer sans surveillance humaine, a déclaré Mike Hiatt, directeur de la technologie chez Epirus, une entreprise qui fabrique des défenses contre les drones à micro-ondes et autres énergies dirigées.

« Si vous pouvez avoir une option qui a des effets collatéraux moindres et aucun dommage collatéral, vous savez, ce que proposent les armes à énergie dirigée, vous commencez à pouvoir modifier votre calcul de risque. Vous commencez à être capable de prendre des décisions où vous dites ‘OK, je suis un peu plus à l’aise avec la mise en mode entièrement autonome de cette partie du système », a déclaré Hiatt.

Van Roo a déclaré que les processus décisionnels permettant des cyberattaques autonomes ou des effets non létaux pourraient éventuellement être accélérés grâce à l’IA, voire même complètement automatisés.

« Nous n’en sommes encore qu’aux balbutiements en ce moment sur la façon dont nous réfléchissons à l’endroit où nous allons utiliser les agents, sur quoi allons-nous leur permettre de décider ? Comment s’intègrent-ils dans nos tactiques, nos techniques et nos procédures, dans notre doctrine ? » dit-il.

Pour que les dirigeants et les opérateurs se sentent à l’aise avec les agents d’IA, il faudra de nouvelles doctrines, formations et autorisations, ainsi qu’un degré élevé de confiance dans le fonctionnement prévisible des outils d’IA.

« Cela va se produire sous nos yeux avant que l’IA et les robots tueurs ne prennent le contrôle du monde », a-t-il déclaré.

La conférence de cette année s’est déroulée au milieu d’un débat national sur les dangers de l’IA, la manière dont elle devrait être réglementée et qui devrait décider.

Les révélations de l’été dernier par Anthropic et OpenAI sur un comportement surprenant et dangereux des modèles ont été suivies le 9 septembre par la démission très médiatisée d’un ingénieur d’Anthropic qui affirmait qu’il y avait 10 % de probabilité que l’IA « puisse tuer tous les humains ». Le lendemain, les représentants de ces entreprises et de Google ont intensifié leurs efforts pour créer un organisme de sécurité de l’industrie tout en signalant leur ouverture à l’action du Congrès. Mais le président Donald Trump s’oppose à cette réglementation, qui a déclaré cette semaine : « Le seul contrôle ou « garde-fou » dont l’IA a besoin est un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !), et les États-Unis en ont, à la pelle !

La volonté des dirigeants du Pentagone d’accepter l’IA pourrait provenir du fait que leurs systèmes actuels n’ont pas réussi à assurer la sécurité des principales bases américaines. Mais cela peut aussi refléter plusieurs années d’efforts du ministère de la Défense pour répondre aux préoccupations concernant l’intention, l’alignement et l’utilisation sûre avec lesquelles les laboratoires d’IA de pointe sont actuellement aux prises. Depuis 2019, l’armée dispose d’une liste de principes éthiques pour guider le développement, l’expérimentation et l’utilisation de l’IA. Il passe également en revue les processus, les expériences et les procédures de test des nouvelles technologies, y compris les logiciels et, bien sûr, les armes les plus dangereuses sur Terre.

Mais le rythme des progrès de l’IA modifie rapidement les concepts de développement et de test des armes. Ryan Tseng, président et co-fondateur de Shield AI, a déclaré à l’AFA que son entreprise avait travaillé avec les Ukrainiens pour améliorer de 70 % la capacité de frappe de l’un des drones de l’entreprise grâce à des « comportements autonomes avancés ».

Si les drones autonomes sont la signature de la guerre en Ukraine, de nombreux responsables militaires s’attendent à ce que le prochain conflit soit défini par une collaboration rapide entre agents, humains et drones, qui accélérera les frappes et contre-attaques. Cela nécessitera également une évolution continue en matière d’instauration de la confiance entre les humains et les entités d’IA.

« Quand nous pensons à un avenir qui verra des déploiements à très grande échelle de systèmes qui devront interopérer les uns avec les autres », a déclaré Tseng. « C’est un espace de décision beaucoup plus vaste. Beaucoup plus de choses peuvent se produire. »