L’outil Agentic-AI vise à offrir aux commandants américains de nouvelles options de cibles « en quelques secondes »
Un nouvel outil d’IA agentique analysera en permanence les flux de renseignement et les réseaux opérationnels pour fournir aux commandants militaires américains des options de ciblage « en quelques secondes », a annoncé jeudi le Pentagone.
Baptisé Agent Network, le nouvel outil emploiera des « agents » – des entités d’intelligence artificielle qui effectuent des tâches pour le compte d’un utilisateur, telles que l’exécution d’une recherche programmée ou l’exécution d’une campagne par courrier électronique – pour « analyser en permanence les renseignements de défense et les systèmes opérationnels, traduisant les résultats en options clairement présentées », indique un communiqué de presse, qui ajoute : « Agent Network ne sélectionne ni ne frappe de manière autonome des cibles ; il garantit que les commandants restent responsables de chaque décision. »
Il s’agit de l’un des sept projets « novateurs » initialement dévoilés en janvier, aux côtés d’une nouvelle stratégie d’IA du Pentagone. Les principaux sous-traitants de l’effort Agent Network incluent Lumbra et Palantir, qui gèrent déjà de nombreuses analyses de ciblage via son contrat Maven Smart Systems.
Mais les attentes quant à ce que les agents peuvent faire actuellement peuvent être en avance sur la réalité. « Les tâches que les agents d’IA sont chargés d’effectuer peuvent clairement avoir une complexité informatique supérieure à celle que les grandes architectures de modèles de langage actuelles peuvent gérer », a écrit Vishal Sikka, ancien PDG de SAP, en juillet dernier.
Citant le théorème fondateur de la hiérarchie temporelle, Sikka a noté que les modèles de transformateur abordent les tâches difficiles et les tâches simples en utilisant la même formule mécanique. Ces modèles ne peuvent effectuer qu’un nombre limité d’opérations par « jeton », ce qui correspond à la manière dont les grands modèles de langage comprennent les concepts de mots. Même traiter des concepts apparemment simples peut nécessiter un grand nombre de jetons. En raison de cette limitation, il n’y a aucun moyen d’empêcher un modèle basé sur un transformateur d’halluciner lorsque la tâche que vous lui confiez est plus complexe qu’il n’a de jetons à apporter à cette tâche.
« Malgré leur puissance et leur applicabilité évidentes dans divers domaines, une extrême prudence doit être utilisée avant d’appliquer les LLM à des problèmes ou des cas d’utilisation qui nécessitent de la précision, ou de résoudre des problèmes d’une complexité non triviale », a conclu Sikka.
Mais Illia Pashkov, fondateur de SINT Labs et rédacteur en chef de Les temps des agentsa mis en garde contre une sous-estimation du potentiel des agents.
« Agentic AI a discrètement cessé d’être une démo cette année », a déclaré Pashkov. « Il s’agit de rédiger du code, d’effacer les files d’attente d’assistance, de travailler dans le back-office dans les domaines de la finance et de la santé, et maintenant de lire des renseignements. La vitesse n’est pas un battage médiatique. J’ai vu ces systèmes compresser des semaines de travail d’analyste en un après-midi. »
Mais leurs capacités comportent également des risques, plus que ce que pourraient imaginer les personnes habituées à travailler avec des chatbots IA courants. Les entreprises du secteur privé qui se sont précipitées pour faire travailler des agents d’IA connaissent déjà des problèmes, a déclaré Pashkov, en désignant une entreprise dont l’agent a effacé une base de données de production en direct. À moins d’être soigneusement mis en œuvre, les agents ne peuvent pas savoir quand ils se trompent.
« Le danger n’a jamais été un agent stupide; c’est un agent confiant qui court sans laisse, sans journal de bord ou sans un humain à qui appartient l’appel », a-t-il déclaré.
De nombreux bureaux et équipes du ministère de la Défense commencent à déployer des systèmes d’agents, a déclaré un responsable de la sécurité du renseignement du DOD qui n’est pas directement affilié au programme Agent Network. Le responsable a décrit une atmosphère d’enthousiasme.
« Il existe de nombreuses possibilités d’exploiter les capacités du DOD Enterprise et de permettre aux utilisateurs de créer leurs propres agents », ont-ils déclaré.
Mais le responsable a admis que suivre les performances de chaque agent était un défi majeur. Les gouverner tous sera presque impossible.
