Les dirigeants du Pentagone adorent l’IA agentique. Mais cela donne aux cybercriminels des pouvoirs comparables à ceux d’un État-nation.

Les dirigeants du Pentagone affirment que les travailleurs utilisent de nouveaux outils d’IA agentique pour compresser des semaines de travail en heures. Mais ces mêmes outils ouvrent de nouvelles frontières en matière de criminalité numérique et modifient la nature même de la cybersécurité.

Le déploiement d’outils agents sur la plateforme GenAI.mil du département depuis décembre a été un « énorme succès », a déclaré mardi Emil Michael, sous-secrétaire à la Défense pour la recherche et l’ingénierie, aux journalistes du Pentagone.

Michael a déclaré que les gens utilisaient les outils pour effectuer « la partie banale de leur travail » et prenaient « une tâche de deux semaines et la réduisaient à trois heures ».

La plate-forme a récemment ajouté Gemini de Google et en recherche davantage.

Nous « essayons d’avoir des options afin de ne pas être mono-thread sur un seul fournisseur, et chacun de ces modèles est formé d’une manière quelque peu différente sur différentes données. Nous allons donc apprendre lesquels sont les plus performants sur quelles dimensions », a-t-il déclaré.

Dans sa quête d’outils d’IA pouvant aider à détecter les vulnérabilités, le Pentagone évalue même Mythos, un puissant modèle agent créé par Anthropic, une entreprise officiellement qualifiée de risque pour la sécurité nationale. Anthropic a poursuivi le gouvernement en justice pour cette désignation.

Michael a déclaré que le gouvernement était dans une « période de test et d’évaluation » avec Mythos, qui est déjà utilisé par des agences et un groupe sélectionné de grandes entreprises pour trouver des vulnérabilités. Il a tenté d’expliquer pourquoi le Pentagone utilisait toujours les outils d’une entreprise qui menacerait la sécurité nationale, affirmant que Mythos est « un produit différent à certains égards. Différent probablement de l’entreprise elle-même ».

Ce que le Pentagone et le reste du gouvernement fédéral doivent faire maintenant, a déclaré Michael, c’est « regarder ce que ce modèle peut faire, non seulement pour l’infrastructure logicielle et matérielle du gouvernement, mais aussi pour le secteur privé… pour les hôpitaux ruraux, pour les usines de traitement des eaux usées, pour tout le reste. Afin que nous ayons la possibilité de les corriger avant que les adversaires n’obtiennent la même capacité ».

Quand les criminels utilisent l’IA agentique

Michael a déclaré que les outils d’IA basés sur des agents comme Mythos, qui peuvent détecter et corriger les vulnérabilités sans surveillance humaine, deviendront plus standards.

« Toutes les grandes entreprises technologiques utilisent désormais ces cyber-modèles pour détecter les vulnérabilités. Elles essaient de créer des correctifs automatiques en utilisant des agents et en utilisant les mêmes modèles. Nous nous attendons donc à ce que cela se développe dans l’ensemble du secteur et au sein du gouvernement. »

Mais cela ne suffira pas à se protéger contre les futures attaques basées sur l’IA.

Jackson Reed, fondateur de la startup d’IA Barding Defense, affirme que les outils agents vont changer la cybersécurité d’une manière que de nombreuses institutions n’apprécient pas encore.

« Nous allons voir les groupes criminels ressembler beaucoup plus à des acteurs étatiques », a déclaré Reed.

Qu’est-ce que cela signifie? Aujourd’hui, la plupart des cybercriminels se concentrent sur des attaques rapides, comme le vol de données ou leur chiffrement contre une rançon. Mais bientôt, a-t-il dit, ils imiteront certains groupes chinois et russes soutenus par l’État en essayant de rester dans un réseau pour espionner, déplacer « latéralement, » ou manipuler des données.

« Les changements dans les compétences des attaquants vont produire de toutes nouvelles taxonomies d’attaque (comme l’exemple du délit d’initié industrialisé ou le déploiement de ransomwares à l’échelle de l’industrie) qui poseront des risques pour la société et soulèveront des questions sur la faisabilité des approches constitutionnelles actuelles », a déclaré Reed dans un e-mail de suivi.

Cela créera des modèles commerciaux pour les cybercriminels et pour les États comme la Russie qui travaillent régulièrement avec ces groupes criminels. Reed a déclaré que l’utilisation de l’IA pour détecter et corriger automatiquement les failles logicielles ne protégerait pas contre cela. Par exemple, Opus 4.6, le dernier modèle de codage et de raisonnement d’Anthropic, peut trouver et corriger les vulnérabilités logicielles, mais il manque des éléments comme le mouvement latéral, dit-il.

Reed travaille avec Breakpoint Labs, une société de cybersécurité qui travaille avec l’armée américaine, pour développer un nouveau type de plate-forme d’agents pour aider les professionnels de la cybersécurité à détecter les nouveaux types d’attaques que les outils d’IA agentique permettent mais ne peuvent pas détecter.