La tromperie basée sur l’IA menace les opérations futures et augmente les risques de conflits majeurs, déclare le responsable des opérations spéciales
HONOLULU — La collecte et l’analyse plus rapides du renseignement grâce à l’IA permettent aux opérateurs spéciaux de mener à bien des missions qui auraient été impossibles il y a des années, a déclaré mercredi le chef du commandement des opérations spéciales des États-Unis, l’amiral Frank Bradley. Mais des acteurs malveillants, habilités par de simples outils d’IA, sapent la confiance des dirigeants militaires et civils dans l’information numérique, a-t-il déclaré. Cette dégradation de la crédibilité, soulevant le doute sur ce qui est vrai et ce qui ne l’est pas, affectera non seulement les opérations mais aussi la capacité des États-Unis à « générer cette unité d’effort » pour dissuader ou se défendre contre une attaque adverse, a-t-il déclaré.
« J’ai été tourmenté par les détournements de mon propre personnel sur l’utilisation de l’intelligence artificielle », a-t-il déclaré lors du Symposium sur la guerre irrégulière dans l’Indo-Pacifique de la Fondation Global SOF, une réunion de forces d’opérations spéciales internationales, de représentants de l’industrie et de certains législateurs. « Si vous ne faisiez pas partie de l’équipe interne, vous ne pourriez probablement pas faire la différence en raison de la capacité de l’IA à créer du contenu deepfake. »
Les efforts continus de la Russie et de la Chine pour tromper le public occidental, à la fois à des fins tactiques et pour influencer l’opinion publique, parfois appelés « mesures actives », sont renforcés par les outils d’IA. Mais ces efforts ne sont pas isolés. Ibrahim Traoré, le chef d’une junte qui contrôle actuellement le Burkina Faso, a montré à quel point il est facile, même pour de petits dictateurs, d’utiliser les outils de l’IA pour prendre le contrôle des populations.
« Les mesures actives ont dévoré le monde », a déclaré un ancien responsable du renseignement du Département d’État. Défense Un.
Un contenu plus convaincant basé sur l’IA, qui façonne discrètement mais systématiquement les perceptions sur ce qui se passe et où, est devenu l’élément dominant d’un nouveau champ de bataille critique, a déclaré Bradley. « Exposer un comportement hostile pour ce qu’il est exactement : un éclairage crédible et précoce est un avantage essentiel… L’avantage de l’information mène à l’avantage de la décision », a-t-il déclaré.
Un responsable militaire américain qui travaille dans le contre-espionnage et l’analyse de l’influence étrangère a déclaré : « L’IA a rendu la tromperie évolutive. Même en dehors de campagnes spécifiques, cela sapera la confiance dans toute collecte de renseignements. Chaque source d’information deviendra de plus en plus suspecte. Nous ne luttons plus seulement contre les courriels de phishing, nous luttons contre les voix synthétiques, les visages clonés et les fausses identités suffisamment convaincantes pour tromper les personnes qui connaissent le mieux la vraie personne. «
L’ancien responsable du Département d’État a déclaré que les États-Unis, sous la nouvelle administration Trump, avaient abandonné les outils essentiels pour surveiller et détecter l’influence étrangère au moment même où les adversaires augmentaient leur capacité à mener des opérations d’influence.
« Ironiquement, l’environnement de l’information lui-même est beaucoup moins transparent qu’avant », ont-ils déclaré, décrivant comment les changements de direction dans les sociétés de médias sociaux ont diminué la transparence sur des questions telles que la modération du contenu et l’autorisation de la désinformation sur la plateforme.
« Les structures qui protégeaient l’environnement national n’existent plus. On ne sait pas clairement qui est capable de voir cela », ont-ils déclaré, faisant référence à des bureaux gouvernementaux tels que le Foreign Influence Task Force (FITF) du FBI, le Foreign Malign Influence Center du DNI et diverses activités et programmes de l’USAID.
Un effet secondaire de ces décisions : les analystes ou les agents du renseignement qui ne travaillent pas directement avec ces entités mais qui pourraient suivre les attaques d’influence étrangère d’une autre manière seront moins susceptibles de faire part de leurs inquiétudes sur ce qu’ils voient.
« La bureaucratie fédérale est très sensible aux priorités des dirigeants politiques, et je pense que vous réalisez à ce stade que se pencher sur ces questions ne sera pas une démarche d’amélioration de carrière », ont-ils déclaré. « Nous vivons actuellement une période où nous volons largement à l’aveugle. »
Un nouveau terrain de jeu
De nouveaux outils permettant de synthétiser à grande échelle des renseignements provenant de sources multiples offriront de nouvelles voies permettant d’accéder plus rapidement à la vérité. Cela permet déjà d’accélérer les opérations conjointes, ce qui n’aurait pas été possible il y a seulement quelques années, a déclaré Bradley.
Il a souligné le sauvetage en avril d’un pilote de F-15 abattu derrière les lignes ennemies, « rendu possible par des renseignements étroitement synchronisés, un soutien cybernétique et une coordination disciplinée entre plusieurs éléments ». C’est le genre de coordination qui ne peut se produire que lorsque plusieurs éléments peuvent partager une image commune du renseignement qui évolue aussi rapidement que les conditions du monde réel, et des données qui prédisent efficacement comment les conditions vont changer, a-t-il déclaré.
Un responsable du renseignement a décrit comment ces nouveaux flux de renseignements façonnent les décisions non seulement pour les commandants, mais pour tout le monde à la fois.
« Il y a environ 10 ans, (l’imagerie virtuelle) était réservée aux analystes ou aux personnes spécialisées dans ces domaines. Mais maintenant, nous en introduisons 10, 20, 30, je veux dire, des dizaines, voire des milliers, de sources de données différentes pour créer ce niveau d’opérateur », ont-ils déclaré. « Et il est mis à jour toutes les 15 minutes. »
Le défi à l’avenir, ont déclaré Bradley et le responsable du renseignement, n’est pas seulement de trouver de nouveaux flux de renseignements et de données, mais aussi de leur faire confiance, en particulier dans un futur environnement d’information où les agents d’IA adversaires trouvent de nouvelles méthodes pour accéder et modifier les données et les renseignements.
« Nous consacrons actuellement beaucoup de temps et d’énergie au sein du ministère de la Guerre, mais également au sein du gouvernement des États-Unis, pour garantir que ces ensembles de données et que ces systèmes sont correctement protégés contre les attaques d’IA agentiques qui pourraient arriver », a déclaré Bradley.
