Les principales plates-formes d’IA ont généré des plans viables pour des attaques terroristes, selon le GAO
Quatre des plateformes d’intelligence artificielle les plus utilisées ont généré des plans viables pour des attaques contre les infrastructures critiques américaines et des événements faisant de nombreuses victimes lors de tests secrets du gouvernement, malgré les garanties conçues pour empêcher leur utilisation abusive.
Selon un rapport du Government Accountability Office publié mercredi, les enquêteurs ont testé ChatGPT, Claude, Gemini et Grok au printemps 2026. Ils ont constaté que les quatre plateformes fournissaient des informations susceptibles d’aider les acteurs malveillants à planifier et à mener des attaques.
Dans chaque cas, les enquêteurs ont réussi à contourner les garde-corps de sécurité des quais en utilisant des techniques courantes de contournement des mesures de sécurité.
« Nous avons obtenu les informations néfastes que nous recherchions. Donc, dans ce cas, ces mesures de protection n’ont pas fonctionné. Et je pense que c’est là l’histoire », a déclaré Kevin Walsh, directeur de l’informatique et de la cybersécurité au GAO, dans une interview en podcast publiée parallèlement au rapport.
Les plates-formes ont généré des informations sur deux types d’attaques : la construction et l’explosion d’un engin explosif improvisé conçu pour causer de nombreuses victimes, et le ciblage du réseau électrique pour causer des dommages économiques. Les plateformes ont fourni des détails, notamment des cibles spécifiques, des emplacements, un timing et des méthodes d’attaque.
Chaque plateforme a mis moins de 12 heures pour générer une attaque. Les enquêteurs du GAO ont ensuite travaillé avec des experts pour vérifier que les informations pouvaient être utilisées pour mener les attaques.
Les plateformes ont initialement déployé des garde-fous, notamment en refusant les demandes, en supprimant des informations ou en suspendant des comptes. Cependant, les enquêteurs ont finalement trouvé des moyens de contourner ces protections.
« Ces produits ne sont pas entièrement sous le contrôle des entreprises qui les exploitent », a déclaré Walsh.
« Nous avons examiné quatre des entreprises les plus puissantes au monde – Google, Anthropic, OpenAI et SpaceXAI – et nous avons constaté que le produit qu’elles vendent est potentiellement dangereux », a-t-il ajouté.
Le rapport n’indique pas quelles plateformes ont fourni des informations pour chaque scénario d’attaque. Le GAO a déclaré avoir intentionnellement caché les modèles et techniques spécifiques utilisés pour contourner les garanties afin d’empêcher les acteurs malveillants de recréer les tests.
« Les responsables des entreprises ont généralement déclaré que leurs entreprises continueraient à améliorer la sécurité de leurs plateformes », indique le rapport.
L’organisme de surveillance fédéral a également reconnu que ses conclusions reflètent une évaluation ponctuelle et ne représentent pas « un échantillon statistiquement significatif ».
La sénatrice Maggie Hassan, DN.H., qui a demandé l’enquête, a déclaré que les résultats soulignent la nécessité pour le Congrès de prendre des mesures sur la sécurité de l’IA.
« Un terroriste peut se connecter à une plateforme d’IA et repartir en moins de 12 heures avec un manuel concret sur la manière de mener une attaque meurtrière », a déclaré Hassan dans un communiqué mercredi. « Le nouveau rapport d’aujourd’hui indique clairement que la menace que représente l’IA pour la sécurité publique n’est plus théorique. »
« Si le Congrès n’agit pas, la question se pose de savoir quand – et non si – un mauvais acteur utilisera l’IA pour planifier et mener une attaque majeure », a-t-elle ajouté.
Hassan, qui devrait devenir président de la commission sénatoriale de la sécurité intérieure et des affaires gouvernementales lors du prochain Congrès, a déclaré que la législation sur la sécurité de l’IA serait l’une des premières priorités du panel. Elle a déclaré que l’une des premières audiences du panel au cours de la nouvelle année se concentrerait sur les risques que l’IA pose pour la sécurité intérieure et les infrastructures critiques.
Hassan a déclaré que le comité « donnerait la priorité à l’élaboration d’une législation pour faire face à ces menaces », ajoutant qu’elle explorait des solutions telles que l’exigence de tests de sécurité plus rigoureux avant que les plateformes d’IA ne publient leurs modèles.
Le GAO n’a pas émis de recommandations dans le rapport, qui examinait les produits tiers plutôt que son examen typique des agences fédérales. Au lieu de cela, le GAO a déclaré qu’il cherchait à mettre en évidence les risques pour les législateurs et à attirer l’attention sur les problèmes de sécurité.
