La Russie utilise l’IA conçue par les États-Unis pour fabriquer des drones tueurs, des robots de cyberattaque et des fausses nouvelles.

Des acteurs soutenus par le Kremlin ont utilisé Claude AI d’Anthropic pour programmer des drones mortels autonomes, améliorer les opérations de piratage et d’influence, et éviter d’être détectés, a annoncé jeudi la société.

Le rapport de la société américaine d’IA n’est que le dernier avertissement d’entreprises, de groupes de réflexion et d’autres, selon lequel la Russie, la Chine, l’Iran et d’autres utilisent des outils fabriqués en Amérique pour attaquer des cibles dans le monde entier.

Anthropic rapporte qu’un groupe « indépendant » russe connu sous le nom de GTG-27005 a utilisé Claude pour construire un modèle d’IA suffisamment petit pour fonctionner sur des ordinateurs monocarte mais suffisamment puissant pour permettre à un drone de « sélectionner des cibles (y compris une classe de cibles « personne ») et d’émettre des commandes de détonation sans qu’un humain soit dans la boucle. Le groupe a également utilisé Claude pour créer un logiciel permettant aux drones autonomes de communiquer entre eux afin d’améliorer le ciblage, indique le rapport d’Anthropic. Même si le groupe russe n’avait pas encore déployé le modèle sur le terrain, il « utilisait de véritables tests matériels en boucle au cours de ses sessions », selon le rapport. L’entreprise a interdit le groupe, intégré les conclusions de l’enquête dans ses mesures de protection et partagé les détails avec les groupes industriels.

Anthropic a également déclaré avoir repéré des groupes chinois et yéménites essayant d’utiliser Claude pour concevoir des armes conventionnelles, efforts qu’Anthropic a déclaré avoir perturbés.

Le rapport détaille également comment des groupes étrangers utilisaient Claude dans des campagnes élaborées de vol de données et de désinformation. Il a déclaré que ses outils avaient été utilisés pour extraire des informations sur des cibles, trouver des vulnérabilités dans leurs comptes en ligne, créer des logiciels malveillants pour contourner la sécurité et voler des données, brouiller leurs traces et diffuser de la désinformation.

« Nous avons vu des groupes d’acteurs utiliser Claude pour créer des réseaux de faux profils sur les réseaux sociaux et des sites d’information entiers », indique le rapport.

Ces campagnes portent les marques des campagnes d’influence russes, comme le recours à de faux sites d’information et à des profils de journalistes pour diffuser des mensonges sur les activités de l’OTAN dans les pays baltes. Mais les outils d’IA développés aux États-Unis ont contribué à rationaliser le processus, en augmentant la quantité de désinformation et en créant de faux journalistes beaucoup plus crédibles pour le public local. Les groupes liés à la Russie « ont automatisé une grande partie de leurs opérations depuis le développement, l’acquisition d’infrastructures, le phishing, la persistance via le commandement et le contrôle, jusqu’à l’exfiltration de données », indique le rapport. Le groupe a même utilisé l’IA pour falsifier des documents de la gendarmerie et du ministère de la Défense centrafricains.

Un autre groupe, GTG-84005, a utilisé l’IA pour voler des informations de recensement et publiques qui ont permis à ses agents d’adapter leurs campagnes de messagerie à des publics spécifiques en Malaisie, où le groupe turc « a blanchi les médias d’État russes et chinois en tant que reportages indépendants ».

Le rapport Anthropic de jeudi intervient deux semaines après que le laboratoire frontalier rival OpenAI a révélé que des acteurs russes ont utilisé ChatGPT pour créer une fausse « communauté d’experts » – l’« Institut international Burke » – afin de faire valoir des points de discussion auprès d’un public international.

Bien qu’Anthropic et OpenAI aient réussi à perturber les schémas qu’ils ont découverts, de telles opérations vont probablement se poursuivre alors que la Russie utilise l’IA pour « produire à grande échelle du contenu qui s’aligne sur les récits du Kremlin », selon un rapport d’août de l’Institut pour l’étude de la guerre, ou ISW.

La Russie utilise également la curiosité des jeunes à l’égard de l’IA pour accroître le nombre d’humains qui propagent la désinformation russe, en proposant aux jeunes du monde entier des « stages et formations dans les médias sur l’IA » grâce à des dons universitaires et à des programmes connexes.

Où est la réticence américaine ?

Un article récent de New America note que l’IA donne aux régimes autoritaires un nouvel outil puissant pour fausser la compréhension mondiale des événements géopolitiques.

« Les régimes autoritaires ont été les premiers à utiliser l’IA pour plier l’arc de la réalité en leur faveur », écrivent Daniel Kimmage, ancien coordinateur par intérim et coordinateur adjoint principal du Centre d’engagement mondial du Département d’État, et Darjan Vujica.

C’est le genre de chose que le gouvernement américain a utilisé pour créer et diriger des organisations contre lesquelles il veut lutter, notent-ils. Mais ces efforts ont été sapés ou interrompus sous la deuxième administration Trump. Moins d’un mois après son entrée en fonction, la procureure générale Pam Bondi a dissous la Foreign Influence Task Force du FBI, l’unité chargée d’enquêter sur les campagnes de désinformation et d’influence étrangères. Deux mois plus tard, le secrétaire d’État Marco Rubio a fermé le centre de lutte contre la manipulation et l’interférence des informations étrangères, connu sous le nom de R/Fimi.

Et : « Le plan d’action 2025 de la Maison Blanche sur l’IA appelle explicitement à supprimer toute référence à la désinformation », notent Kimmage et Vujica.

Du moins quand c’est fait par des étrangers.

« L’administration Trump a adopté avec enthousiasme les images générées par l’IA dans des messages politiquement controversés », écrivent-ils.