Alors que les modèles d’IA se libèrent, la Maison Blanche travaille avec des entreprises sur des mesures de sécurité secrètes
Personne ne dit officiellement ce qui a été décidé lorsque les principaux laboratoires d’IA de pointe – Google, OpenAI, Anthropic et Meta – ont rencontré mardi des responsables de la Maison Blanche pour discuter de lignes directrices volontaires pour tester de nouveaux modèles.
Mais les législateurs démocrates ont qualifié l’approche réglementaire de l’administration Trump de « ponctuelle et imprévisible », et ont déclaré qu’elle risquait de stimuler l’adoption mondiale des modèles chinois rivaux au pire moment possible.
Deux responsables de l’un des laboratoires ont déclaré que Google, Anthropic et OpenAI avaient soumis un projet commun de règlement il y a environ neuf jours, puis avaient commencé à travailler entre eux et avec la Maison Blanche pour trouver des points d’accord. Selon les responsables, les laboratoires ont tous convenu qu’ils devraient pouvoir poursuivre les tests A/B dans le cadre du processus de développement de modèles, et la Maison Blanche était d’accord.
Les entreprises qui acceptent le cadre soumettront leurs modèles aux inspecteurs américains pour qu’ils en évaluent la sécurité pendant 30 jours avant de pouvoir recevoir un financement fédéral, notamment du ministère de la Défense, dont la demande de budget 2027 vise plus de 54 milliards de dollars pour les entreprises d’IA, selon les responsables.
Un décret de la Maison Blanche de juin ajoute que les modèles des sociétés participantes bénéficieraient d’une protection supplémentaire de leur propriété intellectuelle contre les concurrents chinois ou d’autres personnes susceptibles de chercher à voler des secrets.
La Maison Blanche ne fait aucun commentaire sur la manière dont elle mènera les inspections. L’un des responsables a déclaré que le Bureau de la politique scientifique et technologique essayait toujours de définir des normes de test et la manière dont des organismes tels que l’Institut national des normes et de la technologie et la Cybersecurity and Infrastructure Security Agency réaliseraient ou concevraient des tests.
Le flou entourant les détails de la politique a provoqué la colère de certains législateurs de premier plan. Dans une lettre de mardi, les démocrates du Sénat demandent à la Maison Blanche de « fournir une réponse non classifiée, avec une annexe classifiée si nécessaire, clarifiant la politique et l’approche actuelles de l’administration visant à limiter l’accès aux modèles d’IA avancés ».
Les législateurs ont également exprimé leur inquiétude quant aux nouvelles capacités des modèles à défier toute inspection, examen et limitation faciles.
« Lors d’une évaluation interne (en juillet), les modèles OpenAI ont échappé à leur environnement de test et ont utilisé des capacités techniques de haut niveau pour compromettre le réseau d’un tiers sans aucune instruction pour prendre ces mesures », indique la lettre. « Le gouvernement fédéral ne peut pas rester passif face à l’émergence de ces capacités. »
Le moment Jurassic Park d’IA
La semaine dernière, la société chinoise Moonshot AI a lancé un nouveau modèle à poids ouvert, le Kimi 3, aussi performant que certains modèles américains haut de gamme et proposé aux consommateurs du monde entier à un prix bien inférieur.
Les législateurs et d’autres s’inquiètent de plus en plus du fait que les États-Unis pourraient prendre du retard sur la Chine dans une course visant à développer des modèles plus rapides, plus efficaces et plus rentables et à façonner la manière dont les populations mondiales utilisent, achètent, vendent et même construisent l’IA. Les modèles de poids ouverts sont devenus un point de discorde clé.
Anthropic souhaite un examen plus minutieux des modèles à poids ouvert et davantage d’efforts pour freiner les ventes de puces hautes performances à la Chine afin de contrecarrer les attaques par distillation. Mais d’autres acteurs du secteur sont plus favorables aux poids ouverts.
Un ancien haut responsable de la Maison Blanche et un ancien haut responsable de la défense ayant une connaissance directe de la discussion ont déclaré qu’Anthropic avait insisté pour que le cadre soit plus rédigé pour aborder la sécurité à poids ouvert, mais qu’il en est ressorti déçu.
Anthropic n’a pas commenté cette histoire.
Ces derniers mois, plusieurs des modèles d’IA les plus récents sont sortis de leurs conteneurs de tests virtuels.
Anthropic a révélé le premier incident de ce type en avril, lorsqu’une première version de son modèle Mythos était capable « d’écrire de manière autonome des exploits remarquablement sophistiqués », dont un qui lui permettait d’échapper à un environnement de test isolé que les programmeurs utilisent pour tester l’efficacité et la sécurité du code avant sa publication.
Anthropic a retiré le modèle de la version générale, mais l’a rendu disponible sous le « Projet Glasswing » afin que le gouvernement et une poignée de grandes entreprises puissent trouver et corriger les vulnérabilités de leurs logiciels.
La Maison Blanche a réagi en interdisant le contrôle des exportations le 12 juin, interdisant l’accès au modèle non seulement aux pays étrangers mais même aux étrangers aux États-Unis. Cela signifiait que les propres chercheurs d’Anthropic, dont beaucoup étaient nés en dehors des États-Unis, ne pouvaient pas travailler sur ce modèle. La Maison Blanche a annulé l’interdiction le 30 juin.
En juillet, les tensions autour d’une stratégie nationale de sécurité de l’IA, ou de son absence, se sont intensifiées. Anthropic et OpenAI ont révélé de nouveaux incidents au cours desquels des modèles ont violé leur confinement. Cela n’a pas surpris de nombreux experts chevronnés en cybersécurité. Le chercheur et auteur en IA Gary Marcus, en 2022, a prédit une telle possibilité sur son blog, la décrivant comme un « moment Jurassic Park de l’IA ».
La semaine dernière, Stephen Schmidt, responsable de la sécurité d’AWS, a déclaré aux journalistes : « Les conteneurs ne sont pas des limites de sécurité. J’ai en fait un T-shirt qui dit cela, que j’ai commencé à porter il y a environ trois ans. »
AWS héberge plusieurs modèles pour les utilisateurs via sa plateforme Bedrock. Schmidt a déclaré que l’ère du mythe de l’IA nécessite une approche beaucoup plus vigilante en matière de cybersécurité, en particulier de la part des chercheurs.
« L’une des raisons pour lesquelles nous avons construit l’infrastructure de virtualisation pour AWS à l’aide de nos propres hyperviseurs Nitro il y a de nombreuses années était que nous avions réalisé que les conteneurs n’étaient pas une limite de sécurité appropriée. Il en va de même pour l’IA. Vous ne pouvez pas utiliser un conteneur IA comme limite de sécurité. «
En mars, un groupe de chercheurs britanniques a calculé la période de rupture du bac à sable pour divers grands modèles de langage, ce qui s’est avéré très précis des mois plus tard.
Un article de suivi publié cette semaine par le même groupe décrit comment créer de meilleurs environnements de confinement pour les modèles émergents aujourd’hui.
