Le nouveau modèle d’IA d’Anthropic peut identifier plus de bogues logiciels que jamais. Microsoft a du mal à les corriger assez rapidement.

Un après-midi de mi-mai, des dizaines d’ingénieurs Microsoft et leurs managers se sont réunis en ligne et dans une salle de conférence au siège de l’entreprise à Redmond, dans l’État de Washington, pour discuter du projet Glasswing.

Le géant de la technologie s’empressait de corriger les faiblesses de son code qu’un nouveau modèle d’IA connu sous le nom de Mythos découvrait à un rythme sans précédent. Le géant de l’IA Anthropic, qui a développé Mythos, avait donné accès à des organisations sélectionnées qui créent des logiciels utilisés par des particuliers, des entreprises et des gouvernements du monde entier. L’objectif était de trouver et de corriger les vulnérabilités avant que les pirates informatiques et les gouvernements adverses comme la Chine ne commencent à utiliser des outils similaires pour les trouver et les exploiter à des fins d’espionnage et de sabotage.

Alors que le groupe s’installait, un ingénieur a posé la question qui a dominé la réunion : Mythos « a-t-il été à la hauteur du battage médiatique qu’Anthropic prétendait avoir eu ? »

La version utilisée par Microsoft, Claude Mythos Preview, faisait apparaître des bogues plus rapidement que le géant de la technologie ne pouvait les corriger, et les ingénieurs, a déclaré le responsable, étaient désormais dans « une course folle » pour combler l’écart.

Une diapositive de la présentation du jour montrait qu’au cours du seul mois d’avril, Mythos avait découvert 90 bogues « critiques » et 141 bogues « importants » dans SharePoint, le logiciel de collaboration largement utilisé de Microsoft. Dans la première quinzaine de mai, on en a trouvé encore plus.

« S’il vous plaît, s’il vous plaît, s’il vous plaît, si votre organisation a des bugs d’avril, supprimez-les », a imploré le responsable de l’ingénierie Hans Andersen au groupe. Ils avaient environ deux semaines « pour trouver autant de choses et faire le plus de bien possible grâce à cet accès ».

Le 31 mai, a-t-il expliqué, « est considéré comme le jour où le reste du monde aura rattrapé son retard ».

Les ingénieurs présents à l’appel ont insisté sur cette affirmation, l’un d’entre eux résumant la situation : « Donc, en gros, vous dites que s’il sort le 1er juin, alors le 2 juin, les adversaires auront nos bugs ? »

Oui, une personne a répondu. Oui, un autre a fait écho.

Compte tenu du déluge de failles identifiées par Mythos, Microsoft s’est jusqu’à présent concentré sur la correction de celles qu’il considère comme les plus dangereuses, qui sont classées critiques ou importantes, selon la présentation ainsi que les propres mises à jour publiques des correctifs de l’entreprise. Les dossiers internes indiquent que Microsoft prévoit de corriger à terme les failles de gravité « modérée » découvertes par Mythos. Les documents ne faisaient aucune mention de bogues de « faible » gravité.

L’approche de l’entreprise reflète le système de triage typique du secteur. Tout comme les patients les plus malades sont les premiers à être soignés aux urgences, le tri des vulnérabilités donne la priorité aux problèmes susceptibles de causer le plus de dégâts s’ils sont exploités par des pirates informatiques.

Mais cette stratégie comporte son propre risque à l’ère de la recherche de bogues basée sur l’IA, dans laquelle de nouveaux outils révèlent un volume record de faiblesses dans les produits que nous utilisons quotidiennement. Mythos, par exemple, est capable d’enchaîner une série de bugs qui s’appuient les uns sur les autres, ce qui signifie que les vulnérabilités de gravité faible ou modérée qui restent non corrigées pourraient créer une ouverture pour mener des attaques dévastatrices.

« Le problème maintenant est que vous pouvez enchaîner quatre failles de bas niveau, ce qui peut équivaloir à une gravité élevée », a déclaré Vinh Nguyen, conseiller technique principal chez Anthropic et chercheur principal en IA au Council on Foreign Relations, qui était auparavant directeur de l’IA et scientifique en chef des données à la National Security Agency. « Si vous êtes Microsoft, la stratégie de tri actuelle risque de sous-évaluer les risques. »

Interrogé sur la présentation interne et sur la date limite du 31 mai, alors imminente, le porte-parole a minimisé son importance, affirmant que « le ciblage et l’exploitation accélérés de nouvelles vulnérabilités ne sont pas un phénomène nouveau ». Cela dit, a-t-il ajouté, les commentaires formulés lors de la réunion reflètent à quel point l’entreprise « ressent un sentiment d’urgence d’aider nos clients en ce moment ».

« Ce qui a été entendu lors de cet appel et qui est vrai aujourd’hui, c’est que la sécurité est la priorité la plus importante de Microsoft et que les équipes de l’entreprise donnent la priorité à l’utilisation de l’IA pour découvrir et corriger les vulnérabilités le plus rapidement possible. »

Microsoft a refusé de répondre aux questions sur le nombre de bogues corrigés par les ingénieurs depuis la présentation.

Anthropic a refusé de commenter.

La présentation interne de Microsoft et les diapositives qui l’accompagnent prédisent que le groupe d’employés travaillant sur SharePoint, utilisé par les gouvernements et les entreprises du monde entier pour gérer les données et les documents, « sera occupé pendant des mois », travaillant d’abord sur les bogues critiques les plus prioritaires, puis s’attaquant aux plus importants en août. Microsoft affirme que les vulnérabilités qu’il qualifie de critiques incluent ce que l’on appelle les vers qui peuvent faire planter les systèmes et propager des logiciels malveillants lors de leur course sur les réseaux informatiques. Les plus importantes pourraient entraîner une « compromission de la confidentialité, de l’intégrité ou de la disponibilité des données des utilisateurs » ainsi que de la « disponibilité des ressources de traitement ». Une fois ces catégories effacées, le groupe commencerait à travailler sur environ 300 bugs « modérés », selon la présentation.

« Ils ne sont ni profonds ni exotiques, mais ils sont réels », a déclaré Andersen, le responsable de l’ingénierie, lors de la réunion. « Et beaucoup d’entre eux sont exploitables. »

On ne sait pas si les pirates ont exploité un bug spécifique identifié par Mythos, mais certains ont exploité l’IA pour automatiser les attaques et semblent utiliser une technologie de type Mythos pour trouver et exploiter les faiblesses.

Il y a eu des signes extérieurs de la lutte interne de Microsoft pour faire face à la liste croissante de bogues à corriger. Chaque mois, la société publie publiquement des correctifs pour ses vulnérabilités logicielles dans le cadre de ce que l’on appelle le « Patch Tuesday ». En juin, la société a publié des correctifs pour plus de 200 bogues, ce qui, selon les experts du secteur, constituait un niveau record. Mais le 14 juillet, la société a battu ce record et publié des correctifs pour plus de 600 bogues. Selon Dustin Childs, responsable du programme de primes aux bogues Zero Day Initiative, qui fait partie de la société de cybersécurité TrendAI, seuls sept ont été classés comme de gravité faible ou modérée, dont un que les pirates exploitaient activement. Le reste était important ou critique.

« Eh bien les amis. Nous y sommes. L’apocalypse des bugs s’est entièrement abattue sur nous », a écrit Childs dans un article de blog le 14 juillet.

Compte tenu des nouvelles réalités de l’ère de l’IA, notamment des capacités de chaînage, des entreprises comme Microsoft pourraient devoir repenser toute leur approche du triage, a déclaré Nguyen, ancien chef de l’IA à la NSA. Plutôt que de laisser de côté ce qui est désormais considéré comme des failles à faible risque, les entreprises devraient consacrer du personnel au développement et aux tests de correctifs pour l’ensemble du spectre des vulnérabilités, a-t-il déclaré. En d’autres termes, les cyberurgences ont besoin de davantage de médecins et d’infirmières pour traiter les maladies potentiellement mortelles ainsi que les blessures mineures qui pourraient plus tard devenir mortelles.

« Il n’y a pas d’alternative », a déclaré Nguyen. « Les patients arrivent vite et furieux. »

« L’apocalypse des bugs s’est entièrement abattue sur nous. »

Dustin Childs, responsable du programme de bug bounty de la Zero Day Initiative

Les utilisateurs de Microsoft peuvent être particulièrement vulnérables. La popularité de ses offres, utilisées dans le monde entier, en fait une cible fréquente et lucrative pour les pirates. De plus, nombre de ses produits contiennent du code « hérité ». Développé il y a plusieurs décennies à l’aide d’une technologie désormais obsolète, ce code contient des failles non corrigées et contribue à ce que l’industrie appelle la « dette technique ».

Mais le défi de la correction du flot de bogues nouvellement découverts s’étend également au reste de l’industrie du logiciel, ainsi qu’au code des logiciels open source dont l’utilisation est généralement gratuite et en grande partie gérée par des bénévoles. Les logiciels open source sous-tendent l’infrastructure Internet et sont intégrés à une grande partie de la technologie moderne mondiale, y compris aux produits proposés par de grandes entreprises technologiques telles que Microsoft.

« Personne n’a vraiment compris comment gérer cela, et tout le monde cherche ce qu’il doit faire », a déclaré J. Michael Daniel, ancien conseiller en cybersécurité du président Barack Obama et président de la Cyber ​​Threat Alliance, une organisation à but non lucratif axée sur la cybersécurité. « Notre dette technologique arrive à échéance. »

Ben Edwards, un data scientist spécialisé dans la gestion des vulnérabilités logicielles, a déclaré que l’industrie du logiciel traitait un « volume intense avant même l’IA ».

« Avant, c’était comme boire avec un tuyau d’arrosage sur un jet, et maintenant c’est comme boire avec une lance d’incendie », a déclaré Edwards. « Ils avaient peut-être les équipes capables de manipuler ce tuyau d’arrosage. Qu’ils puissent manipuler la lance d’incendie est une autre chose. »

Selon les diapositives accompagnant la présentation interne de mai, Anthropic a fourni à Mythos un accès à environ 50 employés Microsoft à temps plein, dans le but de « renforcer les services critiques avant que les modèles accessibles au public ne rattrapent leur retard ». Une diapositive intitulée « Quelles sont les prochaines étapes » prédit que le Microsoft Security Response Center connaîtrait un volume de dossiers continu « à mesure que les outils publics rattrapent » Mythos.

Lors de la réunion de mai, un membre du personnel a semblé se consoler en pensant que les adversaires « n’ont pas le code source » qui permettrait à un tel outil d’IA d’analyser les faiblesses. Ses collègues l’ont cependant rapidement corrigé. Des parties du code de Microsoft sont en fait tombées entre les mains des pirates au fil des années.

« Ce n’est peut-être pas le code source de cette semaine », a déclaré une personne. « Mais ils ont le code source. Il est disponible. »