Une proposition politique obligerait les entreprises à divulguer comment elles utilisent l’IA pour développer de nouveaux modèles

Les sociétés d’intelligence artificielle devraient indiquer comment elles utilisent leur propre technologie pour créer de nouveaux modèles d’IA dans le cadre d’une proposition visant à aider Washington à suivre les progrès de l’IA et à déterminer si les développeurs testent correctement leur sécurité.

Le plan, élaboré par Americans for Responsible Innovation et partagé d’abord avec Nextgov/FCWobligerait les principaux développeurs à soumettre des rapports trimestriels à un nouveau bureau du ministère du Commerce et à divulguer les changements importants dans leurs recherches dans un délai de quatre jours ouvrables. Le groupe, qui milite en faveur d’une surveillance fédérale de l’IA, souhaite que les responsables sachent dans quelle mesure l’IA est en recherche et dans quelle mesure les gens la supervisent.

La proposition arrive alors que la Maison Blanche approfondit son implication auprès des sociétés d’IA tout en résistant aux appels en faveur d’un nouveau régime réglementaire de grande envergure. Le président Donald Trump a nommé ce mois-ci le directeur du renseignement national, Jay Clayton, pour diriger la « Super Intelligence Force », un groupe de travail coordonnant l’engagement du gouvernement avec les développeurs et d’autres groupes et évaluant les risques de la technologie. Le décret créant le groupe a été signé à la fin du mois dernier.

Le groupe de Clayton travaille déjà sur la manière dont les entreprises alertent le gouvernement en cas de problème. À la suite de sa première réunion formelle, Emil Michael, responsable technologique du Pentagone, a été chargé de développer des protocoles permettant aux laboratoires de signaler les violations, les piratages et autres problèmes de cybersécurité. Elle a également commandé une étude sur les risques liés à la cybersécurité, aux menaces biologiques et au contrôle des systèmes d’IA.

ARI souhaite que les entreprises signalent quand l’IA assume une plus grande part du travail de création de nouveaux modèles, même si tout va bien. Le groupe affirme que l’automatisation de la recherche pourrait accélérer le développement et laisser aux responsables moins de temps pour évaluer les risques liés à des systèmes de plus en plus puissants.

« La visibilité de Washington sur ce changement ne devrait pas dépendre de ce que les entreprises choisissent d’annoncer », indique un article de blog consacré au cadre.

Le développement d’un système d’IA implique l’écriture de code, la préparation de données pour entraîner les modèles, l’exécution de tests et la décision des résultats qui justifient des travaux supplémentaires. L’automatisation d’un plus grand nombre de ces tâches pourrait aider les entreprises à produire plus rapidement des systèmes plus performants, mais les chercheurs et les responsables de la sécurité pourraient avoir moins de temps pour évaluer ces systèmes avant de les utiliser.

Les récents épisodes de cybersécurité ont montré ce que des systèmes d’IA de plus en plus performants peuvent faire. La semaine dernière, des chercheurs ont utilisé l’IA pour découvrir des faiblesses critiques de PHP, un logiciel qui permet de gérer des sites Web dans le monde entier, provoquant des avertissements urgents de la part des agences américaines de cybersécurité.

Le blog d’ARI cite également une cyber-intrusion historique d’IA plus tôt cette année, au cours de laquelle un agent OpenAI s’est échappé de son environnement de test et a violé Hugging Face. L’incident a été rapidement suivi par des révélations d’agents d’IA ciblant les systèmes fédéraux.

De telles capacités de piratage font partie des risques qu’ARI souhaite que les développeurs doivent évaluer. Les normes proposées couvriraient également les opérations d’influence à grande échelle et les menaces chimiques, biologiques, radiologiques, nucléaires et explosives.

Un changement majeur, tel que l’automatisation complète d’un cycle de recherche, pourrait déclencher l’exigence de notification de quatre jours, indique la proposition. Le commerce pourrait poser des questions de suivi, exiger des rapports plus fréquents et renvoyer les dossiers sciemment faux ou incomplets au ministère de la Justice. Le cadre prévoit également un programme de dénonciation.

Commerce évalue déjà des modèles avancés via un centre du NIST qui travaille avec les développeurs dans le cadre d’accords volontaires pour évaluer les risques, y compris les capacités de piratage. Le plan s’appuierait sur l’analyse technique du centre existant – connu sous le nom de Center for Advancing Innovation and Standards for Super Intelligence – pour façonner les normes de sécurité et déterminer quels modèles relèvent de la surveillance fédérale.

Cela laisse ouverte la question de savoir si les responsabilités réglementaires relèveraient du Commerce ou seraient partagées entre les agences.

Nextgov/FCW a demandé au ministère du Commerce des commentaires sur la proposition.

L’administration a jusqu’à présent mis l’accent sur les mesures de protection prises par les entreprises, notamment un accord signé en septembre par de grands dirigeants du secteur technologique qui appelle à des contrôles internes, des audits externes et des comités de surveillance indépendants. Le groupe de travail de Clayton travaille à la mise en œuvre de cet accord.

Plus tôt ce mois-ci, les sénateurs Maria Cantwell, D-Wash., et Mike Rounds, RS.D., ont exhorté Clayton et le conseiller scientifique de la Maison Blanche, Michael Kratsios, à étendre les tests indépendants et à renforcer les protections contre les systèmes d’IA agissant au-delà de leurs autorisations.