Le dialogue sino-américain sur l’IA de 2024 devrait commencer par un regard sur les armes chimiques et biologiques
En janvier 2024, le conseiller américain à la sécurité nationale Jake Sullivan et le plus haut diplomate de Pékin, Wang Yi, ont tenu une réunion discrète à Bangkok. Là, des plans provisoires auraient été élaborés pour un Dialogue sino-américain sur les risques posés par la nouvelle génération de plateformes d'intelligence artificielle, qui se tiendra au printemps septentrional de cette année. Pour de nombreux acteurs de la sécurité sanitaire et du contrôle des armements, il s’agit d’une évolution bienvenue.
Déterminer exactement quelles sont les questions prioritaires semble toutefois constituer un défi pour les décideurs politiques des deux côtés. Les responsables américains ont déjà exprimé leurs appréhensions quant au potentiel de désinformation alimentée par l’IA pour corrompre les élections démocratiques ; Les autorités chinoises s’inquiètent sans aucun doute des conséquences que pourrait avoir cette technologie pour maintenir le contrôle sur leur population. Les deux gouvernements ont exploré les nombreuses applications militaires qui pourraient être utiles dans la compétition sino-américaine, de l’aérodynamique au ciblage autonome.
Cependant, une série particulière de plates-formes d’IA présente un risque pour les deux pays si elles tombent entre de mauvaises mains : il s’agit d’outils susceptibles d’aider à la construction d’armes biologiques et chimiques.
Un intérêt partagé
La plupart des reportages médiatiques sur l’intersection des armes « chimio-bio » et des nouvelles plateformes d’IA se sont concentrés sur les grands modèles de langage (LLM) et sur leur potentiel à fournir des instructions exploitables pour la création d’agents biologiques. UN exercice désormais tristement célèbre tenue au Massachusetts Institute of Technology est souvent citée, dans laquelle des étudiants ont réussi à obtenir des instructions d'un LLM pour acquérir et diffuser une gamme de virus.
Cependant, des analyses plus récentes, notamment celles menée par la RAND Corporation, ont montré que les LLM n’apportent guère plus d’aide qu’Internet aux acteurs non qualifiés cherchant à obtenir une arme biologique viable. Bien qu’il subsiste un certain désaccord dans ce domaine, il semble peu probable qu’une personne non formée utilisant un chatbot possède les connaissances tacites requises pour fabriquer une arme biologique déployable, une entreprise qui nécessiterait des années d’expérience dans des laboratoires humides.
Un danger plus grave est posé par une classe moins connue de plates-formes d’IA appelées outils de conception biologique (BDT). Depuis 2023, la sécurité chercheurs de l'Université d'Oxfordle Initiative sur la menace nucléaire, et ailleurs ont appelé la communauté de la sécurité à examiner attentivement ces systèmes et leur potentiel d’armement. Parmi les BDT les plus matures figurent les outils de conception de protéines. Ces systèmes d’IA sont extrêmement prometteurs pour la santé humaine, compte tenu de leur potentiel à contribuer à la conception de nouvelles molécules pour la prochaine génération de médicaments salvateurs. Mais ils pourraient également donner lieu à une prolifération d’expertise technique susceptible d’être utilisée à des fins malveillantes.
Le potentiel des outils protéiques pour aider à concevoir des armes à toxines, telles que la ricine ou la toxine botulique, a déjà été démontré. été exploré. L’utilisation des BDT pour aider à la construction d’agents pathogènes plus complexes, tels que des virus dotés de génomes longs et complexes, pourrait bientôt être réalisable (même si de nombreux virus ont été reconstruits et réanimés ces dernières années). sans ces outils, bien que par des scientifiques expérimentés). Il existe une gamme de autres plateformes biologiques basées sur l'IA qui pourraient être exploités par des acteurs malveillants : outils de conception de vecteurs viraux, outils d’assemblage du génome, outils de prédiction de la toxicité, etc. Lorsqu’elles sont combinées aux ingrédients de plus en plus accessibles et rentables de la biologie synthétique, les implications de ces nouveaux systèmes en matière de sécurité sont réelles.
La plupart des chercheurs estiment que les outils de conception biologique basés sur l’IA nécessitent encore une base solide de connaissances techniques et d’expertise pratique pour les utiliser correctement. Cependant, il est clair que ces nouvelles plates-formes réduisent à la fois les barrières informationnelles à la bio-ingénierie et « élèvent le plafond » des dommages potentiels pour ceux qui pourraient en abuser.
Le monde des armes chimiques est également profondément impacté par l’IA générative. En 2022, une entreprise privée a montré comment son générateur de molécules alimenté par l'IA pouvait produire une litanie d'agents de guerre chimique, y compris l'agent neurotoxique VX, et une gamme d'autres molécules encore inédites qui ont un potentiel offensif. En 2023, une équipe de chimistes a construit un «Moteur de chimie alimenté par LLM» qui pourrait effectuer des opérations complexes lorsqu’on lui donnait des commandes textuelles simples, telles que « planifier et exécuter la synthèse d’un insectifuge ». On peut imaginer le risque d’un tel système entre les mains d’un groupe militant déterminé à la destruction.
Une opportunité partagée
Bien qu’il existe de nombreux points de discorde entre les États-Unis et la Chine sur l’avenir de l’IA, aucune des deux puissances ne souhaite voir les armes chimiques et biologiques se propager plus loin qu’elles ne l’ont déjà fait. Les discussions sur les contrôles nucléaires stratégiques peuvent être difficiles, mais il s’agit d’un domaine dans lequel il existe des intérêts clairs et partagés. Les deux pays ont publiquement exprimé leur dégoût pour de telles armes. Les États Unis complété récemment la destruction de son stock historique d’armes chimiques. La Chine, victime d'une guerre biologique et chimique pendant la Seconde Guerre mondiale, a autorisé des centaines d'inspections sur son territoire par des responsables de l'Organisation pour l'interdiction des armes chimiques (OIAC) et maintient des listes de contrôle chimique comparables à celles de l'Organisation pour l'interdiction des armes chimiques (OIAC). Groupe Australie.
Les réglementations nationales visant à contrôler les nouvelles plateformes d’IA n’en sont qu’à leur stade de formation dans les deux pays. La plupart, dans le cas chinois, se sont concentrés sur les implications pour la « stabilité sociale » ; Aux États-Unis, les inquiétudes tournent autour des menaces qui pèsent sur la sécurité de l’emploi, l’intégrité de l’information et les processus démocratiques. Et bien que les applications militaires de l’IA aient été évoquées dans certains documents politiques, le lien avec les armes « chimio-bio » a été peu abordé.
Le récent discours du président américain Joe Biden Décret exécutif sur le développement sûr, sécurisé et fiable de l’intelligence artificielle constitue la première étape importante dans cette direction. La section 4.4 du décret appelle le ministère de la Sécurité intérieure à évaluer la manière dont l’intelligence artificielle pourrait renforcer les menaces chimiques, biologiques, radiologiques et nucléaires (CBRN). Un élément connexe de la commande se concentre sur la technologie de synthèse d’acide nucléique – la suite de machines de plus en plus accessible utilisée pour fabriquer de l’ADN et de l’ARN personnalisés. Ces synthétiseurs « de bureau », qui peuvent être installés sur n’importe quelle paillasse de laboratoire, constituent une technologie clé en biologie synthétique.
Les agents biologiques restent théoriques tant qu’ils sont numériques – le point d’interception clé est l’endroit où ils deviennent physiques. C'est pour cette raison que de nombreux experts en matière de non-prolifération nous avons interviewé ces derniers mois, ils ont déclaré cibler les réglementations sur le «frontière numérique-physique» de la biologie synthétique et de l’intelligence artificielle est une priorité essentielle.
La coopération entre Washington et Pékin dans le domaine de la « chimie-bio-IA » bénéficierait également aux dirigeants politiques des deux pays. La mort et la misère provoquées par le COVID-19 ont démontré le pouvoir destructeur d’un agent biologique infectieux, quelle que soit sa provenance. Les deux pays sont sortis de la pandémie profondément affectés, avec des dizaines de décès et d’infections des deux côtés, et un héritage de méfiance entre les deux capitales sur fond de désaccords sur la responsabilité de la catastrophe. Prendre des mesures concrètes pour contrôler l’intersection de la chimie, de la biologie synthétique et de l’intelligence artificielle marquerait un nouveau départ et annoncerait un nouvel engagement en faveur de la sécurité sanitaire mondiale.
