La Chine et les États-Unis peuvent-ils trouver un terrain d’entente sur l’utilisation militaire de l’IA ?

Le jour où l’intelligence artificielle (IA) prendra des décisions militaires importantes n’est plus dans un avenir lointain, mais se produit dans la réalité actuelle. Dans le conflit en cours entre Israël et le Hamas, le système de ciblage basé sur l’IA « Lavender » a été utilisé par l’armée israélienne avec des effets mortels. En utilisant l’IA, Lavender génère une liste de cibles à tuer et identifie les cibles pour que les opérateurs humains approuvent toutes les frappes.

Certes, même si l’on peut affirmer que l’autonomie humaine est toujours présente au sein de Lavender, l’opérateur humain ne peut pas en garder le contrôle total. L’opérateur est-il pleinement conscient des développements sur le terrain ? A-t-il envisagé toutes les options et possibilités ? La décision a-t-elle été influencée par un biais d’automatisation ? Ces questions sont une raison de douter de la pleine efficacité de l’autonomie humaine dans un système d’arme, et encore moins dans des situations de combat. En effet, les opérateurs israéliens, avec seulement une petite 20 secondes pour approuver les grèves, souvent considérées comme de simples « tampons »”, s'appuyant fortement sur l'identification de l'IA avec un examen minimal.

Comme le montre Lavender, des questions telles que le niveau d’autonomie des machines toléré par les humains, le risque encouru et la fiabilité du système représentent de véritables défis pour un monde qui adopte de plus en plus l’IA et l’avènement de nouvelles technologies. De tels événements soulignent l’impératif d’utiliser l’IA avec la plus grande responsabilité pour éviter des conséquences catastrophiques et se prémunir contre les risques potentiels.

Les États-Unis et la Chine, leaders actuels dans le domaine de l’intelligence artificielle, ont depuis longtemps reconnu les dangers potentiels posés par l’IA. En réponse aux risques d’une course aux armements de l’IA dans le domaine militaire, les deux nations se sont réunies pour discuter des dangers posés par l'IA Les deux parties ont exprimé leur volonté de revenir sur ces discussions à l’avenir. Cependant, si les deux parties ont reconnu les dangers, la réunion très attendue n’a pas permis de parvenir à des accords excluant l’IA des systèmes de commandement et de contrôle nucléaires, ainsi que des systèmes d’armes autonomes.

Malgré les dialogues formels ultérieurs et Discussions entre experts sur la piste 2la divergence significative entre les positions des deux pays ne montre aucun signe de convergence. Le manque de confiance persistant, les inquiétudes concernant la transparence technologique et les ambitions de développer et de déployer des systèmes militaires basés sur l'IA ont n’a fait qu’exacerber la fracture. Néanmoins, malgré tous les obstacles à la coopération, il est indéniable que confier à l’IA l’autonomie et le pouvoir de déployer des armes nucléaires est un scénario à éviter à tout prix.

La nécessité et l’urgence de cet accord sont évidentes, comme l’a démontré un incident effrayant survenu lors de la guerre froide entre les États-Unis et l’Union soviétique. Le 26 septembre 1983Le système d'alerte précoce Oko de l'Union soviétique aurait détecté un total de cinq missiles balistiques intercontinentaux lancés depuis les États-Unis et se dirigeant vers l'Union soviétique. Le lieutenant-colonel Stanislav Petrov, qui était de service à ce moment-là, a jugé que l'alarme était défectueuse et a décidé de ne pas en informer ses supérieurs. L'héroïsme de Stanislav aurait peut-être permis d'éviter une guerre nucléaire totale, car s'il avait intensifié ses efforts et signalé cet incident, l'Union soviétique aurait lancé une frappe nucléaire de représailles immédiate.

Ce coup de théâtre illustre la faillibilité des machines et la nécessité de maintenir le contrôle humain sur les infrastructures stratégiques. De tels appels semblent d’autant plus pertinents aujourd’hui que les États sont actuellement impliqués dans une course aux armements en matière d’intelligence artificielle, qui est de plus en plus utilisée dans les systèmes d’armement.

Malgré l’urgence et l’importance d’un tel accord, exclure l’IA du commandement et du contrôle nucléaires n’a jamais été une option attrayante pour la Chine comme point de négociation avec les États-Unis.

Selon le Bilan de la posture nucléaire 2022les États-Unis ont explicitement déclaré que toutes les décisions critiques concernant l'utilisation d'armes nucléaires doivent impliquer une intervention humaine. De plus, la même année, les États-Unis, ainsi que le Royaume-Uni et la France, Ils ont convenu de maintenir le contrôle humain sur le lancement des armes nucléaires.Au niveau national, les législateurs bipartites aux États-Unis ont a présenté une législation visant à empêcher les lancements nucléaires initiés par l'IACes déclarations unilatérales ouvertes des États-Unis ont peut-être rendu la position chinoise relativement délicate, car il semble que les États-Unis pourraient simplement convaincre la Chine d’accepter ce à quoi ils s’étaient déjà engagés.

En outre, les sanctions américaines qui continuent de s’amplifier et empêchent la Chine d’accéder aux puces d’intelligence artificielle, ont peut-être incité Pékin à adopter une position de négociation plus dure, cherchant à obtenir davantage de concessions de la part de Washington. Les deux pays ont reconnu l’importance de la question, mais les positions divergentes au cours des pourparlers ont probablement conduit à l’échec des négociations.

Même si les États-Unis et la Chine s’entendent sur un cadre général impliquant la participation des humains, des obstacles structurels pourraient rendre tout accord général intenable. Certes, les États-Unis et la Chine sont deux économies très avancées en matière d’IA, mais les différences dans les infrastructures nationales d’IA restent marquées. Tout d’abord, le développement de l’IA dans le Les États-Unis sont principalement portés par l’entrepreneuriat en IA mené par des entreprises privées comme Nvidia et OpenAI. Ce développement privé façonné par l'industrie de l'IA aux États-Unis contraste fortement avec Développement de l'IA mené par l'État en Chine. Xi Jinping a explicitement mentionné que La Chine doit développer, contrôler et utiliser l'IA pour assurer l'avenir du pays Pour la prochaine révolution technologique, Pékin a investi des sommes considérables pour orienter la trajectoire et la direction du développement de l’IA.

Cette divergence a donc un impact direct sur la réglementation de l’IA. Étant donné que la Chine met l’accent sur une forme de développement centrée sur l’État, la réglementation du secteur de l’IA est naturellement également centrée sur l’État – sous l’impulsion de l’ Administration du cyberespace de la Chine. À l’inverse, le Les États-Unis ne disposent pas d’une réglementation globale sur l’IA. Cette division témoigne de la complexité de l’élaboration d’un quelconque accord.

Au-delà des divergences dans les infrastructures nationales d'IA qui rendent la coopération difficile, la difficulté est aggravée par le fait que les deux grandes puissances peuvent diverger dans leur capacité respective à former, appliquer, mettre en œuvre et intégrer l'IA dans leur système. Bien que les succès technologiques ne se traduisent pas toujours directement par des applications militaires, le potentiel de telles avancées est toujours présent. Par exemple, dans un témoignage au Congrès Gregory Allen, du Center for Strategic and International Studies, a suggéré que si les États-Unis disposent de données de formation abondantes dans les situations militaires, la Chine dispose d’applications militaires limitées en matière d’IA, mais possède un avantage dans l’adoption massive de l’IA par la société. Compte tenu des différents niveaux de développement et de mise en œuvre de l’IA, il reste difficile de parvenir à un accord sans un point de départ commun basé sur une compréhension mutuelle suffisante.

Vu sous cet angle, il paraît très peu plausible que Pékin et Washington parviennent à un accord formel visant à maintenir les humains dans le coup en matière de commandement et de contrôle nucléaires.

Dans ce contexte, pour favoriser la coopération sino-américaine dans la gestion des risques liés à l’IA, il est impératif de rechercher le plus petit dénominateur commun. Cette recherche peut prendre la forme d’une micro-vision de la façon dont on perçoit et interprète « l’humain dans la boucle ». Le concept considère généralement la « boucle » comme une entité singulière. Une nouvelle approche consiste à rechercher le plus petit dénominateur commun en examinant en détail dans En d’autres termes, plutôt que de conclure un accord qui imposerait un contrôle humain sur chaque processus de la boucle, on pourrait peut-être d’abord envisager un scénario dans lequel le contrôle humain ne serait accepté ou imposé que sur certains aspects de la boucle. Cela ouvrirait probablement des possibilités de négociation, ce qui rendrait plus acceptable politiquement la conclusion d’un accord entre la Chine et les États-Unis.

Étant donné que les États-Unis et la Chine accordent une grande importance aux discussions sur le lien entre l’intelligence artificielle et les armes nucléaires, les deux parties peuvent se concentrer sur les différents processus de commandement et de contrôle nucléaires de manière isolée et négocier la possibilité d’imposer une intervention humaine pour chaque processus. Bien entendu, les accords ne doivent pas nécessairement être limités de manière stricte, car des restrictions doivent être imposées à des processus similaires. À titre d’exemple, les États-Unis peuvent proposer de décréter un contrôle humain total dans le processus de ciblage nucléaire américain, en échange de l’accord de la Chine pour imposer une intervention humaine dans la prise de décision finale.

En ce sens, en mettant l’accent sur les questions les plus urgentes et les plus acceptables, on pourrait créer l’élan et la dynamique nécessaires pour relancer les négociations dans l’impasse. Si l’on ajoute à cela les permutations et les possibilités de négociations ouvertes par une intervention humaine partielle, les négociateurs de Pékin et de Washington peuvent faire preuve de créativité et de compétences diplomatiques pour parvenir à un accord à la manière d’un échange de bons et de mauvais coups.