Un modèle pour un groupe de travail sino-américain fonctionnel sur l’IA
À la fin de l'année dernière, le président américain Joe Biden et le dirigeant chinois Xi Jinping se sont rencontrés à San Francisco pour tenter de rétablir la relation après une année difficile. La réunion s'est terminée sans accord concret sur l'IA, malgré des rumeurs concernant unmais les deux parties se sont engagées à former un groupe de travail sur l'IA à l'avenir.
Depuis lors, peu de progrès ont été réalisés dans la définition de ce groupe de travail. Néanmoins, cela porte en soi les germes d’un succès potentiel. Des discussions significatives entre les deux superpuissances militaires, économiques et technologiques pourraient même avoir un effet galvanisateur sur d’autres efforts internationaux sur l’IA qui sont actuellement dans l’impasse, comme le Les Nations Unies » groupe d'experts. Ce qui est le plus nécessaire entre les deux puissances, ce sont des contacts régularisés et structurés sur les questions critiques de sécurité et de stabilité de l’IA. À condition que les États-Unis et la Chine puissent se concentrer sur des considérations pratiques, ce groupe de travail pourrait être une source importante de stabilité.
Créer des contacts réguliers, répétés et fiables sera la tâche la plus difficile, mais les membres du groupe de travail peuvent prendre certaines mesures pour y parvenir. Les deux parties devraient convenir de garder les sujets aussi ciblés que possible plutôt que de les utiliser comme forum de démagogie. Il existe des incitations politiques à exprimer leurs griefs : la Chine voudra se plaindre des contrôles américains sur les exportationset les États-Unis voudront examiner la utilisation de l’IA pour permettre des violations des droits de l’homme en Chine. Il sera impossible d’éviter complètement ces sujets, mais comme ils ne seront pas résolus par le groupe de travail, ils ne devraient pas occuper toute la conversation. Au lieu de cela, le groupe devrait passer rapidement de ces sujets à ceux où il existe une congruence d’intérêts spécifiques à la relation bilatérale.
Le Déclaration de Bletchleyce qui était l'un des résultats de la Sommet britannique sur la sécurité de l'IA signé par les États-Unis et la Chine, comprend certaines propositions sur lesquelles ce groupe de travail pourrait s'appuyer. Dans le contexte des relations sino-américaines, le partage des normes et procédures de test et d’évaluation de l’IA serait à la fois bénéfique pour la sécurité et la confiance en l’IA et politiquement réalisable. Le problème se concentre principalement sur les applications civiles d’une nouvelle technologie : les normes de test, d’évaluation, de sécurité, de risque et de transparence affectent bien plus d’utilisateurs civils étant donné la rareté des systèmes d’IA militaires. De plus, la suppression des implications sécuritaires de la conversation créera des opportunités pour une négociation plus franche.
Le groupe de travail lui-même peut être un moyen de développer ces normes si les délégations comprennent suffisamment de membres possédant des compétences techniques en IA, mais il est plus probable et plus facile d'en faire un lieu pour développer les moyens de partage et d'accord sur les normes déjà existantes. Une considération clé est de savoir comment garantir que les deux pays peuvent partager des informations sur les incidents et les pratiques de sécurité d'une manière qui sera crue et prise en compte par l'autre.
La Déclaration de Bletchley contient également des recommandations militaires que le groupe de travail pourrait explorer, telles que les codes de conduite. Un bon début serait de parvenir à un accord sur les procédures à suivre lorsque les drones ne communiquent plus lorsque les deux marines se trouvent dans une zone. Il est particulièrement important de s'y prendre à l'avance, car ils entrent fréquemment en contact dans le Pacifique occidental et il est probable qu'à l'avenir, de plus en plus de systèmes autonomes accompagneront les flottes.
Un accord renforçant le contrôle humain sur les décisions de lancement nucléaire est un sujet plus délicat, mais qu’il est toujours possible d’explorer également par le groupe de travail. Apparemment, les deux pays ont déjà manifesté leur soutien, les États-Unis ayant adopté une politique claire selon laquelle les humains garderont le contrôle des armes nucléaires dans le monde. Examen de la posture nucléaireet les Chinois exprimant le besoin de contrôle humain aux Nations Unies. Compte tenu de ces intérêts congruents, la Chine et les États-Unis devraient clairement expliquer comment ils appliqueront mutuellement ces principes pour renforcer la stabilité nucléaire et prévenir l’une des utilisations les plus dangereuses de l’IA.
Compte tenu de l’évolution récente des relations sino-américaines, l’espoir d’une avancée majeure doit toujours être tempéré, mais si le groupe de travail a la chance de s’épanouir grâce à une orientation pratique, il existe de nombreuses opportunités d’améliorations sérieuses en matière de sécurité de l’IA. Les normes de test et la transparence peuvent renforcer la confiance et créer des systèmes d’IA plus sûrs. Les codes de conduite peuvent prévenir des accidents dangereux dans les zones d’opérations militaires. Des accords sur le contrôle humain des armes nucléaires pourraient constituer une norme qui contribuerait à empêcher la destruction de toute vie.
Ce groupe de travail peut avoir un effet apaisant significatif sur les rouages de la relation sino-américaine s'il peut éviter de devenir la proie du même manque d'engagement que celui observé lors de la réunion. contacts militaires.
