Les censeurs chinois reculent sur l’IA générative

Les règles finalisées de la Chine pour l’intelligence artificielle (IA) générative, en vigueur depuis le 15 août, sont considérablement moins restrictives qu’une version préliminaire qui avait circulé précédemment. Cela montre que les autorités, en particulier le régulateur chinois de l’Internet, la Cyberspace Administration of China (CAC), ont été réceptives aux commentaires du public et aux préoccupations de l’industrie alors que les pays se précipitent pour développer les modèles de grande langue (LLM) les plus puissants – des algorithmes qui peuvent générer des textes proches de langage humain.

Pour comprendre le présent et l’avenir de la gouvernance de l’IA en Chine, il est important de considérer que le filtrage des informations indésirables est une lentille majeure – mais pas la seule – à travers laquelle Pékin réfléchit aux algorithmes. Conformément à une tendance émergente dans la gouvernance numérique de la Chine, ses nouvelles réglementations visent à pousser la conception et le déploiement des LLM chinois vers un alignement sur les intérêts nationaux.

Le CAC a eu un réveil difficile dont il a besoin pour équilibrer le contrôle et la censure avec la liberté pour le développement technologique. Par rapport à sa précédente action réglementaire dans le domaine de l’IA, c’est l’une des premières fois qu’elle exerce son autorité dans un domaine soumis à une concurrence géopolitique intense. Cela a mis l’approche de la sécurité d’abord du CAC en contradiction ouverte avec l’innovation et les ambitions géopolitiques de la Chine.

L’industrie chinoise de l’IA, que le gouvernement considère comme d’une immense importance économique et stratégique, est entrée dans une période d’intense incertitude. Les mesures américaines de contrôle des exportations d’octobre 2022 ont compliqué l’accès des entreprises chinoises aux puces avancées nécessaires pour former des modèles d’IA pour créer du texte, en particulier certains modèles de GPU vendus par le géant américain de la conception de puces Nvidia.

Par conséquent, les nouvelles règles comptent parmi les règlements les plus modifiés de l’histoire de la CAC. Plus important encore, ces réglementations exemptent désormais toutes les applications non destinées au public – telles que les LLM pour le diagnostic médical ou l’automatisation des processus industriels – de l’examen, y compris toutes les activités de recherche et développement.

Les exigences spécifiques ont également été assouplies. Les experts nationaux en IA avaient appelé à des révisions majeures des clauses obligeant les entreprises à garantir que leurs données de formation étaient suffisamment précises et véridiques. De telles garanties représenteraient une tâche énorme, compte tenu des milliards de données d’entraînement utilisées pour les grands modèles de langage. Désormais, ces clauses ont été édulcorées pour n’exiger que des « mesures suffisantes » comme garantie.

Depuis la publication du Plan de développement de l’intelligence artificielle de nouvelle génération en 2017, l’État-parti, avec Xi Jinping à sa tête, a signalé sa ferme intention d’apprivoiser et d’exploiter les algorithmes d’IA qui ont le pouvoir de façonner l’opinion publique en ligne. L’une des manières d’y parvenir est de prendre des mesures réglementaires, notamment des règles historiques sur les systèmes de recommandation qui représentent l’une des formes d’IA les plus répandues aujourd’hui. Dans la vision du Parti communiste chinois, les algorithmes qui poussent le contenu vers les utilisateurs ne doivent pas être utilisés pour enrichir des entreprises puissantes, mais plutôt pour promouvoir des valeurs officiellement approuvées. Par exemple, le CAC souhaite que les plateformes de médias sociaux utilisent des recommandations algorithmiques pour réfuter les rumeurs et promouvoir «l’énergie positive».

Pourtant, ce serait une erreur de voir la censure comme le seul moteur. La campagne de rectification technologique de la Chine a montré que les autorités ne sont pas intéressées par le maintien des modèles commerciaux des plateformes si la dépendance, le risque financier et les scandales socio-économiques sont les coûts imminents pour la société. Les régulateurs s’attaquent aux préoccupations sociétales et aux éventuels méfaits des risques tels que les prescriptions de médicaments générés par l’IA ou les escroqueries. Certaines réglementations contiennent des clauses spécifiques pour prévenir l’addiction numérique des mineurs tandis que d’autres imposent des modes d’accessibilité particuliers pour accompagner, entre autres, les personnes âgées.

En 2000, le président américain Bill Clinton a fait la remarque célèbre que la tentative de la Chine de développer un Internet censuré était « un peu comme essayer de clouer Jell-O au mur » ; Les géants chinois de l’Internet ont créé l’économie numérique la plus dynamique au monde, leurs plateformes se conformant et même aidant aux exigences de censure de Pékin. Les règles de l’IA générative laissent également une marge de manœuvre pour aider l’industrie chinoise à s’attaquer au ChatGPT d’OpenAI, même si elles s’attendent à ce que les entreprises surmontent le « problème d’alignement politique » – trouver des moyens techniques pour s’assurer que le moins de contenu généré possible viole le communiste chinois Contrôles d’information stricts du parti. Ils cherchent à concilier les objectifs de sécurité et de développement autour des nouvelles technologies.

Alors que le CAC restera méfiant vis-à-vis des chatbots destinés aux internautes, les gouvernements central et locaux chinois soutiennent la formation de modèles qui englobent les applications d’IA génératives dans des domaines qui comptent pour «l’économie réelle» tant vantée de Xi Jinping, de l’accélération de la découverte de nouveaux médicaments et de la rationalisation de la médecine communications à la modernisation de la fabrication. En juillet, Huawei a lancé Pangu 3.0, un ensemble de modèles pré-formés qui s’attaquent aux problèmes industriels, comme les défauts dans les wagons de fret ferroviaire. L’IA générative est la bienvenue même en droit, pour aider les tribunaux à automatiser les résumés et le classement des documents. C’est pourquoi la nouvelle réglementation les exempte volontairement de leur champ d’application.

Dans l’ensemble, les mesures réglementaires de Pékin sur l’IA générative ne semblent pas présenter un risque de tuer l’innovation et de refroidir les entreprises technologiques privées. Même si le CAC est, de par son mandat même, principalement intéressé à limiter l’influence des produits de type ChatGPT sur l’opinion publique, il a dû reculer et assouplir les exigences pour les développeurs LLM. La gouvernance chinoise de l’IA pourrait continuer de surprendre les observateurs alors que le gouvernement tente de trouver un équilibre entre contrôle et développement.