La Chine prend-elle conscience des dangers de l’IA ?

Au début du mois dernier, des rapports émergé que l'Armée populaire de libération (APL) avait commencé à déployer une version du modèle Meta's Llama à des fins militaires. Meta avait rendu le modèle d'intelligence artificielle (IA) open source, ce qui signifie que n'importe qui pouvait créer sa propre version. Son utilisation pour soutenir un régime autoritaire – et la réponse impuissante de Meta selon laquelle une telle utilisation violait les termes et conditions que la société américaine ne pourrait jamais imposer à l’APL – semblait être une énième parabole sur la façon dont l’ouverture démocratique pouvait facilement se transformer en avantage autoritaire.

Mais à la fin du mois, le scénario s’était inversé. Un laboratoire chinois indépendant appelé DeepSeek a annoncé son Le modèle R1-Lite a atteint un taux de réussite de 52,5 % sur des problèmes de mathématiques avancés. L'o1-preview d'OpenAI, jusqu'alors leader, n'a obtenu qu'un score de 44,6 %. De plus, DeepSeek open sourceait son modèle.

Malgré l’environnement Internet et médiatique fermé de la Chine, cela n’était guère inhabituel. Pékin a jusqu’à présent adopté une approche plus non interventionniste en matière de développement de l’IA que ce à quoi on pourrait s’attendre compte tenu des enjeux. Mais à mesure que le pouvoir de l’IA devient plus clair, cela pourrait bientôt changer.

Le Parti communiste chinois (PCC) s’efforce depuis longtemps d’équilibrer le potentiel et la menace posée par le pouvoir associé aux technologies de pointe. Par exemple, lorsque le groupe Ant de Jack Ma est devenu trop puissant, les régulateurs ont rapidement écrasé son introduction en bourse et a forcé une restructuration, tandis que Ma s'est en fait cachée.

L'action contre Ma est intervenue dans un contexte d'expansion considérable de la réglementation dans le secteur, ce qui a entraîné la effondrement des startups chinoises de plus de 51 000 en 2018 à 260 en 2024. Le financement du capital-risque a également implosé, les fonds libellés en yuans n’ayant levé que 5,38 milliards de dollars cette année, contre un pic de 125 milliards de dollars en 2017. « L’ensemble du secteur vient de mourir sous nos yeux », a déclaré au Financial Times un cadre basé à Pékin. « L’esprit d’entreprise est mort. C'est très triste à voir.

Malgré cela, les titans chinois de la technologie comme Tencent et Alibaba – et des laboratoires plus petits comme ZhipuAI et 01 AI – ont pris de l'avance dans la recherche sur l'IA. Le gouvernement a largement joué un rôle de coordination et de réglementation, notamment en organisant un référentiel open source de modèles. Rendre les modèles chinois accessibles aux autres chercheurs chinois semblait être un élément essentiel du rattrapage, garantissant que tous les laboratoires chinois bénéficient des avancées des autres laboratoires.

Et la Chine semblait se considérer loin derrière, comme en témoigne l’utilisation par PLA d’un modèle open source américain dans Llama par rapport à ses équivalents chinois. Les utilisateurs quotidiens sont d'accord : sur ChatbotArèneoù les utilisateurs choisissent entre les réponses côte à côte de deux modèles anonymes, les utilisateurs de langue chinoise ont préféré les réponses de Google et d'OpenAI à celles de 01 AI, l'entreprise la plus performante de Chine.

La réglementation chinoise a donc été axée sur le marché intérieur. Alors que l'Administration du cyberespace de la Chine lignes directrices exigent que les modèles « adhèrent aux valeurs socialistes » et ne génèrent pas de contenu qui « divise la nation… ou diffuse des informations préjudiciables », la seule référence aux autres pays est que les entreprises doivent garantir que les investisseurs étrangers adhèrent aux autres lois régissant les investissements étrangers.

Un modèle chinois au sommet pourrait changer cette équation, d’autant plus qu’il semble que Xi Jinping a des inquiétudes croissantes concernant l’IA. Le dernier plénum du PCC a classé l'IA malveillante parmi les menaces les plus sérieuses pour l'avenir du pays, une position difficile à concilier avec le fait de permettre à des modèles puissants de tomber entre les mains de toute personne ayant accès à un serveur, en particulier des adversaires.

Lors d'une récente visite en Chine, Benjamin Todd, l'un des principaux commentateurs de l'IA, noté que de nombreux chercheurs estimaient que Pékin n’avait pas encore « pris conscience » de l’importance des progrès de l’IA. Des investissements plus importants de la part du gouvernement, a-t-il suggéré, pourraient combler une grande partie de l’écart restant avec les États-Unis, mais personne ne savait vraiment comment cela se produirait. La Chine « n’agit pas du tout comme si les enjeux étaient aussi élevés que (de nombreux chercheurs américains en IA) le pensent » a écrit Zvi Mowshowitz, un autre commentateur éminent de l'IA.

La même semaine que la sortie de DeepSeek R1, la Chine a annoncé une exportation interdiction des métaux des terres rares essentielle à la fabrication de semi-conducteurs, et de loin sa mesure la plus agressive pour ralentir les progrès des États-Unis. Six jours plus tard, OpenAI a publié un modèle qui désarçonné DeepSeek en tant que leader mathématique au monde. Alors que les avancées et les dangers s’accélèrent dans ce domaine, attendez-vous à davantage d’interventions de la part de Pékin – à la fois pour faire progresser le prochain DeepSeek et pour ralentir le prochain OpenAI.