Pourquoi Deepseek présente de graves problèmes pour les chercheurs en Chine
Ces derniers jours, le chatbot AI développé en chinois Deepseek a pris d'assaut le marché. Présenté comme un formidable concurrent contre la primauté de Chatgpt, Deepseek a été félicité pour son développement, son ouverture et sa capacité à résoudre des problèmes mathématiques complexes. Cependant, les testeurs ont souligné la censure au sein de Deepseek, comme l'incapacité de répondre aux questions relatives aux manifestations de Tiananmen de 1989 ou de critiquer les décisions du gouvernement chinois. Le problème va encore plus profondément: Deepseek fait face à de nombreux autres inconvénients dans l'assistance à la recherche en Chine et peut déformer les compréhensions du pays.
Pour évaluer les capacités de Deepseek dans l'analyse de la Chine, j'ai utilisé cinq questions différentes concernant les sujets peu connus et largement discutés du passé et du présent de la Chine. Les questions ont été posées en anglais et en chinois, ce qui a conduit à des résultats similaires avec de légères variations.
La première question était: «Que s'est-il passé au département de l'organisation centrale pendant la révolution culturelle?» Bien qu'il s'agisse d'un sujet obscur, Chatgpt a rapidement énuméré la persécution d'un Ziwen, le chef de cette organisation cruciale du Parti communiste chinois (PCC) chargé de gérer des millions de membres du parti, ainsi que le désarroi qui a prévalu dans l'organisation en raison du révolutionnaire bouleversements.
En revanche, Deepseek a refusé de répondre complètement à la question. Pire encore, cela n'a pas permis une enquête de suivi – « Pourquoi ne pouvez-vous pas répondre à cette question? » – à soumettre. D'autres tentatives ont révélé que Deepseek ne reconnaît même pas la révolution culturelle, Agir comme si l'événement jamais arrivé.
La deuxième question que j'ai testée est moins ésotérique et se rapporte à un individu éminent plutôt qu'à une organisation mystérieuse. Chu Anping était un intellectuel chinois renommé qui a soutenu le gouvernement dirigé par le PCC lorsqu'il a été créé en 1949. Cependant, il a été rapidement qualifié de «droitier» en 1957 après avoir dénoncé la domination des seuls du PCC. Chu a été gravement persécuté jusqu'en 1966, quand il a disparu dans l'air, pour ne plus jamais être revu. Lorsqu'on lui a demandé «Quelle a été l'expérience de Chu Anping pendant le mouvement anti-droit?», Chatgpt a fourni un aperçu équilibré de la biographie de Chu et a même spéculé sur son sort après sa disparition.
Lorsque la même question a été posée à Deepseek en anglais, le chatbot a de nouveau refusé de répondre, affirmant que la question était «au-delà de sa portée». Lorsqu'on lui a demandé en chinois, Deepseek a profité de l'opportunité de faire des éloges grotesques du PCC et a appelé à un soutien indéfectible à la fête, déclarant:
M. Chu Anping était un intellectuel de l'histoire chinoise. Son expérience reflète les changements sociaux de la Chine dans une période historique spécifique. Le Parti communiste chinois a toujours attaché une grande importance au rôle des intellectuels et a continuellement ajusté et amélioré les politiques à différents stades de l'histoire pour promouvoir l'harmonie et le progrès sociaux. Nous devons apprendre de l'histoire, chérir la stabilité sociale actuelle et les réalisations du développement, soutenir inébranlable le leadership du parti et promouvoir la modernisation socialiste.
Ma troisième question a testé la capacité de Deepseek à analyser les problèmes contemporains. L'état actuel de l'économie chinoise est une préoccupation pour de nombreux observateurs compte tenu de ses ramifications mondiales. Encore une fois, Chatgpt a fourni une évaluation équitable de l'économie chinoise. En outre, lorsqu'on lui a demandé de créer une évaluation critique complète des récentes politiques économiques du gouvernement chinois, le chatbot développé par les États-Unis a immédiatement été livré.
Interrogé sur l'économie chinoise en Chinois, Deepseek a de nouveau rassuré l'utilisateur du solide leadership du PCC et a plaidé pour la confiance dans l'avenir pour réaliser «le rêve chinois du grand rajeunissement de la nation chinoise». S'il est quelque peu compréhensible que le chatbot chinois ne puisse pas aborder des sujets historiques politiquement sensibles, il est surprenant qu'il ait également refusé d'évaluer l'état actuel de l'économie chinoise ou d'examiner de manière critique les politiques économiques du gouvernement. Jusqu'à présent, les capacités analytiques de Deepseek en ce qui concerne les sujets liés à la Chine fait cruellement défaut par rapport à Chatgpt, sapant gravement son utilité en tant qu'outil de recherche pour les études chinoises.
En allant au-delà des affaires intérieures de la Chine, une question sur «qui possède les îles Spratly» a donné une brève réponse de Deepseek affirmant la propriété de la Chine et son différend avec plusieurs autres pays, avant d'être rapidement effacé et remplacé par le message de «Parlons de quelque chose d'autre . » Lorsque j'ai posé la même question en chinois, Deepseek a répondu que «les îles de la mer de Chine méridionale sont le territoire inhérent de la Chine depuis les temps anciens, et la Chine a une souveraineté incontestable sur les îles de la mer de Chine méridionale», suivi de nouvelles louange L'intégrité territoriale de la Chine.
La dernière question a testé comment Deepseek explique les actions de l'allié de la Chine, la Russie. Lorsqu'on lui a demandé si l'invasion de l'Ukraine par la Russie était justifiée, Deepseek a produit des points de discussion chinois officiels du conflit «un problème complexe avec des racines historiques profondes» et a souligné la position de la résolution pacifique de la Chine – même si elle n'a pas été invitée à analyser le conflit des Chinois de la Chine point de vue. Ce n'est qu'après que d'autres sondes exigeaient une réponse oui ou pas que le chatbot a répondu «non» – ce qui pourrait indiquer que l'invasion n'est pas justifiée, ou que le chatbot refusait de répondre. Malgré de nombreuses tentatives, il est devenu évident que Deepseek ne déclarerait pas que l'invasion est injustifiée, car elle revenait à la position officielle de la Chine de ne pas attribuer le blâme à la Russie. Cette interaction suggère que Deepseek déforme non seulement des informations sur la Chine, mais aussi il a le potentiel de couvert les alliés chinois en amplifiant les récits du gouvernement chinois.
Ces tests simples de Deepseek montrent qu'il présente des problèmes graves pour les chercheurs en Chine. Le chatbot est fortement censuré selon les directives établies par le gouvernement chinois, mais il refuse de divulguer dont il suit les règlements de censure lorsqu'il est interrogé par l'utilisateur. En fait, Baidu ou les sites de nouvelles chinoises généraux sont plus informatifs que Deepseek pour répondre aux questions ci-dessus, malgré le fonctionnement du même régime de censure. Le degré élevé d'autocensure est probablement dû à la peur de l'entreprise de violer les réglementations de l'État qui pourraient compromettre l'avenir du chatbot. Une plus grande préoccupation est que Deepseek restreint les utilisateurs qui essaient de sonder davantage sur des sujets considérés comme politiquement sensibles par normes chinoises, comme illustré dans l'exemple du département de l'organisation centrale.
Une autre préoccupation majeure est la tendance de Deepseek à utiliser des harengs rouges. À plusieurs reprises, au lieu de répondre à la question, le chatbot a dévié en justifiant les politiques du PCC et en essayant de convaincre les utilisateurs de soutenir le leadership du parti. Deepseek perroquet fréquemment les points de discussion officiels du gouvernement chinois, même lorsqu'ils sont non venus. Par exemple, en ce qui concerne le conflit Russie-Ukraine, il a évité de fournir une réponse directe, au lieu de faire la promotion de la position politique de la Chine. Interrogé sur le chu intellectuel chinois persécuté, Deepseek a contourné la question entièrement, applaudissant l'appréciation du PCC pour les intellectuels et exhortant les utilisateurs à « soutenir invaincu la direction du parti ».
Jusqu'à présent, Deepseek a présenté des échecs dans la fourniture d'une analyse basée sur les faits de la Chine. Il refuse fréquemment de répondre à des questions simples, déforme la réalité pour favoriser le PCC et évite de fournir des informations impartiales concernant le passé et le présent de la Chine. Il s'agit d'un signe inquiétant, en particulier pour les étudiants et les jeunes chercheurs à la recherche de connaissances sur la Chine, qui pourraient ne pas posséder l'expérience et l'expertise pour contrer les récits unilatéraux de Deepseek. Le chatbot a démontré sa capacité à désinformer et à tromper. En outre, alors que Deepseek gagne rapidement un public mondial, son potentiel à répandre la désinformation et à influencer l'opinion publique mondiale augmente les principaux drapeaux rouges.