AI and Elections: Lessons From South Korea

IA et élections : les leçons de la Corée du Sud

Le 10 avril, la Corée du Sud a tenu sa Élections de la 22e Assemblée nationalequi a permis au Parti démocrate (DP) de remporter 175 places sur 300 et le Parti du pouvoir populaire (PPP) au pouvoir a gagné 108. Le taux de participation électorale de 67 pour cent était le le plus élevé depuis 32 ans.

Diverses préoccupations ont fait surface avant les élections, notamment des préoccupations traditionnelles telles que bulletins de vote frauduleux, caméras espion dans les bureaux de vote, et fraude au vote anticipéainsi que les inquiétudes concernant l'intelligence artificielle Ingérence électorale et deepfakes activés par (IA). Alors que l’élection présidentielle de 2022 a adopté et intégré l’IA dans campagnes politiques – les PPP AI Yoon Suk-yeol, AI Chatbot du candidat du DP Lee Jae-myung et ancien vice-Premier ministre AiDY, porte-parole de Kim Dong-yeon pour l'IA et avatar Venteux – AI n’a pas eu la même présence aux élections de 2024. Cependant, même si l’IA n’a pas été mise en avant dans les campagnes, des deepfakes et de la désinformation générés par l’IA ont été observés.

Pour aggraver ces inquiétudes, le paysage de l’actualité, des médias sociaux et de l’information sud-coréens a déjà été inondé de fausses nouvelles. Un ancien membre du Comité de défense de l'Assemblée nationale a qualifié l'application de messagerie la plus populaire de Corée du Sud, Kakao Talk, de « « la plus grande source de désinformation » en raison du montant de chirashi – fausses nouvelles et théories du complot – relayées sur la plateforme. Le Enquête 2018 de la Fondation de la presse sud-coréenne a révélé que 69,2 pour cent des personnes interrogées ont trouvé des informations manipulées ou fausses sur les sites de médias sociaux.

De plus, le « Rapport sur l'actualité numérique 2023 » de la Korea Press Foundation a souligné que 53 % des Sud-Coréens utilisent YouTube comme principale source d'information, ce qui démontre un faible niveau de confiance dans les médias grand public. En 2022, YTN, un média officiel sud-coréen, a publié un Vidéo Youtube accusant la chaîne YouTube Gong Byeong-ho TV de diffusion de fausses informations sur l’élection présidentielle de 2022. Les commentaires sous la vidéo, cependant, avaient tendance à se ranger du côté du créateur de contenu Gong Byeong-ho.

Enfin, de nombreux Sud-Coréens sites de fausses nouvelles existent, y compris ceux qui copient des médias légitimes pour semer la confusion chez le public. Par exemple, un site de fausses nouvelles Pas de coupe Ilbe porte atteinte aux marques et au nom d'un site légitime Pas de nouvelles coupées.

Compte tenu de ces préoccupations et de ce contexte, les réflexions sur les élections à l’Assemblée nationale de 2024 fournissent des enseignements pour lutter contre les fausses nouvelles et les fausses informations basées sur l’IA lors des élections à venir – que ce soit en Corée du Sud ou à l’étranger.

Cas antérieurs de fausses informations

Même avant la montée des inquiétudes concernant l’IA, la Corée du Sud était confrontée à l’utilisation politique nationale de fausses informations. Au cours de l'ancien Destitution de la présidente Park Geun-hye en 2017, les deux partis politiques utilisé de la désinformation sur les réseaux sociaux. Par exemple, politiciens anti-impeachment a faussement affirmé que le président américain de l’époque, Donald Trump, s’était opposé à la destitution et que la Corée du Nord était à l’origine de cette décision.

La même année, lors de la polémique sur le déploiement en Corée du Sud du système de défense antimissile américain, Défense de zone terminale à haute altitude (THAD)des rumeurs se sont répandues selon lesquelles le THAAD émettait des substances cancérigènes. ondes électromagnétiques. Des membres anti-THAAD DP étaient présents une veillée aux chandelles et chanté des chansons qui soulignaient les menaces posées par les menaces THAAD, et manifestations anti-THAAD s’est poursuivi en 2020.

En 2018, le Scandale du Druking Gate a révélé que Kim Kyoung-soo, ancien gouverneur de la province du Gyeongsang du Sud et allié de l'ancien président Moon Jae-in, avait collaboré avec le « blogueur puissant » Druking pour manipuler les résultats de recherche et les perceptions en ligne de Moon avant l'élection présidentielle de 2017.

Outre les rivalités politiques intérieures, les adversaires étrangers – en particulier la Corée du Nord et la Chine – ont également tout intérêt à propager la désinformation. Le Institut coréen de la démocratie libérale a rapporté en 2018 que la Corée du Nord employait 7 000 agents dans la propagande et la guerre de l'information contre la Corée du Sud.

En 2022, un Transfuge nord-coréen – auparavant colonel adjoint au Bureau général de reconnaissance jusqu'en 2014 – a affirmé que les cyber-unités nord-coréennes influencent l'opinion publique sud-coréenne depuis le début des années 2000. Le transfuge a déclaré qu'il était engagé dans une opération d'influence lors de l'élection présidentielle sud-coréenne de 2012, au cours de laquelle il avait écrit des commentaires négatifs sur les candidats Park Geun-hye et Ahn Cheol-soo. Il est intéressant de noter que le transfuge a mentionné qu’une opération nord-coréenne était également impliquée à Druking-gate.

La Chine mène opérations d’information et campagnes de désinformation pour saper la démocratie sud-coréenne et entraver également les intérêts stratégiques américains en Asie. À la veille des élections à l'Assemblée nationale de 2020, un Lanceur d'alerte coréen et chinois a avoué avoir diffusé de la désinformation pour promouvoir des sentiments pro-chinois. Lors de l'élection présidentielle de 2021, un professeur à Université Gachon a identifié plus de 50 comptes faisant la promotion du programme chinois à travers des commentaires sur Naver, le plus grand portail Web de Corée du Sud. L'année dernière, le National Intelligence Service (NIS) a également découvert 38 sites d'information en coréen géré par deux sociétés de relations publiques chinoises pour promouvoir la propagande pro-chinoise et anti-américaine.

Manipulation de l’information lors des élections à l’Assemblée nationale de 2024

Des problèmes similaires de fausses informations se sont produits lors des élections à l’Assemblée nationale de 2024, mais impliquaient AI. Entre le 29 janvier et le 16 février, la Commission électorale nationale a annoncé avoir constaté 129 deepfakes liés aux élections.

En décembre 2023, un Vidéo deepfake de 46 secondes du président Yoon aurait admis que la corruption avait été téléchargée. La vidéo est devenue virale en février 2024, conduisant à la Commission coréenne des normes de communication (KCSC) vote unanime pour le bloquer. Deux jours avant les élections, la police a accusé un membre de Le nouveau parti politique de Cho Kuk comme le coupable du deepfake. Cho a rétorqué que l'accusation était une tentative de la police d'interférer avec les élections.

Début mars, un vidéo deepfake de Yoon apparemment critiquant le leader du PD, Lee Jae-myung, a circulé sur TikTok, aux côtés de l'un des anciens dirigeants par intérim du PPP au pouvoir, Han Dong-hoon, qualifiant le Les « gangers » du DP pour la récente première dame Scandale du sac Dior.

Les deepfakes se sont répandus sur les plateformes de médias sociaux en raison de l’accessibilité de l’IA. Cependant, malgré L'avertissement de Microsoft sur les tentatives chinoises d'influencer les élections américaines, sud-coréennes et indiennes en 2024 avec du contenu généré par l'IA et le L'avertissement du NIS Parmi les pirates informatiques nord-coréens utilisant le contenu généré par l’IA pour influencer les élections, une telle implication étrangère n’a pas été observée.

Efforts contre les fausses informations liées aux élections

L’impact limité des fausses informations obtenues grâce à l’IA peut être dû aux efforts des secteurs privé et public pour protéger l’intégrité des élections.

En mai 2022, avant les élections provinciales, un vidéo deepfake de Yoon approuvant apparemment un candidat local, a circulé, conduisant à la révision de 2023 du Loi sur les élections d'agents publics. La révision a interdit les vidéos, photos et audio deepfakes liés aux élections pendant la période de campagne de 90 jours avant le jour du scrutin. Les contrevenants risquent jusqu'à sept ans de prison ou une amende pouvant aller jusqu'à 37 500 $. Le utilisation de Chat GPT générer des devises de campagne, des paroles de chansons ou des discours est toujours autorisé.

Suite à cette révision, le secteur privé a également adopté des approches d'atténuation. Naver a annoncé en janvier que son service de chatbot IA ne générerait pas de contenu inapproprié et qu'il surveillerait sa plate-forme pour détecter tout contenu violant la loi électorale révisée. En mars, Kakao a lancé son « Profil Karlo AI», qui crée des filigranes sur le contenu généré par l'IA. IA cérébrale profonde, une société coréenne d'IA générative, a également annoncé une collaboration avec l'Agence nationale de police de Corée du Sud pour personnaliser une solution de détection qui traque les deepfakes et répond aux crimes électoraux.

En outre, les initiatives du secteur privé telles que la déclaration commune visant à prévenir l’utilisation malveillante des deepfakes liés aux élections – signée par Naver, Kakao et SK Communications – et le monde Accord électoral d’AI – rejoint par LG – a également fait surface.

Points à retenir pour lutter contre les fausses informations

Même si la Corée du Sud n'a toujours pas de Loi sur l'IAses récentes élections, les efforts visant à lutter contre les fausses informations basées sur l’IA et le paysage informationnel fournissent quelques points à retenir notables.

Premièrement, les secteurs public et privé doivent collaborer pour lutter contre les deepfakes. Comme le montrent les efforts de la Corée du Sud, alors que le secteur public devrait adopter des réglementations pour interdire les deepfakes malveillants, le secteur privé doit élaborer les solutions technologiques ou prendre les mesures d'atténuation nécessaires pour lutter contre la menace. Ainsi, une coopération public-privé dans la création et la mise en œuvre de réglementations liées à l’IA augmenterait l’efficacité.

Deuxièmement, dans la lutte contre les fausses informations générées par l’IA, les mesures de répression doivent être abordées avec prudence. En Corée du Sud, ces efforts ont été utilisés à des fins politiques. Après le Incident du ferry Sewol en 2014par exemple, Park Geun-hye, alors présidente, a réprimé Kakao, ce qui a conduit de nombreux utilisateurs de Kakao à passer à Télégramme.

L’actuel président Yoon a pris des mesures similaires, voire plus inquiétantes. Après le Incident de clip de micro chaud MBC en septembre 2022, dans lequel la chaîne d'information coréenne a publié un clip audio du président injuriant les législateurs américains, Yoon a accusé MBC de diffuser de fausses informations et journalistes de MBC interdits de l'avion présidentiel.

Dans Septembre de l'année dernièreles procureurs ont perquisitionné les domiciles et les bureaux de Newstapa, le site d'information en ligne du Centre coréen pour le journalisme d'investigation, et a confisqué les téléphones portables et les dossiers des journalistes. L'accusation a accusé un journaliste d'avoir accepté un pot-de-vin de 122 000 dollars pour avoir publié un article article en mars 2022 qui rapportait la décision de Yoon de ne pas inculper Cho Yoo-hyung d'un Scandale bancaire et immobilier de 2011. Si Newstapa n’a pas été le seul média à couvrir ce scandale, c’est la plateforme en ligne qui a acquis un fichier audio associé.

Après le raid de Newstapa, le KCSC – généralement chargé de bloquer les sites de jeux d’argent, de pornographie et de propagande nord-coréenne – a promis de filtrer les médias en ligne et d’éliminer les fausses nouvelles. Trois autres chaînes qui ont couvert l'affaire ont été condamnées à une amende et les autorités ont également perquisitionné la chaîne câblée JTBC. En décembre, les autorités ont même perquisitionné le domicile de PDG de Newstapa.

De telles descentes dans les médias sont sans précédent et rares en Corée du Sud depuis sa démocratisation dans les années 1990. La montée des deepfakes et des fausses informations générées par l’IA ne fera qu’accroître la rhétorique anti-fake news des politiciens, qui doit être examinée à la recherche d’arrière-pensées politiques.

A lire également