AI et les élections générales en Inde
Une vidéo de l'acteur de Bollywood Aamir Khan se moquant du parti Bharatiya Janata (BJP) au pouvoir en Inde pour ne pas avoir tenu sa promesse vieille de dix ans de déposer 1,5 million de roupies indiennes (soit 18 000 dollars) sur le compte bancaire de chaque citoyen indien est devenue virale cette saison électorale. . La voix dans la vidéo ressemble beaucoup à celle de Khan et la vidéo se termine par un appel aux électeurs à soutenir le parti d'opposition du Congrès. Le lendemain, Khan a qualifié la vidéo de « fausse et complètement fausse ».
Il s’avère que la vidéo a été manipulée avec l’intelligence artificielle (IA) à l’aide de la technologie audio deepfake.
Il semble que les créateurs de la vidéo cherchaient à tirer profit de la popularité de Khan pour attirer des votes et se sont tournés vers la technologie de l'IA pour simuler sa voix. Ce n’est là qu’un exemple de la manière dont l’IA est utilisée lors des 18e élections générales en Inde.
Ce n’est pas la première fois que le monde politique indien assiste au déploiement de l’IA pour la communication de messages. Cette technologie est utilisée depuis plus d’une décennie et le BJP a été à l’avant-garde de l’exploitation des outils numériques.
Lors des élections générales indiennes de 2014, le BJP a utilisé des outils basés sur l’IA pour cibler les électeurs avec des messages personnalisés, créant ainsi un précédent pour l’intégration de la technologie dans les stratégies politiques.
« Depuis lors, l’IA a fait de profondes percées, influençant la manière dont les campagnes sont menées et les élections sont contestées », observe Patarlapati Nagaraju, de l’Université d’Osmania en Inde.
L'Inde a été témoin de sa première utilisation connue d'une fausse vidéo, lors des élections à l'Assemblée législative de Delhi en février 2020. Deux vidéos manipulées mettaient en vedette Manoj Tiwari, alors président de l'unité du BJP à Delhi. Dans l’un, on le voit parler en anglais et dans un autre, en haryanvi, pour se connecter à un groupe démographique spécifique d’électeurs. Bien que le BJP ait cherché à justifier son action en affirmant qu'il avait utilisé la technologie de l'IA de manière positive pour communiquer le message d'un leader du BJP et non pour ridiculiser un rival, les vidéos ont déclenché des discussions animées car elles ont soulevé des inquiétudes quant au potentiel d'utilisation et d'utilisation abusive de l'IA à des fins de désinformation. et la manipulation dans les campagnes politiques.
La valeur de la technologie de l’IA pour la communication et pour atteindre diverses populations a été soulignée lors de l’événement Kashi Tamil Sangamam à Varanasi. Lors de l'inauguration le 17 décembre 2023, le Premier ministre Narendra Modi est monté sur scène. Alors qu’il prononçait le discours inaugural, sa voix, familière à beaucoup, a commencé à résonner dans la foule.
Alors même qu’il parlait, un outil de traduction basé sur l’IA nommé « Bhashini » était silencieusement à l’œuvre. Pour la première fois, le discours de Modi en hindi était traduit en temps réel en tamoul. Cet exploit remarquable a non seulement comblé le fossé linguistique, mais a également marqué un bond en avant dans les prouesses technologiques de l'Inde, démontrant le potentiel de l'IA pour favoriser la communication interculturelle.
Le discours traduit a ensuite été diffusé sur les plateformes de médias sociaux, atteignant des milliers de personnes ne parlant pas l’hindi et qui n’avaient jamais entendu le Premier ministre parler leur langue auparavant.
C'était juste le début. Depuis lors, non seulement en tamoul, les discours de Modi sont traduits en kannada, bengali, telugu, punjabi, marathi, odia et malayalam à l'aide de l'IA.
L'utilisation de Bhashini lors de l'événement de Varanasi a été un précurseur de l'utilisation de la technologie par les dirigeants politiques pour rendre leurs messages accessibles à un public indien diversifié, éliminant ainsi les barrières linguistiques et garantissant l'inclusivité dans la communication. Cela a suscité des réactions mitigées.
Alors que beaucoup ont applaudi les efforts du BJP pour se connecter avec les populations de différentes régions, d'autres ont exprimé leurs inquiétudes quant à l'authenticité des traductions et au risque d'interprétation erronée.
Si les élections générales indiennes de 2019 ont mérité le surnom d’« élections sur les réseaux sociaux » en raison de l’utilisation intensive des plateformes de réseaux sociaux par tous les partis pour la campagne électorale, les élections générales en cours en Inde témoignent de l’émergence de l’IA comme outil central des stratégies politiques.
S'étalant sur six semaines et sept phases, les élections générales indiennes verront le plus grand nombre d'électeurs au monde venir exercer leur droit de vote. Aux défis logistiques liés à la conduite d’une élection pour un électorat aussi massif s’ajoutent les dépenses impliquées. Lors des élections de 2019, on estime que 7 milliards ont été dépensés par la Commission électorale, les partis politiques et les candidats. Les élections de 2024 devraient être encore plus coûteuses.
« L'augmentation massive de la production de contenu et le passage à la diffusion numérique mettent en évidence un changement transformateur dans la manière dont les messages politiques sont transmis, en particulier avec l'augmentation rapide de la consommation de contenu politique parmi les ménages ruraux », Vinay Deshpande, directeur des produits chez Rajneethi, l'un des » a déclaré au Diplomat l'une des principales organisations indiennes de conseil en gestion politique.
« Ce changement souligne l’importance des récits numériques par rapport aux rassemblements physiques traditionnels, marquant une nouvelle ère dans les stratégies électorales », a-t-il ajouté.
L’IA devrait contribuer de manière significative à rationaliser le processus électoral et à le rendre plus efficace.
Selon Sagar Vishnoi, militant politique indien et spécialiste de la communication, « l’un des principaux avantages de l’intégration de l’IA dans les campagnes électorales » est qu’elle permettra « de réduire considérablement les coûts, de gagner du temps et d’améliorer l’efficacité et la productivité globales ». Il a cité l’exemple des appels basés sur l’IA. « Traditionnellement, les partis politiques s'appuyaient sur des centres d'appels composés de travailleurs et de bénévoles, ou utilisaient des systèmes IVR (réponse vocale interactive) pour la sensibilisation. » Avec l’IA, « ces coûts peuvent être réduits jusqu’à 50 fois, offrant ainsi une solution plus rentable pour la communication et l’engagement avec les électeurs », a-t-il déclaré au Diplomat. Avec l’intégration de l’IA, les partis politiques et les gouvernements seront en mesure « d’accélérer considérablement » la « vitesse de réalisation des enquêtes », a déclaré Vishnoi, ajoutant que « ce qui prenait traditionnellement des mois peut désormais être accompli en une seule journée ».
Selon Deshpande, l’utilisation de l’IA dans la politique indienne « a entraîné à la fois des économies et une augmentation des dépenses. Cela a permis une augmentation significative de la production de contenu numérique, jusqu'à un facteur vingt, sans augmenter la main d'œuvre. Cependant, cette efficacité ne s’est pas traduite par une réduction des coûts. Au contraire, on investit de plus en plus dans la technologie pour répondre à la demande de contenu numérique plus avancé. Ainsi, même si l’IA rationalise certains processus, elle fait également augmenter les dépenses technologiques, consommant une plus grande part des budgets des partis.»
Lorsqu'elle est utilisée de manière appropriée, l'IA a le potentiel de recueillir rapidement les commentaires d'un grand nombre de personnes, allant de millions à des dizaines de millions, et d'afficher les résultats en temps réel sur un tableau de bord à des fins d'analyse. Cette efficacité s'étend au-delà des enquêtes ; L’IA peut également être utilisée pour l’analyse des sentiments, les processus de recrutement et de sélection, et pour aider les dirigeants politiques à divers titres.
En Inde, l’une des principales préoccupations concernant l’IA concerne la menace que représentent les fausses vidéos. Lors des élections législatives de Telangana l'année dernière, une vidéo aurait présenté le ministre en chef de l'époque, K Chandrasekhar Rao, et d'autres hommes politiques du Bharat Rashtra Samithi, exhortant les électeurs à soutenir le parti rival du Congrès. La BRS a accusé le Congrès d’utiliser la technologie deepfake et l’IA pour créer et diffuser des « faux contenus audio et vidéo » contre la BRS.
En février de cette année, le parti du Congrès a encore alimenté le discours sur l’IA en publiant une vidéo parodiant Modi sur Instagram. L'extrait, extrait d'un album de musique hindi intitulé 'Chœur» (voleur), critique Modi pour avoir facilité le transfert de ressources vers les magnats des affaires. Un mème d'IA utilise la voix et le visage de Modi pour souligner les critiques de l'opposition concernant le favoritisme du Premier ministre envers les hommes d'affaires indiens milliardaires.
Même si l’IA s’est révélée utile aux partis pour se moquer de leurs rivaux, elle est également utile pour raviver la mémoire des dirigeants disparus. Le Dravida Munnetra Kazhagam, au pouvoir au Tamil Nadu, a ressuscité son fondateur-dirigeant, feu M. Karunanidhi, grâce à une technologie de contrefaçon. Karunanidhi était un orateur réputé et son avatar IA prononce des discours louant le leadership de son fils et successeur K. Staline, président du DMK et actuel ministre en chef du Tamil Nadu.
Dans le contexte de l’IA générative qui apparaît comme une « innovation remarquable prête à révolutionner notre monde », la politique est devenue l’un des domaines « profondément touchés par cette technologie », a déclaré Senthil Nayagam, fondateur de Muonium, une société de technologie médiatique IA connue pour son expertise approfondie. de fausses vidéos, a déclaré au Diplomat.
« Le deep fake », a-t-il déclaré, « représente une avancée significative alimentée par l'IA ».
Nayagam a fait valoir qu’il considère le deep fake comme éthique « jusqu’à ce qu’il dévie vers la création de contenu sans rapport ou la manipulation de l’opinion publique ».
« Pourtant, la menace imminente de désinformation, notamment lors des élections, souligne la nécessité de faire preuve de vigilance », a-t-il déclaré.
Nayagam a souligné que même s'il n'existe actuellement aucune loi pour réglementer cette technologie, « il est essentiel de demander l'autorisation, en particulier lorsqu'il s'agit de représenter des personnages décédés ».
« L'héritage des hommes politiques, souvent conservé dans des livres, des enregistrements et d'autres médias, est sujet à réinterprétation », a déclaré Nayagam. « Bien que recréer un tel contenu ne soit pas en soi illégal, l'insertion de mots fabriqués risque d'induire les électeurs en erreur. »
Comme indiqué ci-dessus, la traduction en temps réel des discours facilitée par l’IA facilite la transmission des messages aux électeurs parlant différentes langues. Mais cela comporte aussi des risques, car la traduction en temps réel est délicate. Une langue comporte de nombreuses nuances et la plupart des modèles d’IA, formés à l’étranger, ne connaissent pas le contexte culturel indien. Même une petite erreur de prononciation pourrait conduire à un conflit.
Comme l’a souligné Ankit Lal, stratège de campagne politique et consultant indien, « la traduction vocale basée sur l’IA d’une langue indienne à une autre est encore loin d’être parfaite. La seule façon de l’améliorer est d’utiliser davantage de données, ce qui prend du temps.
Selon Lal, une façon de résoudre ce problème est de « faire passer le contenu généré par l'IA par un éditeur humain, qui a une meilleure compréhension des deux langues ainsi que du contexte, et de procéder ensuite à un « examen par les pairs » pour prendre soin de lui. du contexte culturel et des sensibilités.
La façon dont l’IA pourrait propager des mensonges et déformer les faits est une grande inquiétude, a déclaré Lal.
Si dans le passé les gens « partageaient des théories du complot sous forme de texte », désormais « l’IA peut transformer ces mêmes mensonges en vidéos en utilisant les visages et les voix de personnes célèbres », a déclaré Lal.
On s’inquiète également du fait que d’autres pays utilisent l’IA pour perturber l’environnement électoral. Récemment, Microsoft a émis un avertissement concernant le déploiement possible par la Chine de contenus générés par l'IA pour influencer l'opinion publique et promouvoir ses intérêts géopolitiques. Ce contenu, composé de mèmes, de vidéos et d’audio, pourrait être diffusé pour influencer les résultats des élections, même si l’impact immédiat pourrait être limité.
« L'Inde ne dispose pas d'un bon moyen de suivre le contenu créé par l'IA. Il est donc difficile d’arrêter les interférences sournoises », a déclaré Lal, ajoutant que les grandes plateformes comme Meta, Google et X sont plus à même de gérer cela.
Les autorités électorales indiennes devraient dialoguer avec ces plateformes et mettre en place un système pour protéger les élections contre les mauvais contenus d'IA », a-t-il déclaré.
Ainsi, l’intégration de la technologie de l’IA dans le paysage politique indien marque un changement significatif dans la manière dont les campagnes sont menées et les messages sont diffusés. De la traduction vocale en temps réel aux vidéos deepfakes, l’IA présente à la fois des opportunités et des défis pour les acteurs politiques. Même si cela facilite la communication interculturelle et améliore l’efficacité des campagnes, les préoccupations concernant l’authenticité, la désinformation et l’ingérence étrangère demeurent importantes.