Alors que l’Inde vote, la désinformation déferle sur les réseaux sociaux

Les stars de Bollywood pèsent rarement sur la politique, c'est pourquoi les vidéos montrant deux célébrités critiquant le Premier ministre indien Narendra Modi – et soutenant son principal opposant, le parti du Congrès – allaient forcément devenir virales.

Mais les clips des acteurs Aamir Khan et Ranveer Singh étaient de fausses vidéos générées par l'IA qui constituaient un autre exemple des affirmations fausses ou trompeuses qui tourbillonnaient en ligne dans le but d'influencer les élections indiennes. Les deux acteurs ont porté plainte auprès de la police, mais de telles actions ne contribuent guère à endiguer le flux de telles informations erronées.

Des allégations circulant récemment en ligne en Inde ont déformé les détails du scrutin, affirmé sans preuve que l'élection serait truquée et appelé à la violence contre les musulmans indiens.

Les chercheurs qui suivent la désinformation et les discours de haine en Inde affirment que la mauvaise application par les entreprises technologiques de leurs propres politiques a créé des conditions parfaites pour des contenus préjudiciables qui pourraient fausser l'opinion publique, inciter à la violence et laisser des millions d'électeurs se demander quoi croire.

« Un utilisateur non averti ou un utilisateur régulier n'a aucune idée s'il s'agit de quelqu'un, d'un individu qui partage ses pensées à l'autre bout du fil, ou s'il s'agit d'un robot ? Rekha Singh, une électrice de 49 ans, a déclaré à l'Associated Press. Singh a déclaré qu'elle craignait que les algorithmes des médias sociaux déforment la vision de la réalité des électeurs. « Vous êtes donc partial sans même vous en rendre compte », a-t-elle déclaré.

Dans une année marquée par de grandes élections, le vote tentaculaire en Inde se démarque. Le pays le plus peuplé du monde compte des dizaines de langues, le plus grand nombre d'utilisateurs de WhatsApp ainsi que le plus grand nombre d'abonnés YouTube. Près d’un milliard d’électeurs sont éligibles pour voter lors des élections qui se dérouleront jusqu’en juin.

Des entreprises technologiques comme Google et Meta, propriétaire de Facebook, WhatsApp et Instagram, affirment qu'elles s'efforcent de lutter contre les contenus trompeurs ou haineux tout en aidant les électeurs à trouver des sources fiables. Mais les chercheurs qui suivent depuis longtemps la désinformation en Inde affirment que leurs promesses sonnent creux après des années d'échec de l'application et d'approches « à l'emporte-pièce » qui ne tiennent pas compte de la diversité linguistique, religieuse, géographique et culturelle de l'Inde.

Compte tenu de la taille de l'Inde et de son importance pour les sociétés de médias sociaux, on pourrait s'attendre à une plus grande concentration, disent les chercheurs en désinformation qui se concentrent sur l'Inde.

« Les plateformes gagnent de l’argent grâce à cela. Ils en profitent et le pays tout entier en paie le prix », a déclaré Ritumbra Manuvie, professeur de droit à l'Université de Groningen aux Pays-Bas. Manuvie est l'un des dirigeants de The London Story, un groupe de la diaspora indienne qui a organisé le mois dernier une manifestation devant les bureaux londoniens de Meta.

Les recherches menées par le groupe et une autre organisation, India Civil Watch International, ont révélé que Meta autorisait les publicités politiques et les publications contenant des discours de haine anti-musulmans, des récits nationalistes hindous, des publications misogynes sur les candidates, ainsi que des publicités encourageant la violence contre les opposants politiques.

Les publicités ont été vues plus de 65 millions de fois en 90 jours plus tôt cette année. Ensemble, ils coûtent plus d'un million de dollars.

Meta défend son travail sur les élections mondiales et conteste les conclusions de la recherche sur l'Inde, soulignant qu'elle a étendu son travail avec des organisations indépendantes de vérification des faits avant les élections et qu'elle a des employés dans le monde entier prêts à agir au cas où ses plateformes seraient utilisées à mauvais escient. pour diffuser de la désinformation. Nick Clegg, président des affaires mondiales de Meta, a déclaré à propos des élections indiennes : « C'est un test énorme, énorme pour nous. »

« Nous avons des mois et des mois de préparation en Inde », a-t-il déclaré à l'Associated Press lors d'une récente interview. « Nous avons des équipes qui travaillent 24 heures sur 24. Nous avons des vérificateurs de faits dans plusieurs langues opérant en Inde. Nous disposons d’un système de remontée d’informations 24 heures sur 24. »

YouTube est un autre site problématique en matière de désinformation en Inde, selon les experts. Pour tester dans quelle mesure cette plateforme de partage de vidéos faisait respecter ses propres règles, des chercheurs des organisations à but non lucratif Global Witness et Access Now ont créé 48 fausses publicités en anglais, hindi et telugu contenant de fausses informations de vote ou des appels à la violence. L'un d'eux a affirmé que l'Inde avait augmenté l'âge de vote à 21 ans, même s'il restait à 18 ans, tandis qu'un autre a déclaré que les femmes pouvaient voter par SMS, même si elles ne le pouvaient pas. Un troisième a appelé au recours à la force dans les lieux de vote.

Lorsque Global Witness a soumis les publicités à YouTube pour approbation, la réponse a été décevante, a déclaré Henry Peck, enquêteur de Global Witness.

« YouTube n'a donné suite à aucune d'entre elles », a déclaré Peck, et a plutôt approuvé la publication des publicités.

Google, propriétaire de YouTube, a critiqué la recherche et a souligné qu'il avait mis en place plusieurs procédures pour détecter les publicités qui enfreignaient ses règles. Global Witness a supprimé les publicités avant qu'elles puissent être repérées et bloquées, a indiqué la société.

« Nos politiques interdisent explicitement les publicités faisant des déclarations manifestement fausses qui pourraient nuire à la participation ou à la confiance dans une élection, que nous appliquons dans plusieurs langues indiennes », a déclaré Google dans un communiqué. La société a également souligné ses partenariats avec des groupes de vérification des faits.

L'IA est la nouvelle menace de cette année, car les progrès des programmes facilitent plus que jamais la création d'images, de vidéos ou d'audio réalistes. Les deepfakes d’IA apparaissent lors des élections partout dans le monde, de la Moldavie au Bangladesh.

Senthil Nayagam, fondateur d'une startup d'IA appelée Muonium AI, estime qu'il existe une demande croissante de deepfakes, en particulier de la part des politiciens. À l’approche des élections, il a eu plusieurs demandes de renseignements sur la réalisation de vidéos politiques utilisant l’IA. « Il y a sans aucun doute un marché pour cela », a-t-il déclaré.

Certains des faux produits par Nayagam mettent en scène des politiciens morts et ne sont pas censés être pris au sérieux, mais d'autres deepfakes circulant en ligne pourraient potentiellement tromper les électeurs. C'est un danger que Modi lui-même a souligné.

« Nous devons éduquer les gens sur l'intelligence artificielle et les deepfakes, sur leur fonctionnement et sur ce qu'ils peuvent faire », a déclaré Modi.

Le ministère indien de l'Information et de la Technologie a ordonné aux sociétés de médias sociaux de supprimer la désinformation, en particulier les deepfakes. Mais les experts affirment que l’absence de réglementation ou de loi claire axée sur l’IA et les deepfakes rend la tâche plus difficile à écraser, laissant aux électeurs le soin de déterminer ce qui est vrai et ce qui relève de la fiction.

Pour Ankita Jasra, 18 ans, qui vote pour la première fois, ces incertitudes peuvent rendre difficile de savoir quoi croire.

« Si je ne suis pas sûre que ce qui est dit est vrai, je ne pense pas pouvoir faire confiance aux gens qui gouvernent mon pays », a-t-elle déclaré.