Muthuvel Karunanidhi, un acteur indien emblématique devenu homme politique, a fait une apparition surprenante en janvier avant les élections indiennes.
- Les deepfakes sont créés en quelques minutes grâce à l'intelligence artificielle.
- Les partis politiques indiens utilisent les deepfakes contre leurs opposants.
- La technologie a changé la campagne politique en rendant les deepfakes plus accessibles et moins coûteux.
- Les femmes et les groupes marginalisés sont particulièrement vulnérables aux deepfakes, qui peuvent influencer la perception des électeurs.
Vêtu de ses lunettes de soleil noires, d'une chemise blanche et d'un châle jaune, on le voit dans une vidéo félicitant un ami et collègue homme politique pour le lancement de son autobiographie.
Dans son discours de huit minutes, le patriarche politique de l'État du Tamil Nadu, dans le sud du pays, a également profité de l'occasion pour saluer la direction stable du député Staline, de son fils et de l'actuel chef de l'État.
C’est un soutien puissant, d’autant plus que Karunanidhi est décédé en 2018.
Les deepfakes sont des vidéos, des images ou des clips audio réalisés grâce à l'intelligence artificielle qui imitent l'image ou la voix d'une personne.
Même s’ils peuvent être utilisés à des fins ludiques, ils peuvent également être utilisés pour induire délibérément les gens en erreur, ce qui semble se produire pendant la campagne électorale indienne.
Dans une autre vidéo apparue ces derniers mois, la star de Bollywood Aamir Khan se moque du parti Bharatiya Janata (BJP) au pouvoir en Inde pour n'avoir pas tenu sa promesse vieille de dix ans de déposer 1,5 million de roupies indiennes (27 000 dollars) sur les comptes bancaires de chaque citoyen indien. .
Cela se termine par son soutien au parti d’opposition du Congrès.
La voix dans la vidéo ressemble à celle de Khan mais a été artificiellement manipulée.
Un porte-parole a précisé que même si l'acteur avait sensibilisé les électeurs à travers des campagnes dans le passé, il n'avait jamais fait la promotion d'un parti politique spécifique.
Divyendra Singh Jadoun – qui est devenu célèbre sur la chaîne YouTube The Indian Deepfaker – n'est pas étrangère à ce type de contenu après avoir travaillé dans des films et des publicités.
Sa société Polymath Synthetic Media Solutions est l'un des nombreux fournisseurs de services de deepfake destinés aux partis politiques et cette année, son équipe a été bombardée de demandes.
« La première conversation a été : pouvez-vous faire un deepfake d'un leader politique opposant ? » » a déclaré M. Jadoun.
Des représentants des partis politiques indiens ont demandé à M. Jadoun de manipuler les enregistrements audio des candidats de l'opposition faisant des gaffes pendant la campagne et de superposer leurs visages sur des contenus sexuellement explicites.
Un parti lui a même demandé de créer une fausse vidéo de mauvaise qualité de son propre candidat, qui serait utilisée pour contrer toute vidéo réelle et accablante qui émergerait pendant la campagne.
Sur 200 demandes qu'il a reçues, M. Jadoun affirme que la majorité étaient contraires à l'éthique et rejetées par son équipe.
« Nous ne créerons aucun contenu destiné à diffamer qui que ce soit ou à mettre [question] marques sur un chef opposant », a-t-il déclaré.
Comment le contenu généré par l'IA peut être utilisé de manière éthique dans les campagnes
L'équipe de M. Jadoun crée des vidéos générées par l'IA pour contribuer à accroître la portée des messages personnels.
Divyendra Singh Jadoun a été bombardée d'appels de partis politiques à la recherche de deepfakes. (ABC News : Meghna Bali)
Par exemple, il peut tourner une vidéo de 15 minutes avec un chef de parti et l’utiliser pour créer un avatar capable de transmettre des appels et des messages vidéo à des centaines de milliers de membres du parti.
Les messages peuvent être personnalisés pour s'adresser à chacun par son nom et être diffusés dans l'une des 22 langues du pays.
« Il n'est pas possible pour le chef du parti de s'adresser à chaque membre du parti », a déclaré M. Jadoun.
Il affirme que son équipe a travaillé avec le BJP du Premier ministre Narendra Modi ainsi qu'avec son principal adversaire, le Parti du Congrès, et des poids lourds régionaux pour développer des outils d'IA permettant de reconnaître les efforts des bénévoles.
Les fournisseurs de services Deepfake affirment qu'ils peuvent filmer une vidéo de 15 minutes avec un chef de parti et l'utiliser pour créer un avatar capable de transmettre des appels et des messages vidéo. (Reuters : Anushree Fadnavis)
Ancien étudiant politique, cet homme de 31 ans a l'habitude de prononcer des discours enthousiasmants devant de grandes foules et de parcourir son État, le Rajasthan, pour développer son réseau.
Il sait ce dont a besoin une campagne efficace et affirme que les chances d'un candidat de remporter une élection dépendent du travail acharné des cadres de son parti.
« Si l'on considère la politique comme une entreprise, c'est la seule entreprise au monde où ses employés travaillent gratuitement… », a déclaré M. Jadoun.
« La seule chose dont ils ont besoin, c'est de la reconnaissance du chef du parti. »
La technologie a changé la campagne politique
M. Jadoun dit qu’à ses débuts en 2021, il lui fallait entre sept et 12 jours pour créer un deepfake de mauvaise qualité, d’une durée d’une minute.
Aujourd’hui, la technologie a progressé si rapidement que n’importe qui peut en fabriquer un en quelques minutes.
Il existe des ateliers et des campagnes de sensibilisation en Inde pour enseigner aux forces de l'ordre à lutter contre les deepfakes. (ABC News : Aditya Varier)
« Même s'ils n'ont aucune connaissance en codage, il existe de nombreux sites Web », a-t-il déclaré.
« Ils n'ont qu'à mettre une seule image et une vidéo là où ils veulent échanger le visage et cela peut créer la vidéo deepfake en un peu moins de trois minutes. »
Le consultant politique Sagar Vishnoi, pionnier de l'utilisation de l'IA dans la politique indienne et qui a travaillé sur le premier deepfake politique très médiatisé du pays en 2020, affirme que la technologie a changé les campagnes.
Il a déclaré que cela l'avait rendu 50 fois moins cher et estime qu'au cours des cinq prochaines années, 80 % des campagnes seront pilotées par l'IA.
« Huit cent millions de personnes sont connectées à Internet et les débits de données sont très bon marché », a-t-il déclaré.
« Les partis politiques disposent en eux-mêmes d'un si bon réseau et de si bons canaux de distribution qu'ils peuvent toucher davantage de masses. »
Sagar Vishnoi a travaillé sur le premier deepfake politique de grande envergure en Inde en 2020. (ABC News : Bhat Burhan)
M. Vishnoi, qui organise des ateliers et des campagnes de sensibilisation pour apprendre aux forces de l'ordre à lutter contre les deepfakes, affirme qu'il existe un risque d'utilisation abusive de la technologie.
« [If] L’IA a le pouvoir de connecter des milliards de personnes, elle a le pouvoir de créer de la désinformation en 10 secondes », a-t-il déclaré.
« Cela peut même provoquer des émeutes ou perturber le tissu social de la nation, en obligeant les dirigeants politiques à parler d'une religion ou d'une caste. »
Les femmes et les groupes marginalisés sont particulièrement vulnérables aux deepfakes
Les femmes et les groupes marginalisés des pays conservateurs et religieux sont particulièrement vulnérables aux deepfakes.
Au Bangladesh, des vidéos deepfakes de femmes politiques de l’opposition – notamment Rumin Farhana en bikini et Nipun Roy dans une piscine – ont miné leurs campagnes lorsqu’elles ont fait leur apparition avant les élections générales de janvier de cette année.
Le contenu cherche à changer la perception de l'électeur, et plus particulièrement sa psychologie, selon M. Vishnoi.
Le plus grand défi dans la lutte contre les deepfakes contraires à l'éthique est le biais de confirmation, selon Jaskirat Singh Bawa, responsable mondial des opérations de l'organisation de vérification des faits Logically Facts.
« Il est très difficile de faire changer d'avis quelqu'un qui est prêt à croire à un mensonge tant que cela renforce ses propres convictions », a-t-il déclaré.
« Nous vivons actuellement une saison électorale très animée, au cours de laquelle de nombreux individus, entités politiques, partis, ainsi que peut-être même des acteurs étrangers, ont tout à gagner du fait que le discours devient très toxique et très controversé. »
M. Bawa a déclaré que tous les partis diffusaient de la désinformation. (ABC News : Aditya Varier)
M. Bawa a déclaré que les allégations qu'il a entendues concernaient généralement l'attribution de malveillance et de sentiments anti-nationaux aux membres du parti d'opposition.
Mais il a déclaré que tous les partis répandaient de la désinformation.
« Quand il s'agit de partisans d'une idéologie politique particulière, tant qu'il existe des informations – aussi fausses soient-elles – qui sont conformes à leurs préjugés, ils sont volontairement diffusés.[ing] ça », a-t-il déclaré.
« Il se trouve qu'à l'heure actuelle, les équations de pouvoir sont en faveur du régime au pouvoir, ce qui conduit automatiquement à un nombre croissant de personnes partageant davantage d'informations qui sont approuvées, disons, par les partisans du parti au pouvoir. »
Divyendra Jadoun a déclaré qu'il existe plusieurs façons de repérer un deepfake, notamment en vérifiant la racine des cheveux de la personne sur la photo ou la vidéo, en prêtant attention au mouvement autour des yeux ou en recherchant des ombres étranges.
Mais il a ajouté que rien ne pouvait remplacer l’intuition.
« Notre instinct est meilleur que n'importe quel algorithme de détection existant », a déclaré M. Jadoun.
« Si vous regardez attentivement, nous voyons qu'il s'agit d'un deepfake. Mais le problème est que les gens veulent croire ce qu'ils veulent croire », a-t-il déclaré.
