"Promouvoir leurs propres récits sur le chaos": profitant que la réalité est prisonnière d’un Iran coupé d’Internet, de fausses vidéos générées par IA enflamment le net

Privé d’accès à internet depuis plus d’une semaine, l’Iran est plongé dans une guerre de l’information. Alors que les manifestations contre le régime se poursuivent, des vidéos générées par IA inondent les réseaux sociaux. Un phénomène qui accentue la désinformation, tant chez les opposants que chez les partisans du pouvoir en place.

Plus d'une semaine sans connexion à internet. Depuis la fin décembre, l'Iran est en proie à des manifestations contre la vie chère, qui se sont depuis transformées en mouvement appelant à la chute du régime théocratique dirigé par l’ayatollah Ali Khamenei.

Face à l'ampleur de cette contestation, les autorités ont imposé une coupure d'internet le 8 janvier, selon l'ONG de surveillance de la cybersécurité Netblocks. Officiellement, la mesure a été justifiée par le gouvernement comme une réponse à la suite d'"opérations terroristes" et d'"ordres" provenant "de l'étranger". Dans les faits, la décision empêche la circulation d’informations.

Iran : coup de bluff ou réelle menace de Donald Trump ? – 14/01

1:24:33

"Promouvoir leurs propres récits"

"Il y a énormément d’informations, mais il est impossible d’y accéder à cause de la coupure d’internet", déplore Ines Chomnalez, analyste chez NewsGuard.

En plein vide informationnel, l'intelligence artificielle s'impose donc comme un outil massif de manipulation de l'actualité. "Les utilisateurs étrangers des réseaux sociaux utilisent l’IA pour promouvoir leurs propres récits sur le chaos qui se déroule", poursuit-elle. En effet, de nombreux internautes, pro ou anti-gouvernement, se tournent vers des générateurs de vidéos par IA pour produire et surtout imposer leurs propres versions des manifestations en Iran.

Selon l’organisme américain de surveillance de la désinformation NewsGuard, au moins sept vidéos hyperréalistes générées par IA, prétendant montrer les manifestations iraniennes, ont circulé ces derniers jours sur les réseaux sociaux. Au total, elles ont cumulé près de 3,5 millions de vues sur X (ex-Twitter), Tiktok et d’autres plateformes.

Des vidéos qui alimentent la confusion

L'organisme a par exemple repéré une fausse vidéo de manifestants en train de détruire un véhicule du Basij, la force paramilitaire chargée de la répression. "Des Iraniennes libres mettent à mal la milice Bassidj. Par Dieu, ces femmes sont plus courageuses et plus honorables que les milices fidèles au régime de Khamenei", peut-on lire en légende.

Une fausse vidéo générée par IA de manifestants en train de détruire un véhicule du Basij © Captures d'écran

Partagée par un compte anti-régime sur X basé en Autriche, elle a dépassé les 720.000 vues en une journée. Or, d'après les outils de détection Hive, la vidéo présente 100% de probabilité d’avoir été générée par IA. La plateforme a notamment repéré des éclats de verre incohérents ou des inscriptions mal orthographiées. Pourtant, une grande partie des internautes croit à son authenticité.

Aux Etats-Unis, des utilisateurs américains conservateurs ont partagé des vidéos de manifestants iraniens rebaptisant des rues locales en l'honneur du président Donald Trump, sous les applaudissements de la foule. L'une d'entre elles dépasse les 91.000 vues. En effet, Donald Trump a menacé à plusieurs reprises d'intervenir militairement en Iran contre le régime des mollahs tout en apportant son soutien au mouvement de contestation.

Mais là encore, l’analyse par IdentifAI conclut à une génération intégralement artificielle. Un seul acte réel de ce type aurait été observé à Téhéran, mais les vidéos tentent de faire croire à un phénomène massif.

Des vidéos sur X ou Tiktok montrent des manifestants rebaptiser des rues avec le nom de Donald Trump. Elles sont générées par IA. © Captures d'écran - BFM Tech

A l'inverse, d'autres vidéos de manifestations pro-régime montrent des prétendues contre-manifestations pro-gouvernementales à grande échelle dans tout le pays. "Des marches rassemblant des millions de personnes ont débuté dans plusieurs provinces iraniennes, en rejet des actes d'émeutes armées, sous le slogan 'Solidarité nationale et respect de la paix et de l'amitié'", assure l'une de ces publications.

Sur les réseaux sociaux, des vidéos montrent des prétendues contre-manifestations pro-gouvernementales à grande échelle en Iran. Elles sont générées par IA. © Captures d'écran

Partagée par un compte turc favorable au pouvoir, cette vidéo a 98% de chance d'avoir été générée par IA d'après IdentifAI. Si des rassemblements pro-gouvernementaux ont bien eu lieu à Téhéran, aucun média crédible ne parle de chiffres aussi massifs.

Les cas se multiplient

Pour les experts, ces vidéos illustrent la montée en puissance de contenus visuels "hallucinés" sur les réseaux sociaux. Lors d'événements majeurs d'actualités, ces vidéos paraissent souvent crédibles et peuvent même éclipser les images et vidéos authentiques, surtout lorsque l'accès à l'information est volontairement restreint. Une viralité et un réalisme qui alimentent la confusion, la désinformation et parfois, les discours de haine en ligne.

Le phénomène est loin d'être un cas isolé. Depuis novembre dernier, des vidéos de déportations spectaculaires, censées montrer des agents de l’ICE, la police de l'immigration américaine, arrêtant des travailleurs immigrés, inondent les réseaux sociaux. Mais certaines de ces publications n'ont rien de vrai. Elles ont été générées par Sora 2.

Plus récemment, la capture éclair de Nicolás Maduro par les forces américaines a également été accompagnée de son lot de fausses vidéos et images générées par IA. Dès les premières minutes suivant l’officialisation par l’administration américaine de la capture du dirigeant vénézuélien, une première image générée par IA a commencé à circuler. Le cliché a été repris par certains médias et relayé jusqu’au compte officiel de la Maison Blanche sur X. Seul hic, l'image a été créée de toute pièce grâce à Nano Banana Pro.