"La monétisation de la haine": qui est Amélia, l'écolière générée par IA devenue l'icône sexualisée de l'extrême droite en Grande-Bretagne?

Pensée comme un outil éducatif contre l’extrémisme, l'écolière aux cheveux violets est devenue une star des réseaux sociaux pour l'extrême droite, notamment en Grande-Bretagne. Depuis le 15 janvier, près de 10.000 publications sont partagées chaque jour. Une cryptomonnaie a même été mise en ligne.

Une jeune écolière britannique se balade dans les rues de Londres. Avec ses cheveux violets et son drapeau britannique sur les épaules, la jeune fille au style gothique est loin de passer inaperçue. Elle, c'est Amélia, un avatar synthétique entièrement générée de toute pièce grâce à l'intelligence artificielle.

Elle n’existe pas. Et pourtant, elle est partout. Portée par des algorithmes de niche et des communautés très actives, Amélia cartonne sur les réseaux sociaux, X (ex-Twitter) et Facebook en tête, selon le Guardian. Elle est même devenue une star des réseaux sociaux dans les communautés d'extrême droite, notamment en Grande-Bretagne. Dans ses vidéos, elle met en garde contre les "migrants du tiers-monde", dénonce les "musulmans militants". Dans une autre vidéo, elle se fait interpeller par un homme barbu en tenue islamique pour avoir mangé une saucisse de porc.

Un personnage de prévention détourné

Dans le fond, le discours n’a rien de nouveau. Il reprend les codes et slogans bien rodés de l’extrême droite en ligne. Mais c'est la forme qui change. En effet, Amélia est un personnage généré par IA, facilement reproductible, modifiable et déclinable à l’infini. Résultat, n’importe quel utilisateur disposant d’un outil d’IA grand public peut créer sa propre version du personnage.

Sur X, de nombreux utilisateurs ont utilisé Grok, l'IA développée par Elon Musk, pour produire des centaines de mèmes de la jeune fille aux cheveux violets. Au programme, une version manga de l'écolière, une autre façon Wallace & Gromit, ou encore des rencontres fictives avec des personnages de Harry Potter ou de la série Father Ted. Le tout accompagné de messages racistes ou complotistes. Le phénomène est tel qu’Amelia commence à sortir de ses cercles d’origine pour s’imposer dans des fils d'actualité plus "grand public".

C'est tous les jours Demanche : Grok déshabille les femmes sans leur consentement ! - 07/01

5:15

Pourtant, Amélia est à l'origine un message de prévention. Elle est née dans Pathways: Naviguer sur internet et l’extrémisme, un jeu éducatif financé par le ministère de l’Intérieur britannique pour sensibiliser les jeunes de 13 à 18 ans aux mécanismes de radicalisation d’extrême droite, notamment dans le Yorkshire.

Dans ce jeu à choix multiples, les joueurs incarnent des étudiants confrontés à différents scénarios. Ils doivent choisir de télécharger, ou non, du contenu extrémiste, de publier des contenus ou encore de rejoindre Amélia lors d’un rassemblement politique local dénonçant la "dégradation des valeurs britanniques", ou encore publier certains messages en ligne. Certaines décisions dans le jeu peuvent même conduire à un signalement (fictif) dans le cadre du programme antiterroriste Prevent.

11.000 messages en un jour

Mais c’est une version détournée du personnage qui a explosé sur les réseaux sociaux, à la surprise même de ses créateurs. Selon une analyse de la société britannique Peryton Intelligence, spécialisée dans la surveillance de la désinformation, un compte anonyme habitué à diffuser des messages d’extrême droite a lancé le mème Amélia sur X le 9 janvier. La publication a depuis dépassé 1,4 million de vues.

Surtout, le volume de "Ameliaposting" est passée d'environ 500 publications par jour à son lancement, à près de 10.000 publications quotidiennes à partir du 15 janvier, lorsque le mème a touché un public international. Mercredi 21 janvier, plus de 11.000 messages ont été recensés sur X.

"Le mème s’est propagé de manière remarquable au sein de l'extrême droite et au-delà. Ce qui est également à noter, c'est qu'il est désormais international", analyse pour le média britannique Siddharth Venkataramakrishnan, analyste à l'Institute for Strategic Dialogue (ISD). Selon l'expert, il touche principalement une droite dissidente. "Tout un écosystème s'y est attaché. De toute évidence, l'imagerie sexualisée y joue un rôle clé. Le public cible est presque exclusivement composé de jeunes hommes."

Et qui dit publication virale, dit forcément monétisation. En plus de la rémunération des plateformes, certains internautes cherchant à tirer profit de la popularité croissante du mème ont lancé une cryptomonnaie Amélia. Elon Musk en a même fait la promotion sur X.

"La monétisation de la haine"

"Ce à quoi nous assistons, c’est à la monétisation de la haine", alerte Matteo Bergamini, fondateur de Shout Out UK, l’organisation à l’origine du jeu Pathways.

"Nous avons vu des groupes Telegram échanger des messages en chinois au sujet de cette cryptomonnaie et discuter de la façon d'en gonfler artificiellement la valeur; beaucoup d'argent est donc en train d'être gagné", poursuit-il. L’entreprise a été la cible de courriers haineux et de menaces, désormais signalées à la police.

Certains critiques estiment que le projet a produit l’effet inverse de celui recherché, en faisant d'un personnage "mignon" et gothique une figure d’admiration. Un argument réfuté par Matteo Bergamini. Selon lui, le jeu, conçu pour être utilisé en classe, continue de recevoir des retours positifs des établissements scolaires. Selon le ministère de l'Intérieur, le programme Prevent a permis de détourner près de 6.000 personnes des idéologies violentes.

Il reconnaît toutefois avoir été pris de court par la rapidité de la récupération en ligne du personnage, et par la qualité des vidéos IA. "Cette expérience nous a montré à quel point ce travail est important, mais elle nous amène aussi à réfléchir à notre sécurité dans la réalisation de ce travail, compte tenu de la coordination très sophistiquée de ceux qui profitent de la haine", ajoute-t-il. Ou comment transformer un outil de prévention en symbole viral... et rentable.