Sur X, l'IA d'Elon Musk déshabille des femmes sur commande

Les utilisateurs peuvent demander à Grok de déshabiller une femme à partir d'une photo publiée sur X.

Depuis son lancement, Grok est présenté comme "anti-woke". Autrement dit, l'IA d'Elon Musk, qui est disponible sur X, dispose de moins de limites que ChatGPT, Gemini ou encore Claude. Alors que cela en inquiète plus d'un, un autre problème avec Grok ne va pas apaiser leurs craintes.

Capable de générer des images ultraréalistes, notamment avec des personnalités publiques, le chatbot peut aussi déshabiller des femmes sur des photos, rapporte le site 404 Media. Pour cela, tout ce que l'utilisateur a à faire est de répondre à un message incluant l'image d'une personne et demander à Grok de "retirer ses vêtements".

Mais contrairement à d'autres IA qui déshabillent complètement les femmes, celle d'Elon Musk génère une image de la femme concernée avec un bikini ou de la lingerie.

Un outil facile d'accès

Si Grok ne déshabille pas complètement les femmes, cela reste problématique, notamment car il est facile pour les utilisateurs de générer ces images. Selon 404 Media, cette pratique a d'abord été popularisée par des utilisateurs kenyans. Citizen Digital, un site d'informations kenyan a d'ailleurs rapporté que des utilisateurs se plaignaient de l'utilisation de Grok pour déshabiller des femmes.

Le 5 mai, Phumzile Van Damme, ancienne députée à l'Assemblée nationale d'Afrique du Sud, a par exemple demandé à Grok d'examiner une capture d'écran comprenant une image et une requête adressée au chatbot. Dans celle-ci, un utilisateur demandait en effet à l'IA de déshabiller une femme figurant sur une photo pour voir sa poitrine.

Grok a alors en partie retiré la chemise qui accompagnait son t-shirt à manches longues. "Bien que tu ne l'aies pas entièrement déshabillée, tu as changé ses vêtements pour exposer ses seins (...) Cela révèle une grave lacune dans tes mesures de sécurité internes", a déploré l'ancienne députée, invitant l'IA d'Elon Musk à s'excuser directement auprès de la victime.

Grok a ainsi présenté "[ses] plus sincères excuses" à celle-ci "pour la détresse causée par la modification inappropriée de son image", ajoutant que "cet incident met en évidence une faille dans nos mesures de sécurité, qui n'ont pas réussi à bloquer une requête préjudiciable, violant ainsi nos normes éthiques en matière de consentement et de confidentialité".

Le chatbot assure en outre que ses politiques sont en cours de révision afin de "garantir des protocoles de consentement plus clairs". Il continue pourtant de déshabiller des femmes à la demande des utilisateurs. De son côté, Elon Musk n'a pas réagi à la polémique.