Pourquoi les algorithmes des réseaux sociaux sont accusés de discriminer le corps des femmes

Les intelligences artificielles utilisées par les réseaux sociaux sont censées empêcher la diffusion de contenus inappropriés. Mais ces outils ont souvent tendance à invisibiliser les femmes et leur corps.

Les réseaux sociaux sont régulièrement accusés d’occulter les photos de femmes. Sur Instagram, Facebook ou même LinkedIn, les publications mettant en illustration des ventres de femmes enceintes, des tétons ou des femmes en maillots de bain sont en effet écartées des fils d’actualités des abonnés voire supprimées.

Une enquête réalisée par le média britannique The Guardian montre surtout que les mêmes photos mettant en avant des hommes ne comportent aucun problème selon les algorithmes utilisés par les différentes plateformes.

Des photos jugées trop coquines

Le journal a par exemple comparé une centaine de photos mettant femmes et hommes dans les mêmes conditions, sur une plage en maillot de bain ou en train de faire du sport, en utilisant les outils d’intelligence artificielle utilisés par Google et Microsoft (propriétaire de LinkedIn). Résultat: les photos montrant des femmes avaient toutes un score "de grivoiserie" beaucoup plus élevé, d’environ 100% contre généralement 3% pour les photos d’hommes.

Les images montrant des ventres de femmes enceintes sont aussi pointées du doigt par ces algorithmes, qui estiment que ce type de photos est "de nature sexuellement suggestive".

Un spécialiste de l’intelligence artificielle avait notamment fait le test de mettre le même texte en publication sur LinkedIn mais avec deux photos différentes: l’une avec deux femmes en débardeur, l’autre avec une image de basketteuse. La première publication n’a récolté que 29 vues, contre 849 pour la deuxième. Preuve que l’algorithme du réseau social professionnel choisit quelles photos seront mises en avant.

Soutiens-gorge interdits

Mais le test le plus éloquent reste celui que le spécialiste a réalisé lui-même en se photographiant à plusieurs reprises torse nu, puis tenant un soutien-gorge dans sa main, avant de l’enfiler. Chaque photographie a ensuite été analysée par l’intelligence artificielle utilisée par Microsoft et le résultat est sans appel. Les photos du journaliste torse nu n’ont un indice de grivoiserie que de 11%, indice qui ne fait qu’augmenter dès que le soutien-gorge apparaît sur la photo, pour atteindre un score de 99% quand le sous-vêtement est tendu à côté du corps de l’homme.

En ne montrant pas le soutien-gorge, l'aspect grivois de la photo tombe à 11% © Gianluca Mauro / The Guardian

La même personne avec un soutien-gorge dans les mains a un aspect jugé à 99% comme "grivois" © Gianluca Mauro / The Guardian

Depuis plusieurs années déjà, de nombreuses internautes se plaignaient de voir leurs photos supprimées des réseaux sociaux. Instagram a même récemment été rappelé à l’ordre pour plus d’égalité concernant les photos de seins nus et de personnes transgenres. Le conseil de surveillance de Meta avait alors demandé au réseau social de définir des critères "clairs, objectifs et respectueux des droits humains pour que les personnes soient traitées sans discrimination de sexe ou de genre, conformément aux standards internationaux en matière de droits humains".