En Espagne, un algorithme traque ceux qui fraudent la sécurité sociale

Deux médias mettent à jour ce système utilisé depuis 2018 dans le pays, ayant potentiellement poussé des employés à reprendre le travail malgré une situation médicale qui ne leur permettait pas.

L’Espagne s’est fixé un objectif de lutte contre la fraude à l’assurance maladie, en visant notamment les employés qui fournissent des arrêts maladies alors que leur situation médicale leur permet de reprendre le travail.

Le pays s’est ainsi doté, depuis 2018, d’un système algorithmique permettant de détecter de tels cas. Un système qui, depuis cinq ans, est resté largement méconnu malgré le vœu de transparence énoncé par le pays, et sa position de leader dans l'utilisation d'une intelligence artificielle "raisonnée".

Une collaboration entre la cellule d’enquête journalistique Lighthouse Reports et le média espagnol El Confidencial a permis de mettre à jour ces fichiers restés, jusqu’ici, secrets.

Système opaque

Concrètement, l’intelligence artificielle utilisée par le gouvernement espagnol a pour but de décreter si oui ou non une personne en arrêt maladie est en mesure de reprendre le travail. Une décision complexe, qui met en jeu des données personnelles et médicales sensibles, et un algorithme vraisemblablement décrié par les experts interrogés par les deux médias.

"L’algorithme détermine quels dossiers d’arrêt de travail sont examinés en premier par la Sécurité sociale [...]. Il s’agit d’un programme informatique sophistiqué qui définit dans quel ordre chaque employé doit consulter un médecin pour savoir s’il peut continuer à percevoir la subvention [dédiée aux travailleurs en arrêt maladie, NLDR]. Le système identifie qui doit reprendre le travail et, si la décharge n’a pas encore été traitée, il signale le dossier comme fraude potentielle", décrit El Confidencial.

Les documents et informations collectés par El Confidencial et Lighthouse Reports "révèlent un système opaque et peu rentable, qui prend des décisions dont les enjeux peuvent concerner des millions de citoyens, et pouvant potentiellement pousser à un retour au travail des patients qui ne sont pas prêts", indique Lighthouse Reports.

Le système se compose de deux étapes, toutes deux au coeur d’une application utilisée par les médecins référents de la Sécurité sociale espagnole, et qui analyse les informations liées au patient. Au terme de ces deux étapes, le dossier médical reçoit une note allant de 0 à 1, le chiffre 1 représentant la capacité pour le patient de reprendre le travail.

Des algorithmes "pauvres" et "déséquilibrés"

Problème: les experts interrogés par El Confidencial et Lighthouse Reports alertent sur l'efficacité réelle du système. A l’instar de Ana Valdivia, chercheuse au King’s College (Londres) et enseignante en intelligence artificielle à l’Oxford Internet Institute, qui décrit des algorithmes "pauvres" et "déséquilibrés".

Un médecin anonyme, affilié à la Sécurité sociale espagnole et avec une quinzaine d’années d’expérience, affirme que "c’est un programme opaque, dont ceux qui y travaillent tous les jours ne sont pas capables d’expliquer de quoi il s’agit". Même son de cloche pour les six autres médecins et inspecteurs de la Sécurité sociale interrogés.

Quant aux données utilisées - médicales et personnelles - pour faire fonctionner ce système, si El Confidencial et Lighthouse Reports ont pu en obtenir une liste assez précise, le ministère n'a pas communiqué d'informations sur le poids de chaque donnée dans le calcul final.

Enfin, El Confidencial met en lumière deux des lacunes principales de la situation: le traitement des données médicales sensibles, qui doivent être manipulées avec la précaution légale en vigueur, et les biais algorithmiques, qui peuvent mettre en défaut certaines catégories de personnes. Deux questions qui sont restées sans réponse de la part du ministère de la Sécurité sociale espagnole.