Une IA en guise de psy? Un rapport interroge la future utilisation de l'IA dans la santé mentale

Dans un rapport publié le jeudi 10 octobre, le collectif MentalTech étudie l'avènement de l’IA dans la prise en charge de la santé psychique. Plusieurs experts y demandent à ce que le déploiement de ces technologies soit encadré.

Anticiper l’irruption de l'Intelligence Artificielle pour assister les professionnels de la santé mentale... Cette association pose les conditions. MentalTech, qui réunit plusieurs acteurs des secteurs de la Tech et de la santé mentale, vient de publier un rapport sur la question.

Le collectif français veut s’impliquer dans le déploiement de solutions numériques éthiques dans le domaine de la santé mentale. Dans ce rapport, l'association a interrogé des experts sur les enjeux relatifs à l’utilisation de l’IA comme outil pour assister les consultations dans le secteur de la santé psychique.

Les usages de l’IA

La période de pandémie a eu des conséquences sur la santé mentale des Français. Santé publique France enregistrait une forte hausse des cas de dépression notamment chez les jeunes. En 2017, 11,7% des jeunes disent avoir connu un état dépressif, un chiffre qui a explosé en 2021 puisqu’il est passé à 20,8%. Proportionnellement, à cette augmentation, les demandes de soins psychiatriques ont connu une forte hausse.

Même si cela peut faire peur, le secteur de la santé mentale ne sera pas très probablement épargné par la démocratisation de l’IA. La technologie pourrait représenter une opportunité puisqu’elle permettrait un diagnostic plus efficace. Selon les symptômes et les conditions du patient, elle pourrait proposer le traitement le mieux adapté.

Le rapport émet cependant quelques réserves. Une sur-exploitation de l’outil technologique présente un risque d'entraîner une dépendance. Fier le diagnostic uniquement sur l’avis de la machine n’est pas une garantie. Le rapport précise qu’un examen réalisé par un professionnel sera plus adapté dans certaines situations.

Ce que préconise le rapport

Le rapport mentionne la mise en place de mesures dans la conception de ces IA. Parmi elles, les auteurs suggèrent que les professionnels de santé soient inclus dans le développement des algorithmes. Ils souhaitent de fait que les données d'entraînement utilisées par l’IA soient issues de la pratique des professionnels.

Au-delà du développement, les auteurs du rapport veulent assurer une boucle de contrôle humaine: les professionnels de la santé qui utiliseront l’IA devront vérifier les conclusions rendues par la machine. Pour cela, il est suggéré que les médecins suivent une formation abordant les pour et les contres de l’usage de cette technologie.

Du côté des utilisateurs, le rapport fait mention d’une totale transparence vis-à-vis de l’utilisation de l’IA. Les patients sont en droit d’avoir le choix d’utiliser les outils de reconnaissance ou non. Le rapport mentionne une installation personnalisée et adaptée à leurs éventuelles appréhensions quant à l’utilisation de cette IA.

MentalTech cherche à anticiper l’avènement de l’IA dans la médecine, une opportunité pour faciliter le diagnostic de troubles mentaux tout en gardant en tête qu’un tel système n’est pas infaillible. Selon l’OMS en 2022, “71 % des personnes atteintes de psychose dans le monde ne bénéficient pas de services de santé mentale”.