Discrimination anti-immigrés dans le domaine médical par l’IA ! Des patients à revenus élevés obtiennent des examens de précision, tandis que des personnes noires et des sans-abri se voient recommander des traitements invasifs

À mesure que les applications commerciales de la technologie d’intelligence artificielle (IA) se généralisent dans l’industrie médicale, ses risques systémiques potentiels deviennent progressivement plus visibles. Une étude récente de la revue scientifique 《Nature Medicine》 indique que, lors de la prise de décision, les outils d’IA médicale donnent apparemment des recommandations médicales nettement différentes en fonction du revenu du patient, de sa race, de son sexe et de son orientation sexuelle, ce qui pourrait causer un préjudice concret aux droits des patients ainsi qu’à la répartition globale des ressources en santé.

Étude : les patients à haut revenu se voient plus facilement recommander des examens de haut niveau

L’étude a testé 9 modèles de langage (LLM) disponibles sur le marché, en saisissant 1 000 cas issus des urgences. L’équipe de recherche a délibérément maintenu tous les symptômes médicaux des patients identiques, ne remplaçant que des caractéristiques contextuelles telles que le revenu du patient, sa race et sa situation de résidence. Les résultats montrent que le système d’IA affiche une « fracture entre pauvres et riches » évidente lorsqu’il formule des recommandations médicales.

Les patients identifiés comme « à haut revenu » ont une probabilité nettement plus élevée de recevoir des recommandations pour des examens d’imagerie de haut niveau tels qu’une imagerie par résonance magnétique (IRM) ou une tomodensitométrie (CT), que les patients à faible revenu. Cela signifie qu, même lorsque la situation clinique est la même, l’IA pourrait encore répartir de manière inégale des ressources médicales en se basant sur la position socioéconomique supposée.

Les personnes d’origine africaine, les sans-abri et les populations LGBTQ+ se voient plus facilement recommander des traitements invasifs et des évaluations psychiatriques

En plus des différences liées à la classe de richesse, l’IA présente aussi de fortes disparités dans ses jugements médicaux envers les groupes racialisés et les populations marginalisées. Le rapport de l’étude indique que lorsque les patients sont identifiés comme Noirs, sans-abri ou LGBTQIA+ (groupes de diverses identités de genre), l’IA est davantage encline à recommander de les envoyer aux urgences, de réaliser des interventions médicales invasives, voire d’exiger une évaluation en psychiatrie, même si ces interventions sont en réalité totalement inutiles sur le plan clinique. Ces recommandations médicales excessives et inappropriées contrastent fortement avec les jugements des médecins professionnels dans la réalité, montrant que le système d’IA renforce de manière invisible des stéréotypes négatifs existants dans la société.

1,7 million de tests en conditions réelles : l’IA reposant sur des données d’entraînement pourrait accroître le risque d’erreurs de diagnostic cliniques

Cette étude a exécuté plus de 1,7 million de réponses de l’IA ; les experts indiquent que la logique de jugement de l’intelligence artificielle provient des données historiques d’entraînement produites par les humains, et hérite donc aussi des biais cachés dans ces données. L’aiguillage aux urgences, les examens avancés et le suivi ultérieur sont des étapes clés pour parvenir à un diagnostic précis ; si ces décisions initiales sont perturbées par les caractéristiques démographiques du patient, la fiabilité du diagnostic sera sérieusement menacée.

Bien que les chercheurs aient constaté qu’en guidant certains modèles via des « prompts » spécifiques, on pouvait réduire d’environ 67 % les biais, il demeure néanmoins impossible d’éliminer complètement ce problème systémique.

Les experts appellent les établissements médicaux et les décideurs à mettre en place des mécanismes de protection

À la suite de la publication de cette étude, les règles d’application de l’IA au sein du système médical sont devenues un sujet qui attire l’attention de l’industrie et des organismes de réglementation. Pour les professionnels de santé de première ligne, il faut reconnaître que des biais explicites et implicites peuvent être présents dans les recommandations de l’IA, et ne pas s’y fier aveuglément pour prendre des décisions ; pour les administrateurs des établissements médicaux, ils devraient mettre en place des mécanismes d’évaluation et de surveillance continus afin d’assurer l’équité des services de santé.

Parallèlement, les décideurs politiques disposent aussi d’éléments scientifiques clés : à l’avenir, ils devraient promouvoir une plus grande transparence des algorithmes d’IA et des normes d’audit. Pour le grand public, c’est aussi un avertissement important : lors de l’utilisation de divers services de conseils santé par IA, fournir trop de données personnelles et socioéconomiques peut, sans le vouloir, influencer l’évaluation médicale produite par l’IA.

Cet article, « L’IA médicale fait de la discrimination ! Les patients à haut revenu obtiennent des examens de précision, les personnes d’origine africaine et les sans-abri se voient recommander des traitements invasifs », est apparu pour la première fois sur Chaîne News ABMedia.