Quand les algorithmes médicaux creusent les inégalités : le revers sombre de l'IA en santé
On nous a longtemps vendu l'intelligence artificielle comme une technologie neutre, presque chirurgicalement objective. La réalité, elle, est bien plus inconfortable. Les biais algorithmiques dans l'IA médicale constituent aujourd'hui l'une des failles les plus dangereuses — et les moins visibles — de la médecine numérique. Une étude parue dans The Lancet Digital Health en 2025 l'a confirmé sans détour : loin de corriger les injustices du système de santé, ces algorithmes ont tendance à les reproduire, parfois même à les aggraver. En Suisse comme ailleurs, des patients issus de minorités ethniques, de milieux défavorisés ou simplement plus âgés se retrouvent pénalisés par des outils entraînés sur des données qui ne les représentent pas. Comprendre pourquoi, et surtout comment y remédier, est devenu une priorité de santé publique absolue en 2026.
Ce qu'on entend vraiment par « biais algorithmique » en médecine
Concrètement, un biais algorithmique en médecine, c'est quoi ? C'est une erreur systématique — pas aléatoire, mais répétée et orientée — qui fait qu'un modèle d'IA produit des résultats moins fiables pour certains groupes de patients que pour d'autres. Ces erreurs ne tombent pas du ciel. Elles naissent des déséquilibres présents dans les données utilisées pour entraîner ces modèles, des décisions de conception prises (ou non) par les développeurs, et du contexte réel dans lequel ces outils sont finalement utilisés.
La littérature scientifique identifie plusieurs grandes familles de biais :
- Biais de sélection : Les jeux de données surreprésentent certains profils — typiquement des hommes blancs, jeunes, issus de pays riches — au détriment de populations entières qui restent dans l'ombre.
- Biais de mesure : Des appareils comme les oxymètres ou certains équipements d'imagerie ont été calibrés sur des populations homogènes, ce qui les rend moins précis pour les autres.
- Biais de confirmation : Les algorithmes apprennent des pratiques médicales passées — y compris celles qui reflétaient des préjugés inconscients ou délibérés.
- Biais d'agrégation : Un même modèle appliqué uniformément à des sous-groupes très différents, comme s'il n'existait aucune variation biologique ou sociale pertinente.
Selon une analyse de l'Organisation Mondiale de la Santé (OMS) publiée en 2024, plus de 60 % des bases de données médicales servant à entraîner des modèles d'IA proviennent de patients nord-américains ou européens d'origine caucasienne. Des milliards de personnes aux profils biologiques distincts restent donc largement absentes de ces référentiels.
Des cas réels qui font froid dans le dos
Ces biais ne sont pas des abstractions académiques. Ils ont des visages, des noms, des conséquences cliniques mesurables. Voici quelques exemples qui illustrent l'étendue du problème mieux que n'importe quel graphique.
Les oxymètres de pouls : une erreur encodée dans le matériel
L'affaire des oxymètres est sans doute l'exemple le plus frappant. Ces petits capteurs qui mesurent la saturation en oxygène dans le sang — omniprésents pendant la pandémie de COVID-19 — surestimaient le niveau d'oxygène chez les patients à peau foncée dans environ 11,7 % des cas, contre seulement 3,6 % chez les patients à peau claire. C'est ce qu'a établi une étude publiée dans le New England Journal of Medicine dès 2020, confirmée ensuite par plusieurs travaux en 2024. Résultat pratique : des milliers de patients afro-américains et afro-caribéens ont vu leur accès aux soins intensifs retardé, leurs appareils affichant des valeurs rassurantes alors que leur état se dégradait.
Un algorithme américain qui pénalisait les patients noirs
En 2019, une étude publiée dans Science a mis au jour quelque chose d'assez stupéfiant : un algorithme commercial utilisé pour gérer les soins de dizaines de millions d'Américains attribuait systématiquement un score de risque plus bas aux patients noirs, à état de santé pourtant équivalent à celui des patients blancs. La cause ? L'algorithme utilisait les dépenses médicales comme indicateur du besoin de soins. Or, les patients noirs dépensent en moyenne moins pour leur santé — non pas parce qu'ils vont mieux, mais parce que les barrières économiques et les inégalités d'accès les en empêchent. En corrigeant ce seul biais, les chercheurs ont estimé que la proportion de patients noirs éligibles à un suivi renforcé aurait dû être 2,6 fois plus élevée.
La dermatologie numérique aveugle aux peaux foncées
Les algorithmes de détection du mélanome font régulièrement la une des revues médicales pour leurs performances impressionnantes. Mais sur quelles peaux ont-ils été entraînés ? À plus de 80 % sur des lésions de patients aux phototypes I à III (peaux claires). Pour les phototypes V et VI, la précision diagnostique chute de 15 à 30 points de pourcentage. Des cancers diagnostiqués trop tard, parce que l'algorithme n'avait tout simplement jamais appris à les reconnaître. Des problèmes analogues existent en radiologie — un domaine que nous avons exploré dans notre article consacré à l'IA en radiologie et la révolution du diagnostic médical en Suisse.
Les femmes et les maladies cardiovasculaires : une sous-estimation persistante
Les algorithmes de prédiction du risque cardiovasculaire ont longtemps été construits à partir de cohortes majoritairement masculines. Une méta-analyse de 2025 portant sur 47 études a révélé que ces outils sous-estimaient le risque d'infarctus chez les femmes dans 34 % des cas. Pourquoi ? Parce que les symptômes féminins atypiques — nausées, fatigue intense, douleurs à la mâchoire — étaient sous-représentés dans les données historiques. Le résultat, c'est des infarctus non prévenus chez des femmes dont le profil de risque était mal évalué.
Pourquoi ces biais existent : une question de données, de conception et de contexte
Pour corriger un problème, encore faut-il comprendre d'où il vient. Les biais algorithmiques en IA médicale ont des racines à trois niveaux distincts mais profondément liés.
Des données qui reflètent un passé inégal
Un algorithme apprend ce qu'on lui montre. Si on lui montre des décennies de pratiques médicales inégales, c'est ça qu'il va reproduire. Les registres des grands hôpitaux universitaires — qui constituent souvent la base des jeux d'entraînement — surreprésentent massivement les patients ayant effectivement pu accéder à ces établissements : des personnes géographiquement proches, économiquement stables, et le plus souvent issues de groupes majoritaires.
Un rapport de l'Agence Européenne des Médicaments (EMA) de 2025 est sans appel : moins de 12 % des essais cliniques servant à valider des algorithmes d'IA médicale intègrent une analyse par appartenance ethnique, et moins de 20 % par genre.
Des choix de conception rarement innocents
Chaque décision prise lors du développement d'un algorithme — quelle variable chercher à prédire, quelles données utiliser en entrée, quelle métrique optimiser — peut avantager certains groupes et en pénaliser d'autres. Et ces décisions sont souvent prises sans que leurs implications inégalitaires soient pleinement mesurées. L'utilisation de proxies socio-économiques en lieu et place de données médicales directes est l'un des pièges les plus classiques, comme l'a illustré l'exemple américain cité plus haut.
Un déploiement qui ignore les contextes réels
Un algorithme parfaitement calibré dans un hôpital universitaire bien équipé peut se révéler totalement inadapté dans un centre de santé communautaire en zone défavorisée. Les équipements diffèrent, les profils de patients aussi. Cette question du déploiement contextuel rejoint d'ailleurs directement les enjeux de cybersécurité des données de santé et des applications connectées que nous avons abordés dans un article précédent.
Ce que disent les chiffres : l'ampleur réelle des inégalités
Voici un tableau récapitulatif des biais les mieux documentés à ce jour — parce que parfois, les chiffres parlent mieux que les discours.
| Domaine médical | Population affectée | Ampleur du biais documenté | Conséquence clinique |
|---|---|---|---|
| Oxymétrie de pouls | Patients à peau foncée | +8,1 % de faux positifs de saturation | Retard d'accès aux soins intensifs |
| Gestion des soins chroniques | Patients noirs (USA) | Sous-référencement de 2,6x | Prise en charge insuffisante |
| Détection du mélanome | Phototypes V-VI | -15 à -30 % de précision | Cancers diagnostiqués tardivement |
| Risque cardiovasculaire | Femmes | Sous-estimation dans 34 % des cas | Infarctus non prévenus |
| Détection de pneumonie (IA) | Enfants < 5 ans / pays à faible revenu | Précision réduite de 22 % | Surmortalité infantile |
On touche là à un paradoxe particulièrement cruel : l'IA médicale, souvent présentée comme un levier de démocratisation des soins, risque d'accentuer les fractures existantes si rien n'est fait. Et les biais algorithmiques ne sont pas la seule menace — ils peuvent se combiner avec d'autres dérives, comme le décrit notre analyse sur les dangers des hallucinations de l'IA médicale.
Ce que font les régulateurs — et ce qui manque encore
La prise de conscience institutionnelle a progressé ces deux dernières années, c'est indéniable. Mais entre les intentions affichées et la réalité du terrain, il reste un gouffre.
L'IA Act européen : une avancée réelle, des limites concrètes
L'AI Act de l'Union européenne, en déploiement progressif depuis 2024, classe les systèmes d'IA médicale dans la catégorie « haut risque ». Ce classement impose des obligations sérieuses : documenter la représentativité des données d'entraînement, évaluer la conformité avant mise sur le marché, surveiller les performances après déploiement, et garantir la transparence sur les résultats par sous-groupe. Les sanctions en cas de manquement peuvent atteindre 30 millions d'euros ou 6 % du chiffre d'affaires mondial annuel — de quoi, en théorie, inciter les acteurs à prendre ces exigences au sérieux.
La Suisse s'aligne, avec ses spécificités
Sans être membre de l'UE, la Suisse s'adapte progressivement à ces standards via les révisions de la Loi sur les produits thérapeutiques (LPTh) et les directives de Swissmedic sur les logiciels médicaux basés sur l'IA. En 2025, Swissmedic a publié des lignes directrices imposant aux développeurs de documenter la composition démographique de leurs données et de démontrer des performances équilibrées entre sous-groupes. L'Inselspital de Berne et les HUG de Genève ont par ailleurs lancé en 2025 leurs propres programmes d'audit d'équité algorithmique — une initiative encourageante. Ces démarches s'articulent naturellement avec les enjeux de cybersécurité des dispositifs médicaux connectés.
Ce qui manque encore
Malgré ces progrès, plusieurs lacunes demeurent. Les obligations de transparence restent souvent formulées en termes généraux et difficiles à contrôler. La définition des sous-groupes à évaluer n'est pas harmonisée d'un pays à l'autre. Et les capacités humaines et techniques pour conduire des audits d'équité rigoureux font défaut dans la plupart des établissements de santé. Sans oublier que des outils d'IA prolifèrent dans des zones grises réglementaires — comme les thérapies numériques en santé mentale — où les mêmes questions d'équité se posent avec une acuité particulière.
Ce qu'on peut faire concrètement pour y remédier
La bonne nouvelle, c'est que des solutions existent. La moins bonne, c'est qu'elles demandent des efforts coordonnés et une volonté réelle à tous les niveaux.
Élargir et diversifier les données d'entraînement
C'est la réponse la plus directe au problème. Des initiatives comme le programme All of Us aux États-Unis — qui rassemble plus d'un million de participants aux profils diversifiés — ou le projet STANDING Together au Royaume-Uni montrent qu'il est possible de constituer des référentiels médicaux réellement représentatifs. En Suisse, le Swiss Personalized Health Network (SPHN) travaille à l'harmonisation et au partage de données cliniques diversifiées entre hôpitaux universitaires.
Intégrer l'équité dès la conception des modèles
Le champ du Fairness-Aware Machine Learning propose plusieurs approches complémentaires :
- Prétraitement : Rééquilibrer les données avant l'entraînement pour corriger les surreprésentations.
- Contraintes d'équité pendant l'entraînement : Intégrer directement des métriques d'équité — parité démographique, égalité des opportunités — dans la fonction d'optimisation du modèle.
- Post-traitement : Calibrer les seuils de décision différemment selon les sous-groupes pour atteindre des performances équilibrées.
- Explicabilité (XAI) : Utiliser des techniques comme SHAP ou LIME pour identifier précisément quelles variables alimentent les disparités de prédiction.
Rendre obligatoires les audits d'équité indépendants
À l'image des audits de sécurité informatique — devenus une norme incontournable — les audits d'équité algorithmique doivent précéder tout déploiement clinique d'un outil d'IA. Ces audits doivent évaluer les performances de manière stratifiée : par genre, âge, appartenance ethnique, niveau socio-économique, et les comparer à des seuils d'acceptabilité définis à l'avance.
Construire des équipes de développement réellement diverses
Une étude publiée dans Nature Machine Intelligence en 2024 a établi quelque chose de frappant : des équipes de développement diversifiées — en termes de genre, d'origine et de discipline — identifient 2,3 fois plus de sources potentielles de biais que des équipes homogènes. Intégrer des cliniciens, des représentants de patients, des sociologues et des éthiciens dès la phase de conception n'est pas un luxe — c'est une condition de base pour espérer produire des outils équitables.
Former les professionnels de santé à la pensée critique
Les médecins et soignants qui utilisent ces outils au quotidien doivent comprendre leurs limites — et être capables de repérer un résultat potentiellement biaisé. Cette forme de littératie algorithmique commence à s'intégrer dans certains programmes de formation médicale continue en Suisse. Elle s'inscrit dans une vigilance plus large face aux dérives du numérique médical, notamment les deepfakes médicaux qui menacent la confiance des patients.
L'équité algorithmique : une exigence éthique autant que clinique
Les biais algorithmiques en IA médicale ne sont pas une fatalité inscrite dans le code. Ce sont des conséquences de choix humains — dans la manière dont on collecte les données, dont on conçoit les modèles, dont on les déploie. Et des choix humains peuvent être révisés. Ce qui est moins réversible, en revanche, c'est le tort causé aux patients qui ont reçu des soins sous-optimaux à cause d'algorithmes qui ne les voyaient pas vraiment.
Pour les établissements de santé suisses, les régulateurs et les développeurs de solutions d'IA, 2026 représente un moment charnière. Les outils techniques sont là. Les cadres réglementaires se mettent en place. La volonté scientifique existe. Ce qui manque encore, c'est une mobilisation collective suffisamment forte pour faire de l'équité algorithmique un standard non négociable — pas un argument de vente, mais une exigence de fond. Une IA médicale véritablement juste, c'est une condition de qualité et de sécurité pour tous les patients — y compris dans des domaines aussi sensibles que la santé mentale et les thérapies numériques assistées par IA.
Vous êtes professionnel de santé, décideur hospitalier ou développeur de solutions numériques médicales et vous souhaitez évaluer l'équité de vos systèmes d'IA ? L'équipe de CyberClinique est là pour vous accompagner dans l'audit, la compréhension et la prévention des biais algorithmiques. Contactez nos experts dès aujourd'hui pour un accompagnement sur mesure.