IA explicable (XAI) en santé : la clé de la confiance et de la responsabilité éthique en Suisse
L'IA explicable (XAI) en santé s'est imposée en 2025–2026 comme l'un des débats les plus brûlants qui traversent les couloirs des hôpitaux suisses, les comités réglementaires européens et les cercles de la bioéthique. À mesure que les algorithmes d'intelligence artificielle participent à des décisions diagnostiques ou thérapeutiques aux conséquences parfois vitales, une interrogation fondamentale surgit : peut-on vraiment accorder sa confiance à une boîte noire ? La réponse des cliniciens, des juristes et des patients converge de plus en plus vers la même direction — non, pas sans une explication claire. Savoir ce qu'une IA décide, comprendre pourquoi elle le décide, et pouvoir valider ce raisonnement est devenu une exigence à la fois éthique, réglementaire et clinique. Dans cet article, nous passons en revue les mécanismes de la XAI, ses usages concrets au sein du système de santé suisse, les obstacles qu'elle génère et les horizons réglementaires qui se dessinent.
Qu'est-ce que l'IA explicable (XAI) et pourquoi est-elle incontournable en médecine ?
L'IA explicable regroupe un ensemble de méthodes et d'approches techniques qui rendent les décisions des systèmes d'intelligence artificielle intelligibles pour des humains — qu'il s'agisse de médecins, de patients ou de régulateurs. À l'opposé des modèles dits « boîte noire » comme les réseaux de neurones profonds, la XAI produit des justifications lisibles : quels facteurs ont pesé dans l'établissement d'un diagnostic, avec quelle importance relative, et selon quelle logique clinique.
En médecine, cette exigence de transparence est tout sauf anecdotique. D'après une étude parue dans The Lancet Digital Health en 2024, 72 % des médecins interrogés dans 15 pays européens affirmaient refuser de suivre une recommandation algorithmique dont ils ne comprenaient pas la logique interne. Ce pourcentage grimpe même à 81 % en Suisse selon une enquête réalisée par la Fédération des médecins suisses (FMH) en 2025. La XAI apporte précisément une réponse à cette méfiance, qui reste — avouons-le — tout à fait légitime.
Les principales méthodes XAI mobilisées dans le domaine de la santé sont les suivantes :
- LIME (Local Interpretable Model-agnostic Explanations) : produit des explications locales autour d'une prédiction donnée en perturbant les données d'entrée pour observer les variations de résultat.
- SHAP (SHapley Additive exPlanations) : attribue à chaque variable clinique une valeur de contribution à la décision finale, en s'inspirant de la théorie des jeux coopératifs.
- Mécanismes d'attention : dans les modèles de traitement du langage naturel appliqués aux dossiers médicaux, ils mettent en évidence les termes ou passages qui ont guidé la décision.
- Grad-CAM : utilisé en imagerie médicale, cet outil génère des cartes thermiques qui localisent précisément les zones d'une image radiologique ayant influencé le diagnostic de l'IA.
Ces outils ne relèvent pas de la simple pédagogie illustrative — ils forment une véritable infrastructure de confiance, sans laquelle l'IA médicale demeure inutilisable en pratique clinique réelle. Pour mieux comprendre les dérives possibles des algorithmes opaques, je vous invite à consulter notre article sur les dangers des hallucinations de l'IA médicale.
Les applications concrètes de la XAI dans les hôpitaux suisses
En Suisse, plusieurs grands établissements hospitaliers ont déjà intégré des modules XAI dans leurs outils d'aide à la décision clinique, avec des résultats mesurables à la clé. L'Inselspital de Berne, les HUG (Hôpitaux Universitaires de Genève) et le CHUV de Lausanne comptent parmi les pionniers de cette démarche.
Oncologie : expliquer pour mieux traiter
Au CHUV, un outil XAI basé sur SHAP a été mis en service en 2025 pour accompagner les oncologues dans le choix des protocoles de chimiothérapie. Pour chaque patient, l'algorithme génère un rapport identifiant les cinq biomarqueurs les plus déterminants dans sa recommandation, avec leur poids relatif exprimé en pourcentage. Depuis l'introduction de cette fonctionnalité explicative, les médecins font état d'une hausse de 34 % de leur confiance dans les recommandations proposées par l'IA. Nos analyses sur l'IA en radiologie diagnostique en Suisse illustrent des dynamiques tout à fait comparables.
Cardiologie prédictive et évaluation des risques
Depuis début 2026, l'Inselspital exploite un modèle prédictif du risque d'infarctus à dix ans, couplé à une couche XAI via Grad-CAM pour les ECG numérisés. Les cardiologues visualisent en temps réel les segments de l'électrocardiogramme qui ont déclenché une alerte, ce qui leur permet de confirmer ou de contester la prédiction en s'appuyant sur leur propre expertise clinique. Ce dialogue entre l'humain et la machine a permis de réduire les taux de faux positifs signalés de 19 % sur les six premiers mois d'utilisation, selon le rapport interne du service de cardiologie.
Psychiatrie et santé mentale numérique
Des applications XAI émergent également en psychiatrie — un domaine particulièrement sensible, on s'en doute. Des start-ups suisses comme Minds Analytics, basée à Zurich, développent des outils d'évaluation du risque suicidaire à partir des données des dossiers électroniques, en restituant une explication en langage naturel à destination du clinicien. Cette approche soulève des questions éthiques profondes que nous abordons dans notre dossier sur l'IA générative et l'éthique dans la formation des professionnels de santé.
XAI et responsabilité juridique : qui répond lorsque l'IA commet une erreur ?
La question de la responsabilité en cas d'erreur médicale impliquant une IA figure parmi les plus délicates du droit sanitaire suisse contemporain. La XAI n'efface pas cette responsabilité — mais elle la redistribue et la clarifie de manière fondamentale, ce qui change tout en pratique.
En droit suisse, la responsabilité médicale s'appuie sur le Code des obligations (CO) et la Loi fédérale sur la responsabilité (LRCF). Selon le Professeur Marc-André Renold, spécialiste de droit médical à l'Université de Genève, « la XAI constitue une pièce maîtresse du dossier, aussi bien pour la défense que pour l'accusation : sans trace explicative, il devient impossible de déterminer si le médecin a bien exercé son devoir de vigilance face à la recommandation algorithmique ».
On peut distinguer trois scénarios types de responsabilité :
| Scénario | Responsable principal | Rôle de la XAI |
|---|---|---|
| Médecin qui suit une recommandation IA erronée sans vérification | Médecin | Prouve que l'explication était disponible mais n'a pas été consultée |
| IA fournissant une explication trompeuse ou lacunaire | Fabricant / éditeur logiciel | Documente le défaut d'explicabilité |
| Explication XAI correcte, mais mal interprétée faute de formation | Institution hospitalière | Met en évidence la nécessité d'une formation XAI obligatoire |
Pour une analyse approfondie du cadre juridique suisse, notre article sur l'IA médicale et la responsabilité légale en Suisse fait le point sur les évolutions les plus récentes.
Les biais algorithmiques, ennemi silencieux de l'IA explicable
Attention — l'IA explicable ne garantit pas une IA équitable. Cette distinction est cruciale et les professionnels de santé doivent vraiment l'avoir en tête. Un algorithme peut produire une explication parfaitement limpide tout en s'appuyant sur des données biaisées qui reproduisent et amplifient des inégalités de santé préexistantes.
En Suisse, où la population est particulièrement multiculturelle — 25,8 % de résidents étrangers selon l'Office fédéral de la statistique (OFS) en 2024 — ce risque prend une dimension concrète et préoccupante. Des travaux récents montrent que des modèles de dépistage du diabète de type 2, entraînés majoritairement sur des données de patients d'Europe du Nord, sous-estiment systématiquement le risque chez les populations originaires d'Asie du Sud ou d'Afrique subsaharienne — et ce, même lorsque leurs décisions sont « expliquées » via SHAP. Troublant, non ?
La XAI peut néanmoins contribuer à détecter ces biais : en analysant les valeurs SHAP par sous-groupe démographique, il devient possible d'identifier des disparités de pondération révélatrices d'un traitement inégal. Ce travail de détection demeure cependant complexe et requiert des compétences spécialisées pointues. Notre dossier sur les biais algorithmiques en IA médicale approfondit cette problématique avec des exemples concrets issus de la pratique suisse.
Par ailleurs, la XAI reste vulnérable aux attaques adversariales : des acteurs malveillants peuvent manipuler les données d'entrée d'un modèle de façon à ce que son explication paraisse cohérente, tout en dissimulant une décision erronée. Les attaques adversariales contre l'IA médicale représentent ainsi une menace combinée pesant directement sur la fiabilité des explications.
Le cadre réglementaire suisse et européen : vers une obligation d'explicabilité ?
L'IA Act européen, dont l'application progressive est en cours depuis 2024, classe les systèmes d'IA médicaux dans la catégorie « à haut risque » et impose des exigences de transparence et d'auditabilité qui reviennent de facto à une obligation d'explicabilité. Son article 13 dispose que les systèmes à haut risque doivent être « suffisamment transparents pour permettre aux déployeurs de comprendre les résultats et d'en rendre compte ».
La Suisse — hors UE, mais engagée dans un processus d'alignement réglementaire — a publié en mars 2026 une feuille de route de Swissmedic précisant les conditions d'homologation des dispositifs médicaux intégrant de l'IA. Ce document de 47 pages consacre un chapitre entier à l'explicabilité, imposant à tout fabricant de démontrer qu'une explication compréhensible est disponible pour chaque décision clinique automatisée.
En parallèle, l'Espace européen des données de santé (EHDS), dont la mise en œuvre s'accélère, instaure un cadre de gouvernance des données qui favorise indirectement la XAI en imposant des standards stricts de traçabilité. Notre analyse de l'EHDS et son impact sur l'IA et la cybersécurité en Suisse détaille ces interactions réglementaires.
De son côté, la Commission nationale d'éthique pour la médecine humaine (CNE) a publié en janvier 2026 un avis consultatif recommandant que tout patient puisse solliciter une explication relative à toute décision algorithmique le concernant, dans un délai de 72 heures et dans un langage accessible à un non-spécialiste. Il s'agit là d'un droit à l'explication clinique inédit en droit suisse — une avancée significative. Les implications concrètes de ces évolutions pour les professionnels du secteur sont également analysées dans notre article sur l'IA Act et la santé en Suisse.
Comment déployer la XAI efficacement dans une institution de santé suisse ?
Mettre en place une IA explicable en milieu hospitalier ne se résume pas à greffer un module SHAP sur un algorithme existant. C'est un processus multidimensionnel qui engage la gouvernance, la formation des équipes et l'infrastructure technique — autant de chantiers à mener de front.
Étape 1 : Cartographie des décisions à fort impact
Il s'agit d'abord d'identifier quels algorithmes produisent des décisions cliniques à fort enjeu — diagnostic, pronostic, sélection thérapeutique — et de prioriser leur équipement en couche XAI. En pratique, une matrice risque/impact permet de hiérarchiser les chantiers : coût d'un faux négatif vs faux positif, fréquence d'utilisation, profil des utilisateurs finaux.
Étape 2 : Former les équipes cliniques
Les explications XAI n'ont de valeur que si ceux qui les reçoivent savent les interpréter correctement. Des formations spécifiques de 8 à 16 heures selon le profil — médecin, infirmier, data analyst — sont recommandées par l'Organisation mondiale de la Santé (OMS) dans ses lignes directrices sur l'IA médicale éthique publiées en 2025. Ces formations doivent couvrir la lecture des graphiques SHAP, l'interprétation des cartes thermiques et la reconnaissance des signaux d'alerte indiquant une explication suspecte.
Étape 3 : Audit continu et gouvernance
La XAI n'est pas un déploiement ponctuel — c'est un processus vivant qui évolue. Des audits trimestriels des explications générées permettent de détecter les dérives (data drift, concept drift) susceptibles de rendre les explications obsolètes ou trompeuses. Un comité de gouvernance IA réunissant cliniciens, juristes, éthiciens et représentants des patients doit superviser ces audits de façon régulière. Les enjeux de sécurité des données dans ce contexte sont abordés dans notre article sur la cybersécurité des données de santé et les risques IoT.
Étape 4 : Communication avec le patient
Le patient a le droit de savoir — et ce n'est pas qu'une formule. Développer des interfaces XAI orientées patient — en langage simple, multilingues, accessibles — constitue une obligation éthique et bientôt légale. Des pictogrammes, des analogies parlantes et des visualisations interactives permettent de transformer une sortie SHAP technique en une information compréhensible pour quelqu'un qui n'a aucune formation médicale.
Perspectives d'avenir : XAI, jumeaux numériques et médecine personnalisée
L'avenir de l'IA explicable en santé s'inscrit dans une convergence technologique particulièrement stimulante. Les jumeaux numériques médicaux — des répliques virtuelles du patient permettant de simuler des traitements avant de les administrer réellement — représentent une application XAI de pointe. Notre analyse des jumeaux numériques en santé montre comment l'explicabilité tend à devenir une composante native de ces systèmes.
Plusieurs tendances de fond dessinent le paysage XAI des cinq prochaines années en Suisse :
- XAI causale : dépasser les simples corrélations pour expliquer les relations de cause à effet entre variables biologiques et résultats cliniques. Des équipes de l'ETH Zurich publient des travaux pionniers dans ce domaine depuis 2024.
- XAI multimodale : expliquer des décisions reposant simultanément sur des images, des textes cliniques, des données génomiques et des signaux physiologiques — le défi technique majeur de la période 2026–2030.
- XAI fédérée : produire des explications cohérentes à partir de modèles entraînés sur des données distribuées entre plusieurs hôpitaux, sans centralisation, préservant ainsi la confidentialité des données patients.
- Deepfakes et confiance : à rebours, la prolifération des deepfakes médicaux rappelle avec force combien l'authenticité des données explicatives doit être garantie par des moyens cryptographiques robustes.
Sur le plan économique, le marché mondial de l'IA explicable en santé était estimé à 2,1 milliards USD en 2024 et devrait atteindre 8,7 milliards USD en 2030 selon le cabinet Frost & Sullivan, soit une croissance annuelle composée de 26,3 %. La Suisse, forte d'un écosystème biotech et medtech de réputation mondiale — plus de 1 400 entreprises medtech selon Swiss Medtech en 2025 — est idéalement positionnée pour capter une part significative de ce marché en pleine expansion.
Enfin, la convergence entre XAI et les nouvelles thérapies ARNm contre le cancer ouvre des perspectives inédites : expliquer pourquoi un algorithme personnalise un vaccin néo-antigénique pour un patient donné deviendra un impératif éthique et clinique de la médecine oncologique de demain — et ce moment est peut-être moins lointain qu'on ne le pense.
Conclusion : l'IA explicable, un investissement stratégique pour la santé suisse
L'IA explicable (XAI) en santé n'est pas un luxe technologique réservé aux laboratoires de recherche d'avant-garde — c'est une condition fondamentale de la confiance médicale, de la responsabilité juridique et de l'équité en santé dans la Suisse de 2026. Face à des algorithmes toujours plus puissants, la capacité à exiger et obtenir une explication constitue le nouveau droit du patient et le nouveau devoir du médecin. Deux faces d'une même exigence.
Les institutions suisses qui investissent dès aujourd'hui dans des infrastructures XAI solides, dans la montée en compétences de leurs équipes et dans des processus de gouvernance adaptés ne se contentent pas d'anticiper des réglementations imminentes : elles construisent une médecine plus humaine, plus juste et plus sûre. Dans un pays qui a fait de la précision et de la confiance ses valeurs cardinales, l'IA explicable est bien plus qu'un choix technologique — c'est une véritable déclaration de valeurs.
Vous souhaitez évaluer la maturité XAI de votre institution ou élaborer une stratégie d'IA explicable adaptée à vos besoins cliniques spécifiques ? Contactez notre équipe d'experts CyberClinique pour un audit personnalisé.