Assises de l’e-santé, épisode 1
IA en médecine : « Le patient doit savoir, comprendre et pouvoir refuser »
Les 8e Assises de l’e-santé, organisées le 21 mai dernier, ont fait le plein en province de Luxembourg. La séance a été ouverte par la Dre Tatiana Revenco, experte en protection des données dans le secteur de la santé et des sciences de la vie, fondatrice de Medical Data Hub et enseignante à l’Institute for Interdisciplinary Innovation in Healthcare de l’ULB, ainsi que par Me Matteo Capriulo, directeur de l’AMUB - Association des médecins anciens étudiants de l’ULB - et avocat au barreau de Bruxelles.
Tous deux ont présenté les grandes lignes d’une pratique réglementaire conforme lorsque l’intelligence artificielle entre dans la prise en charge médicale.
Une révolution déjà présente, mais encore limitée
La Dre Tatiana Revenco a d’abord rappelé que l’intelligence artificielle est souvent présentée comme une révolution récente. Pourtant, ses racines sont plus anciennes. Dès les années 1940 et 1950, des chercheurs tentaient déjà de modéliser les circuits neuronaux à l’aide de calculs complexes et de probabilités. Aujourd’hui, le principe général reste comparable : on fournit des données à un système, souvent des données de santé, et celui-ci génère une réponse.
Mais la spécialiste a aussitôt appelé à la prudence. La technologie évolue à une vitesse considérable. Ce qui est vrai aujourd’hui pourrait être dépassé dans quelques mois ou dans un an. En médecine, l’IA est déjà utilisée en radiologie, notamment pour analyser de grandes quantités d’images, comme des IRM ou des scanners. Des algorithmes peuvent aussi contribuer à prédire certains risques liés à des pathologies.
"L’intelligence artificielle excelle dans certaines tâches complexes pour l’homme, comme traiter des quantités massives de données, mais elle reste en difficulté face à des tâches qui semblent intuitives pour les humains."
Mais ces systèmes restent limités. Ils peuvent traiter rapidement des volumes importants d’informations, mais ils ne sont pas capables de faire ce qu’un professionnel de santé réalise parfois presque instinctivement : replacer une image, un symptôme ou un résultat dans l’histoire propre d’un patient.
« Un système d’IA ne connaît pas réellement le contexte de vie d’un patient. Il ne comprend pas ses facteurs sociaux, son environnement, ses antécédents, ni les nuances cliniques que le médecin repère au fil de la consultation. » C’est ce que la Dre Revenco a relié au paradoxe de Moravec : l’intelligence artificielle excelle dans certaines tâches complexes pour l’homme, comme traiter des quantités massives de données, mais elle reste en difficulté face à des tâches qui semblent intuitives pour les humains.
L’IA reste une assistance
Le message central est donc clair : en santé, l’IA doit rester un outil d’assistance. Elle peut aider à générer un compte rendu, résumer un dossier médical, soutenir un dépistage, contribuer à un triage ou alléger certaines tâches administratives. Mais elle ne remplace pas le soignant.
La Dre Revenco a insisté sur ce point : « Nous ne sommes pas dans un scénario où l’IA se substitue au professionnel de santé. Et cela pour deux raisons. La première est technologique : les architectures actuelles d’IA ne permettent pas un remplacement fiable du jugement médical. La seconde est réglementaire : l’usage de l’IA en santé est strictement encadré. »
L’AI Act et l’approche par les risques
L’Union européenne a adopté le premier grand règlement mondial sur l’intelligence artificielle, l’AI Act. Critiqué pour avoir bridé l’innovation en Europre, ce texte repose sur une approche par les risques. « Les systèmes d’IA sont classés selon leur impact potentiel sur les personnes : risque minimal, risque limité, risque élevé et risque inacceptable. Les systèmes à risque inacceptable ne peuvent pas être utilisés. »
En santé, les systèmes d’IA utilisés dans la pratique clinique relèvent généralement de la catégorie des systèmes à haut risque. Cela signifie que la plupart des obligations prévues par la réglementation doivent être respectées.
Ces obligations ne sont pas seulement juridiques. Elles sont aussi techniques, organisationnelles et éthiques. Elles concernent notamment la transparence envers le patient, la supervision humaine, la gouvernance des données, la traçabilité, la documentation des décisions et la formation des professionnels.
Le patient doit être informé
Un exemple très concret a été donné : celui des outils qui enregistrent la voix du patient pour produire automatiquement un compte rendu de consultation. Dans ce cas, la première obligation est d’informer le patient.
« Celui-ci doit savoir qu’un système d’IA va entendre sa voix, enregistrer ses plaintes, ses symptômes ou son mal-être, puis générer un document. Son consentement doit être recueilli. S’il refuse l’utilisation de ce système, le médecin ne peut pas l’utiliser. »
Deuxième obligation : la supervision humaine. « Un compte rendu généré par une IA doit être relu et validé par le professionnel. Il ne peut pas être signé automatiquement. Le médecin reste responsable de l’acte médical. »
Attention aux résumés de dossiers médicaux
Autre exemple : le résumé de dossiers médicaux. « Certains spécialistes peuvent être tentés d’introduire un dossier dans un système d’IA afin d’obtenir rapidement une synthèse. La prudence est indispensable, car ces dossiers contiennent des données de santé, donc des données particulièrement sensibles. »
Dans la mesure du possible, il faut éviter d’utiliser des données directement identifiables : nom, prénom, numéro de registre national ou autres éléments permettant d’identifier le patient.
Des outils qui peuvent poser plus de questions que de réponses
La Dre Revenco a également évoqué les outils de dépistage basés sur des données médicales. Ces outils peuvent être utiles, mais ils soulèvent des questions essentielles. D’où viennent les données ? Sur quelles populations l’IA a-t-elle été entraînée ? Ces données sont-elles représentatives ? Le système est-il adapté aux patients réellement rencontrés en pratique ?
C’est là que l’esprit critique du médecin demeure crucial.
Comment intégrer l’IA de manière conforme ?
Me Matteo Capriulo a ensuite détaillé les étapes concrètes permettant à un professionnel de santé, à un cabinet médical ou à une institution hospitalière d’intégrer un outil d’IA de manière conforme et responsable.
Son premier message a été rassurant : « L’AI Act ne demande pas aux médecins de devenir des experts techniques capables de maîtriser tous les aspects de l’intelligence artificielle. En revanche, il impose une forme de littératie partagée, c’est-à-dire une connaissance suffisante des usages, des limites et des risques. »
Dans les grandes structures, cela suppose la création de comités interdisciplinaires réunissant plusieurs compétences. Au cabinet médical même de deux médecins, c’est plus compliqué.
Quatre fondations : cartographier, qualifier, gouverner, former
Me Capriulo a résumé la mise en conformité autour de quatre fondations.
La première consiste à cartographier les outils d’IA utilisés. Autrement dit : les inventorier. « Dans un hôpital, plusieurs systèmes peuvent déjà être déployés sans que tous les acteurs en aient une vision complète : imagerie, compte rendu automatisé, chatbot, triage aux urgences ou aide à la gestion administrative. »
La deuxième étape est de qualifier le niveau de risque de chaque solution. « En pratique clinique, la plupart des outils médicaux relèvent du haut risque. Ils doivent donc répondre à des obligations renforcées. »
La troisième fondation est la gouvernance des données. Il faut mettre en place des structures, des procédures, des responsabilités et des processus internes permettant de contrôler le déploiement et l’usage de ces outils.
La quatrième est la formation. Pour Me Capriulo, c’est probablement l’obligation la plus importante. Cette formation doit être continue et adaptée à chaque profil. Un directeur médical, un kinésithérapeute, un médecin généraliste ou une secrétaire médicale n’ont pas besoin du même niveau de connaissance. Mais tous doivent comprendre leur rôle dans l’utilisation d’un outil d’IA.
Trois réflexes : surveiller, informer, tracer
Une fois ces fondations posées, le praticien doit développer trois réflexes.
1/L’humain doit rester maître de la décision. « Si le professionnel n’est pas d’accord avec la recommandation de l’outil, ce désaccord doit pouvoir être motivé, documenté et inscrit dans un registre. L’IA peut se tromper. Elle peut halluciner. Elle peut fournir une recommandation erronée pour des raisons multiples. »
2/informer le patient. « Celui-ci est maître de ses données et doit savoir si un outil d’IA intervient dans sa prise en charge. Cette information doit aussi être mentionnée dans le dossier. »
3/Tracer et déclarer. « Les accès doivent être conservés, notamment afin de pouvoir retrouver l’origine d’un incident. En cas d’incident grave, des obligations de déclaration peuvent s’appliquer dans des délais précis. »
« Si j’étais patient, aimerais-je savoir qu’une IA intervient dans ma prise en charge ? Aimerais-je obtenir une explication compréhensible du rôle de cette IA ? Accepterais-je que mes données alimentent ce système ? Ferais-je confiance à la surveillance humaine exercée ?"
Pour faciliter la mise en conformité au quotidien, Me Capriulo a proposé aux soignants un test très simple : se mettre à la place du patient avant d’utiliser un outil.
« Si j’étais patient, aimerais-je savoir qu’une IA intervient dans ma prise en charge ? Aimerais-je obtenir une explication compréhensible du rôle de cette IA ? Accepterais-je que mes données alimentent ce système ? Ferais-je confiance à la surveillance humaine exercée ?
L’IA remplacera-t-elle le médecin ?
La question du remplacement du médecin par la machine a évidemment été abordée. Pour la Dre Revenco, la réponse est d’abord technologique : les systèmes actuels ne permettent pas de remplacer le jugement humain.
Pour Me Capriulo, la réponse est également juridique et philosophique. Juridique, parce que l’AI Act impose que l’humain garde le contrôle de la machine. Philosophique, parce que la médecine reste une profession profondément humaine. Comme d’autres métiers, elle évoluera avec l’innovation. Mais le médecin restera pilote.
Questions posées en séance et les réponses des experts
Les médecins et les soignants informent-ils vraiment les patients lorsqu’ils utilisent des applications d’IA à l’hôpital ou dans leur pratique quotidienne ?
Dre Tatiana Revenco : C’est une excellente question. Il faudrait sans doute réaliser une enquête pour disposer de chiffres concrets. Mais il faut rappeler le principe : lorsque des systèmes d’IA sont utilisés, le patient doit être informé et son consentement doit être recueilli. La vraie question est aussi pratique : les médecins ont-ils toujours le temps de le faire correctement ? Peuvent-ils y consacrer l’attention nécessaire ?
Existe-t-il des solutions concrètes pour informer systématiquement les patients ? Par exemple, une indication dans un service d’imagerie médicale disant que l’IA est utilisée suffit-elle ? Ou faut-il verbaliser cette information ?
Dre Tatiana Revenco : Il faut clairement verbaliser cette information. Des affiches dans les salles d’attente peuvent être une solution complémentaire. Elles constituent déjà un premier signal et permettent aux patients de préparer leurs questions. Mais cela ne suffit pas. Il faut expliquer à quelle fin les systèmes d’IA sont utilisés.
Vous avez insisté sur la nécessité de relire les comptes rendus générés par IA. Que risque un médecin ou un soignant s’il ne le fait pas ?
Dre Tatiana Revenco : S’il y a une erreur médicale, le compte rendu non relu devient une preuve directe. Cela renvoie à la traçabilité et à la documentation de l’utilisation des systèmes d’IA. L’AI Act rappelle que la décision et le contrôle doivent rester humains.
Me Matteo Capriulo : En termes de responsabilité, les conséquences peuvent se situer à plusieurs niveaux. Prenons l’exemple d’un compte rendu non relu contenant des recommandations ou des conclusions erronées produites par la machine. Cela reste un acte médical. La responsabilité médicale peut donc être engagée, de même que la responsabilité civile, déontologique, administrative, voire potentiellement pénale. Des sanctions peuvent aussi être appliquées en vertu du RGPD ou de l’AI Act, selon la gravité de l’incident. Ce ne sont donc pas des obligations à sous-estimer.
La réglementation de l’IA en santé protège les patients. Mais ne risque-t-elle pas aussi de freiner l’innovation médicale ?
Me Matteo Capriulo : Ce n’est pas seulement une question juridique ou économique. C’est aussi une question politique, presque géopolitique. Elle dépend de la manière dont nous concevons l’innovation. L’Europe accorde une place centrale aux droits fondamentaux. C’est ce qui la distingue d’autres modèles, notamment des États-Unis, où la logique de marché est beaucoup plus forte.
La vraie question est donc : faut-il innover à tout prix ? Pourquoi innove-t-on ? L’innovation vaut-elle toujours la peine si elle se fait au détriment des droits fondamentaux ? Tout ce que l’on crée doit rester fait par l’humain et pour l’humain. Oui, la réglementation peut potentiellement ralentir le marché ou certaines innovations. Mais il s’agit d’une mise en balance des valeurs. L’Union européenne a choisi de protéger certaines valeurs auxquelles d’autres continents sont peut-être moins attachés.