Une médecin néerlandaise sanctionnée pour utilisation imprudente de l'IA
Le tribunal disciplinaire régional des professions de santé d’Amsterdam inflige une sanction disciplinaire à une médecin pour avoir utilisé l’intelligence artificielle (IA) sans précaution lors de la rédaction d’avis médicaux.
Le plaignant n’était pas un patient, mais une prestataire de services multidisciplinaire dans le secteur de l’indemnisation des dommages corporels. La médecin mis en cause travaillait comme conseillère médicale auprès du plaignant et exerçait également comme médecin généraliste.
Le plaignant reprochait notamment à la médecin d’avoir largement utilisé l’IA pour rédiger ses avis médicaux et de ne pas avoir vérifié, ou insuffisamment vérifié, les résultats de l’outil d’IA qu’elle utilisait.
Selon le plaignant, les avis médicaux de la médecin contenaient des erreurs manifestes ainsi que des mots étranges ou inexistants.
Le plaignant reprochait également à la médecin d’avoir chargé des informations spécifiques aux patients dans l’outil d’IA, alors que cela n’est pas autorisé, car cela porte atteinte à la vie privée du patient et peut entraîner une violation du secret professionnel.
La défense du médecin
La médecin n’a pas nié avoir utilisé OpenAI pour rédiger des avis médicaux. Elle a déclaré qu’elle utilisait l’IA principalement pour rendre les textes plus lisibles et cohérents, par exemple pour transformer des notes succinctes en phrases complètes, expliquer clairement des termes médicaux et réviser de longs passages afin d’en améliorer la formulation, l’orthographe et la lisibilité.
Elle utilisait parfois l’IA pour élaborer une première version en combinant des résumés. Le médecin a déclaré qu’après plus de deux ans, elle ne pouvait plus déterminer phrase par phrase si elle avait utilisé l’IA à cette fin. Elle avait toutefois conscience que l’IA pouvait halluciner et que ses résultats devaient être vérifiés par elle.
Bien qu’elle ait veillé à protéger la vie privée des personnes concernées en essayant de ne pas saisir dans OpenAI de données permettant de les identifier, elle n’excluait pas que cela se soit produit à l’occasion. La médecin a qualifié cela d’erreur humaine, qu’elle regrettait.
La décision du tribunal disciplinaire
Le tribunal a considéré que la médecin ne niait pas avoir utilisé OpenAI, ne pas avoir toujours vérifié correctement les résultats et y avoir parfois inclus, par manque de vigilance, des données à caractère personnel concernant les personnes en cause.
Le tribunal n’a pas partagé l’avis de la médecin selon lequel il s’agissait d’une erreur humaine inévitable. Il a estimé qu’elle aurait dû agir avec davantage de prudence. La médecin aurait dû savoir que les résultats de l’IA n’étaient pas toujours exacts et aurait donc dû les vérifier (plus soigneusement) avant de les intégrer à l’avis médical.
En outre, la médecin aurait dû être consciente qu’elle travaillait avec des informations sensibles et n'aurait pas dû utiliser OpenAI à cette fin. En y chargeant des informations spécifiques aux patients, elle a porté atteinte à la vie privée de la personne concernée et violé son secret professionnel médical.
Le tribunal a donc jugé ces griefs fondés et lui a infligé un avertissement. Il s’agit de la sanction disciplinaire la plus légère aux Pays-Bas.
La décision du tribunal disciplinaire
Herman Nys, professeur émérite de droit médical à la KU Leuven