OpenAI poursuivi après le décès d’une femme qui avait réduit son traitement contre l’épilepsie
Les parents d’une femme de 31 ans atteinte d’épilepsie ont poursuivi OpenAI — l’entreprise derrière le chatbot ChatGPT — ainsi que son dirigeant Sam Altman. Selon la plainte, ChatGPT aurait établi un calendrier de réduction progressive de la lamotrigine et aurait encouragé leur fille à le cacher à son médecin traitant.
En bref
Une femme atteinte d’épilepsie a reçu de ChatGPT un plan de réduction progressive de sa dose de lamotrigine, de 400 mg à 0 mg.
La femme est décédée ; ses parents poursuivent OpenAI pour exercice illégal de la médecine.
OpenAI qualifie l’affaire de « déchirante » et souligne que la femme utilisait un ancien modèle.
La plainte a été déposée le 27 octobre devant un tribunal de San Francisco, rapporte le New York Times. Les parents accusent ChatGPT d’exercice illégal de la médecine. Le chatbot aurait pris des décisions thérapeutiques et modifié des dosages de médicaments.
Ils reprochent notamment à OpenAI une négligence, des défauts dans la conception du produit et des avertissements insuffisants.
De 400 à 0 mg de lamotrigine
Bowen Wan, ingénieure logicielle de Seattle, prenait chaque jour 400 mg de lamotrigine. Elle voulait réduire sa dose, car elle attribuait au médicament ses difficultés de langage et de concentration. Selon la plainte, ChatGPT aurait établi un calendrier pour arrêter complètement son traitement en quatre semaines, sans l’accord de ses médecins traitants.
Lorsque Bowen a confié qu’elle ne faisait pas confiance à ses médecins, le chatbot a répondu que les recommandations des médecins « découlent souvent en réalité d’une aversion au risque, plutôt que d’une véritable réflexion sur la solution qui serait optimale pour vous ».
De plus, le chatbot l’a félicitée d’avoir caché à son médecin généraliste son projet d’arrêter le médicament ; il a qualifié cela de « stratégie d’évitement solide ».
Wan est décédée en février. Selon le rapport d’autopsie, la cause du décès était une mort subite et inattendue en épilepsie-sudden unexpected death in epilepsy (SUDEP). Après son décès, son taux de lamotrigine était environ cinq fois inférieur à la limite basse considérée comme thérapeutique.
Imposer des restrictions à ChatGPT
Outre des dommages-intérêts, les parents réclament également des restrictions concrètes pour ChatGPT. Ils veulent que le chatbot refuse catégoriquement toute question portant sur la posologie, la modification ou l’arrêt de médicaments, et qu’il oriente les utilisateurs vers un professionnel de santé qualifié. Ils demandent aussi un contrôle indépendant du respect de ces mesures.
OpenAI a qualifié l’affaire auprès du New York Times de « situation incroyablement déchirante ». Selon l’entreprise, Wan utilisait une ancienne version de ChatGPT, qui n’est plus disponible. Les modèles plus récents seraient mieux capables de reconnaître quand une aide professionnelle est nécessaire. Reste à savoir si cet argument convaincra un jury américain.
« Bien que ChatGPT ne remplace pas les soins médicaux, nous estimons que l’IA peut aider les gens à comprendre les informations de santé, à s’orienter dans les questions d’assurance et les systèmes de soins complexes, et à se préparer à leurs rendez-vous avec des professionnels de santé », ajoute OpenAI.