Nederlandse arts krijgt tuchtsanctie wegens onzorgvuldig gebruik van AI bij opstellen van medische adviezen
Het Regionaal Tuchtcollege voor de Gezondheidszorg te Amsterdam legt een tuchtstraf op aan een arts wegens het onzorgvuldig gebruik van artificiële intelligentie (AI) bij het opstellen van medische adviezen.
De klager was geen patiënt, maar een multidisciplinaire dienstverlener in de letselschadebranche. De aangeklaagde arts werkte als medisch adviseur bij de klager en was daarnaast ook huisarts.
De klager verweet de arts onder meer dat zij op zeer grote schaal gebruik heeft gemaakt van AI bij het opstellen van haar medische adviezen, en dat zij de output van de door haar gebruikte AI-tool niet of onvoldoende heeft gecontroleerd.
Volgens klager staan in de medische adviezen van de arts verschrijvingen die duidelijk fout zijn en vreemde of niet-bestaande woorden.
Ook verweet klager de arts dat zij patiënt-specifieke informatie in de AI-tool had ingeladen, terwijl dit niet is toegestaan omdat dit een inbreuk is op de privacy van de patiënt en kan leiden tot een schending van het beroepsgeheim.
Het verweer van de aangeklaagde arts
De arts ontkende niet dat zij OpenAI had gebruikt bij het opstellen van medische adviezen. De arts stelde dat zij AI met name gebruikte om teksten leesbaarder en consistenter te maken, bijvoorbeeld om beknopte notities om te zetten in lopende zinnen, medische begrippen begrijpelijk uit te leggen en grotere tekstgedeelten te redigeren op formulering, spelling en leesbaarheid.
Soms gebruikte zij AI voor een eerste opzet door samenvattingen te combineren. De arts stelde dat zij na ruim twee jaar niet meer per zin kan reconstrueren of zij daar AI voor had gebruikt. Wel realiseerde zij zich dat AI kan hallucineren en output door haar gecontroleerd moest worden.
Hoewel zij had gewaakt over de privacy van de betrokkenen door te proberen geen tot de persoon herleidbare gegevens in OpenAI in te voeren, sloot zij niet uit dat dit incidenteel wel is gebeurd. De arts noemde dit een menselijke vergissing, die zij betreurde.
Het oordeel van het tuchtcollege
Het college overwoog dat de arts niet ontkende dat zij OpenAI had gebruikt, dat zij de output niet altijd goed had gecontroleerd en dat zij hier incidenteel door onvoldoende oplettendheid persoonsgegevens van betrokkenen in had opgenomen.
Het standpunt van de arts dat dit een menselijke vergissing is geweest die niet te vermijden was, deelde het college niet. Het college was van oordeel dat de arts hier zorgvuldiger mee om had moeten gaan. De arts had moeten weten dat de output van AI niet altijd juist was en had dit dus (beter) moeten controleren voordat het in het medisch advies werd verwerkt.
Daarnaast diende de arts zich ervan bewust te zijn dat zij met gevoelige informatie werkte en had zij hier geen OpenAI voor moeten gebruiken. Door patiënt-specifieke informatie in OpenAI te laden, heeft zij de privacy van de betrokkene en haar medisch beroepsgeheim geschonden.
Het college was dan ook van oordeel dat deze klachtonderdelen gegrond waren en legde haar een waarschuwing op. Dat is de lichtste tuchtsanctie in Nederland.
De uitspraak van het tuchtcollege
Herman Nys, em. prof. medisch recht KU Leuven