FDA: hoe medische hulpmiddelen met generatieve AI beoordelen?
Adviezen van clinici gevraagd
De Amerikaanse Food and Drug Administration (FDA) heeft een discussienota gepubliceerd over de regulering van medische hulpmiddelen die gebruikmaken van generatieve kunstmatige intelligentie (GenAI). De FDA stelt voor om de competentie van dergelijke systemen te beoordelen op dezelfde manier als artsen worden opgeleid en beoordeeld.
Het document vraagt belanghebbenden om feedback over risicobeoordeling, premarket-evaluatie, postmarket-monitoring en andere onderwerpen die relevant zijn voor de regulering van medische hulpmiddelen met GenAI. Fabrikanten, clinici, onderzoekers, patiënten en burgers kunnen tot 19 oktober 2026 opmerkingen bij de discussienota indienen.
Deze raadpleging moet het agentschap helpen bij het vaststellen van eisen op het gebied van risicobeoordeling, goedkeuring vóór het in de handel brengen en toezicht na het in de handel brengen. "Het past ook in het streven van de regering-Trump om de introductie van innovatieve medische producten te versnellen en tegelijkertijd de veiligheid te waarborgen", luidt het.
„Kunstmatige intelligentie verandert de geneeskunde ingrijpend en de Verenigde Staten moeten een voortrekkersrol spelen bij de manier waarop deze technologie op een veilige en verantwoorde manier wordt ontwikkeld en gebruikt”, benadrukt Kyle Diamantas, waarnemend commissaris van de FDA.
Twee benaderingen om risico's in te schatten
Systemen op basis van generatieve AI zouden de diagnose, de besluitvorming, de communicatie met patiënten en bepaalde klinische taken kunnen verbeteren. Maar hun vermogen om zelf inhoud te genereren onderscheidt ze van traditionele medische software. Ze kunnen met name onnauwkeurige, variabele of moeilijk te verklaren antwoorden genereren.
De FDA schetst daarom een beoordelingskader dat is gebaseerd op twee risico-assen: activiteit en consequenties.
De activiteitsas bepaalt het risico op basis van de mate van autonomie en sturing door het AI-systeem. Een functie die niet-sturende informatie verstrekt (bijvoorbeeld het berekenen van een risicoscore voor een toekomstige cardiovasculaire gebeurtenis) verschilt wezenlijk van een functie die een actie beïnvloedt (bijvoorbeeld een triage-aanbeveling doen aan de patiënt over het al dan niet inschakelen van spoedeisende hulp). Er is ook een wezenlijk verschil tussen een functie die werkt onder continu toezicht van een zorgprofessional, en een functie die volledig autonoom werkt.
De as van de consequenties erkent dat het risico van een softwarefunctie ook afhangt van de ernst van de schade die kan voortvloeien uit het gebruik en het vertrouwen op een onjuiste output. Een onjuiste aanbeveling over een vrij verkrijgbaar middel voor een mild symptoom verschilt wezenlijk van een onjuiste aanbeveling over het aanpassen van een insulinedosis.
Het document gaat ook in op het geval van foundation-modellen, die zijn getraind op zeer omvangrijke datasets, en op zogenaamde „agentische“ systemen, die in staat zijn meerdere taken uit te voeren of bepaalde initiatieven te nemen.
Evaluatie zoals voor artsen
Een mogelijke aanpak voor premarket-evaluatie is gebaseerd op het concept van competentiebeoordeling, geïnspireerd op de manier waarop artsen worden opgeleid en geëvalueerd. Deze aanpak bestaat uit niet-klinische benchmarking van apparaten en klinische bevestiging om te evalueren of een door GenAI aangestuurd medisch apparaat naar behoren functioneert voordat het bij patiënten komt.
Deze aanpak zou zich dus niet mogen beperken tot het beoordelen van de technische prestaties van het model. Ook de klinische relevantie, de betrouwbaarheid in verschillende contexten en de betrouwbaarheid in ongebruikelijke situaties dienen vastgesteld te worden.
Voortdurend toezicht na goedkeuring
Ten slotte overweegt de FDA verschillende vormen van toezicht na het in de handel brengen. De intensiteit daarvan zou afhangen van het risiconiveau. Dit toezicht zou een verslechtering van de prestaties, vertekende resultaten of effecten die verband houden met veranderingen in het model en de bijbehorende gegevens aan het licht kunnen brengen.
„Patiënten en clinici verdienen een regelgevende aanpak die gelijke tred houdt met het snelle tempo van innovatie”, aldus Michelle Tarver, directeur van het Center for Devices and Radiological Health.
De FDA hoopt dat het Amerikaanse werk ook als referentie kan dienen voor buitenlandse gezondheidsautoriteiten. De Europese Unie kent natuurlijk al de AI Act en de MDR.