In het kort
- AI in de zorg biedt kansen voor efficiëntere zorg en betere informatie, maar vraagt duidelijke kaders.
- De Europese AI-verordening deelt AI-toepassingen in naar risico: onaanvaardbaar, hoog en beperkt.
- Is een AI-toepassing een medisch hulpmiddel, dan gelden ook de eisen van de MDR.
- Verwerkt een toepassing persoonsgegevens, dan geldt de AVG. AI mag niet autonoom klinische beslissingen nemen zonder een bevoegde zorgprofessional.
Waar AI de zorg kan helpen
AI kan helpen bij taken zoals het ordenen van informatie, het samenvatten van teksten, het signaleren van patronen of het beantwoorden van algemene vragen. Het kan zorgverleners tijd besparen en mensen helpen informatie beter te begrijpen. Of een toepassing werkelijk helpt, hangt af van de kwaliteit van de gegevens, de toepassing en de manier waarop mensen ermee werken.
De AI-verordening: drie risiconiveaus
De Europese AI-verordening (AI Act) deelt AI-toepassingen in op basis van het risico dat ze kunnen opleveren. Hoe hoger het risico, hoe strenger de regels.
- Onaanvaardbaar risico: toepassingen die fundamentele rechten schenden, zijn verboden.
- Hoog risico: in de zorg gaat het om toepassingen waarbij onjuist functioneren ernstige gevolgen kan hebben. Hiervoor gelden strenge eisen, zoals risicobeheersing, hoge datakwaliteit, technische documentatie, logboekregistratie, transparantie naar gebruikers, menselijk toezicht, cyberbeveiliging en een conformiteitsbeoordeling.
- Beperkt risico: hiervoor geldt vooral transparantie. Bij een chatbot of door AI gegenereerde inhoud moeten gebruikers weten dat zij met AI te maken hebben.
De verordening wordt gefaseerd van kracht. Voor medische hulpmiddelen met een AI-systeem gelden de eisen uit de AI-verordening later dan voor andere onderdelen. Controleer daarom altijd de actuele stand bij de bronnen.
De MDR en medische hulpmiddelen
Is een AI-toepassing een medisch hulpmiddel, dan is ook de Medical Device Regulation (MDR) van toepassing. Die stelt eisen aan veiligheid, kwaliteit en prestaties. Fabrikanten moeten onder meer een risicomanagement- en kwaliteitssysteem inrichten en, afhankelijk van de risicoklasse, een conformiteitsbeoordeling doorlopen. Of software een medisch hulpmiddel is, hangt af van het beoogde gebruik.
De AVG en privacy
Verwerkt een AI-toepassing persoonsgegevens, dan moet ze voldoen aan de AVG. Gezondheidsgegevens zijn bijzondere persoonsgegevens, waarvoor extra waarborgen gelden. Bij de inzet van een AI-systeem met een hoog risico is volgens de KNMG een gegevensbeschermingseffectbeoordeling (DPIA) verplicht om privacyrisico's in kaart te brengen.
Menselijk toezicht
Een belangrijk uitgangspunt is dat AI niet autonoom klinische beslissingen neemt zonder een bevoegde zorgprofessional. De zorgverlener blijft verantwoordelijk. Lees ook ons artikel over AI en geboortezorg.
Wat wij daarvan meenemen
Bij ZORGEMA gebruiken wij AI alleen als hulp bij het schrijven van concepten voor onze eigen website. Een mens beoordeelt en publiceert alles en bezoekersgegevens gaan niet naar een AI-dienst. Deze pagina is algemene informatie en geen juridisch advies.
Veelgestelde vragen
Wat is de AI Act?
De Europese AI-verordening. Zij deelt AI-toepassingen in op basis van risico en stelt strengere eisen naarmate het risico hoger is.
Wanneer is AI een medisch hulpmiddel?
Dat hangt af van het beoogde gebruik van de software. Is het een medisch hulpmiddel, dan gelden de eisen van de MDR.
Mag AI zelf klinische beslissingen nemen?
Nee. AI mag niet autonoom klinische beslissingen nemen zonder tussenkomst van een bevoegde zorgprofessional.
Is een DPIA verplicht?
Bij de inzet van een AI-systeem met een hoog risico is volgens de KNMG een gegevensbeschermingseffectbeoordeling verplicht.
Moet ik weten dat ik met AI praat?
Bij een chatbot of door AI gegenereerde inhoud geldt een transparantieplicht: gebruikers moeten weten dat het om AI gaat.
