De laatste jaren maakt de zorgsector steeds vaker gebruik van artificial intelligence (AI). Uit een recent onderzoek blijkt zelfs dat bijna alle ziekenhuizen AI al toepassen.[1] Wat zijn de voordelen en waar moet een zorginstelling aan denken voordat ze AI inzet?
Wat is AI?
Artificial Intelligence is een verzamelbegrip voor bepaalde soorten software die zelfstandig taken kunnen uitvoeren. Het onderscheidt zich van normale software doordat AI zelf kan “leren” door heel veel data te analyseren zonder menselijke tussenkomst. Gewone software volgt simpelweg vooraf geprogrammeerde regels en instructies. Dankzij het zelflerende vermogen biedt AI veel mogelijkheden die andere software niet heeft.
Het gebruik van AI in de zorg kan nuttig zijn. Kijk maar eens naar de volgende voorbeelden:
Efficiëntie
AI kan de intake van nieuwe patiënten stroomlijnen en automatisch gespreksverslagen opstellen. Ze versnellen het scannen en analyseren van dossiers, waardoor belangrijke informatie sneller wordt geïdentificeerd. Dit vermindert de administratieve last, bevordert efficiëntie en geeft zorgverleners meer tijd om zich op de patiënt te richten.
Nauwkeurigheid
Een goed geprogrammeerd AI-model kan medische gegevens nauwkeurig analyseren, waardoor de kans op menselijke fouten wordt verkleind. Vorig jaar kondigde het Radboudumc aan AI in te zetten die in staat is het verschil tussen gezond en ziek weefsel te onderscheiden, om zo tumoren te detecteren.[2] In de radiologie kan AI bijvoorbeeld helpen bij het analyseren van röntgenfoto’s en MRI-scans.
Aandachtspunten
Bij AI moet er niet alleen rekening worden gehouden met gebruikelijke zaken, zoals kosten en kwaliteit, maar ook met zaken als privacy, databeveiliging, patiëntenrechten en het medisch beroepsgeheim.
Verrichten van DPIA
Wie AI in de zorg gebruikt, verwerkt vrijwel altijd persoonsgegevens. Artikel 35 van de Algemene Verordening Gegevensbescherming (AVG) verplicht dat bedrijven bij risicovolle gegevensverwerkingen eerst een toets moeten verrichten. Zo’n toets heet Data Protection Impact Assessment (DPIA). De DPIA is met name vereist wanneer er gebruik wordt gemaakt van nieuwe technologieën, zoals AI.
Heb je toestemming nodig?
Voor het verwerken van patiëntgegevens vereist artikel 6 van de AVG een juridische grondslag. De meest voor de hand liggende grondslag die de AVG noemt is ‘de uitvoering van een behandelingsovereenkomst’.
In de zorg gaat het vrijwel altijd om medische persoonsgegevens, en dat zijn volgens de Algemene Verordening Gegevensbescherming (AVG) bijzondere persoonsgegevens. Artikel 9 van de AVG vereist daarom naast een grondslag uit artikel 6 ook een uitzondering op het verwerkingsverbod voor bijzondere persoonsgegevens. Een geldige uitzondering waar een zorginstelling zich dan op kan beroepen is ‘het verstrekken van gezondheidszorg’.
Als deze grondslagen niet toepasbaar zijn, is uitdrukkelijke toestemming van de patiënt vereist voordat de zorginstelling gegevens mag verwerken.
Betrouwbaarheid
Bij het gebruik van AI in de zorg moet de betrouwbaarheid van de resultaten goed worden beoordeeld. Vertrouw niet blind op AI-output; de zorgverlener blijft zelf verantwoordelijk voor adviezen, rapportages en behandelplannen, en is aansprakelijk voor eventuele fouten. De AVG beperkt bovendien in artikel 22 geautomatiseerde besluitvorming en profilering. AI mag dus niet zelfstandig besluiten nemen zonder betrokkenheid van de zorgverlener.
Beveiliging
Persoonsgegevens moeten niet alleen adequaat beveiligd worden, maar ook veilig worden opgeslagen. Als door een AI-systeem medische informatie van een patiënt toegankelijk is voor derden, loopt de zorgverlener het risico het medisch beroepsgeheim te schenden.
Verder stellen artikelen 44 tot en met 49 van de AVG strikte regels voor het verwerken van persoonsgegevens buiten de Europese Unie (EU). Het gebruik van AI van een Amerikaanse leverancier is dus niet zomaar toegestaan. Bovendien verplicht artikel 28 van de AVG zorginstellingen om alleen betrouwbare verwerkers in te schakelen.
Schaduwdossier
Alle informatie die relevant is voor de behandeling van een patiënt moet worden vastgelegd in het medisch dossier. Volgens het principe van dataminimalisatie (artikel 5 AVG) is het niet toegestaan om deze informatie ook ergens anders op te slaan, bijvoorbeeld in een AI-systeem, omdat dit een ‘schaduwdossier’ creëert. Zodra de zorgverlener de informatie heeft gecontroleerd en het verslag in het medisch dossier heeft opgeslagen, moeten de gegevens dus uit het AI-systeem worden verwijderd.
Conclusie
Het gebruik van AI in de zorg biedt dus veel voordelen, maar voordat een zorginstelling eraan begint is het verstandig dat ze op de hoogte is van alle vereisten en ontwikkelingen. Digitale technologieën zoals AI worden de laatste jaren steeds strenger gereguleerd door nieuwe wetgeving. Zo gaf de Europese Raad in mei 2024 goedkeuring aan de AI Act. Deze nieuwe Europese wet stelt strenge eisen aan het gebruik van AI in de zorg. Het categoriseert AI-systemen op basis van risico’s en stelt strengere maatregelen naarmate het risico groter is. We zullen hier later in een nieuw blog verder op ingaan.
[1] ai-monitor-2024.pdf (mxi.nl)
[2] Verbeterde AI moet kankeronderzoek en -zorg enorme boost geven – Twee ERC Starting Grants voor onderzoekers Radboudumc, Geert Litjens – Radboudumc
