Ethische dilemma’s bij AI in de zorg
Het biedt kansen én risico’s
Ethische dilemma’s bij AI in de zorg keyvisual
AI biedt grote kansen voor de langdurige zorg, maar het is belangrijk dat zorgorganisaties de ethische kant niet uit het oog verliezen. Ze moeten zich de vraag blijven stellen: ‘draagt dit nog bij aan goede zorg en wat verliezen we er mogelijk mee?’ Dit stelt innovatieonder zoeker Dirk Lukkien van Vilans, die hier promotieonderzoek naar deed.
Hoe staat het er nu voor met AI in de zorg voor ouderen
‘Er gebeuren veel mooie dingen. Steeds meer zorg - organisaties zetten AI in om de planning te optimaliseren of administra tieve taken te verlichten, bijvoorbeeld via spraakgestuurd rapporteren. Daarnaast worden steeds geavanceerdere monitoringsystemen ingezet. Al jaren maakt men gebruik van bijvoorbeeld camera’s of bewegingssensoren om op afstand het welzijn en de veiligheid van ouderen in de gaten te houden. Dankzij AI, die is getraind met grote hoeveelheden voorbeelddata, kunnen de nieuwste systemen automatisch activiteiten herkennen – zoals liggen, zitten, staan en lopen – en aspecten beoordelen als mobiliteit, de tijd die iemand nodig heeft om uit bed te komen, valrisico’s en zelfs emoties en stressniveaus. Verder zorgen de recente ontwikkelingen in Large Language Models (LLM’s) voor hoge verwachtingen. Dit is een specifieke vorm van generatieve AI die menselijke taal kan verwerken, genereren en beantwoorden. Zulke modellen maken toepassingen mogelijk zoals chatbots en virtuele assistenten die ouderen en hun zorgverleners kunnen ondersteunen.
Tegelijkertijd loopt de zorg voor ouderen nog achter op bijvoorbeeld de medisch-specialistische zorg. In de ziekenhuissector zie je meer geavanceerde voorspellende AI-toepassingen ter ondersteuning van diagnostiek en prognostiek. Denk bijvoorbeeld aan AI voor het sneller ontdekken van kanker door afwijkingen te detecteren op röntgenfoto’s.’
Waardoor gebeurt dit minder in de langdurige zorg?
‘Ten eerste zijn er minder gestandaardiseerde en gestructureerde data beschikbaar: veel informatie wordt nog handmatig of in vrije tekst vastgelegd, waardoor het lastig is om AI-modellen goed te trainen. Verder spelen financiering en capaciteit een rol: organisaties in de langdurige zorg hebben doorgaans minder middelen en minder technische expertise om te investeren in complexe AI-projecten.
'Door meer de samenwerking te zoeken en krachten te bundelen kan de ontwikkeling en implementatie van AI in de ouderenzorg worden versneld.'
Onderzoeker Digitale- en Datagedreven zorg - Vilans
Organisaties kunnen bijvoorbeeld samen AI-toepassingen ontwikkelen, data, expertise en ervaringen delen. Ook kunnen ze meer gezamenlijk een visie vormen op de gewenste impact en focus van AI en zo richting ontwikkelpartijen en financiers sterkere signalen afgeven. ActiZ speelt hier een centrale rol in door zorgorganisaties samen te brengen en een vraagbaak te vormen met de commissie Digitaal Denken en Doen.’
Wat zijn de grootste ethische valkuilen?
‘Als we het hebben over ethische vraagstukken, wordt al gauw privacy genoemd. Dat is belangrijk, maar er staan veel meer waarden op het spel dan alleen privacy. Stigmatisering en overproblematisering van het “ouder worden” is bijvoorbeeld ook een risico. Zo kan een AI-systeem voor monitoring op afstand bijvoorbeeld signaleren dat meneer Evers steeds om vijf uur opstaat en concluderen dat hij een verstoord dag-nacht ritme heeft. Maar misschien was hij vroeger wel boer, is hij gewend om vroeg op te staan en voelt hij zich hier prettig bij. Dus vaar nooit blind op de technologie, maar blijf inchecken bij de cliënt zodat diens waarden en autonomie leidend blijven.’
‘Vaak worden AI-toepassingen vol enthousiasme gepromoot vanuit de overtuiging dat ze zorgen voor efficiëntie en dat zorgverleners minder werkdruk en meer werkplezier ervaren. Maar een tijdbesparing betekent niet automatisch dat een verpleegkundige minder werkdruk heeft, of meer quality time met de cliënt kan doorbrengen.’
'Vaar nooit blind op de technologie, maar blijf inchecken bij de cliënt zodat diens waarden en autonomie leidend blijven.'
‘Als relatief simpele zorgtaken worden overgenomen door een AI-toepassing, waardoor de cognitief zwaardere taken overblijven, kan dit leiden tot een chronische mentale belasting van de zorgverlener. Wat de werkdruk juist verhoogt, in plaats van verlaagt. Daarnaast is het de vraag of de zorgverlener wel afscheid wil nemen van bepaalde zorgtaken.’
‘Stel dat er straks een innovatie is die aan de hand van allerlei cliëntdata een bepaalde interventie adviseert. Misschien vindt de zorgverlener het juist heel leuk om zelf samen met de cliënt uit te pluizen wat een passende interventie is. Dan gaat zo’n AI-toepassing dus ten koste van haar werkplezier. Dergelijke effecten zijn op de korte termijn wellicht nog moeilijk te duiden en meten, maar verdienen blijvende aandacht en reflectie.’
'Een tijdbesparing betekent niet automatisch dat een verpleegkundige minder werkdruk heeft.'
Dus; kijk ook naar de risico’s
‘Klopt. En dat is niet om negatief te doen. Maar de kansen en risico’s van AI zijn nu eenmaal twee kanten van dezelfde medaille en verdienen beiden aandacht. Een AI-systeem kan zorgverleners bijvoorbeeld ondersteunen bij het vroegtijdig signaleren van risicofactoren en zorgbehoeften, waardoor zij proactief passende interventies kunnen inzetten. Als dergelijke technologieën echter zo worden ontworpen en geïmplementeerd dat zorgverleners te veel vertrouwen op de uitkomsten, kan dit leiden tot schijnveiligheid en het over het hoofd zien van subtiele of complexe problemen die niet in de door AI gebruikte data zijn gereflecteerd.’
‘Het vraagt van zowel ontwikkelaars als gebruikers om er continu voor te waken dat de voordelen van een AI-toepassing opwegen tegen de neveneffecten. Ik ben helemaal voor innovatie en vanwege de toenemende zorgkloof is het belangrijk om een deel van de zorg meer digitaal in te richten. Maar de druk om te innoveren brengt het risico met zich mee dat bepaalde innovaties te snel en onzorgvuldig worden omarmd.’
'De kansen en risico’s van AI zijn nu eenmaal twee kanten van dezelfde medaille en verdienen beiden aandacht.'
Wat is de taak van zorgbestuurders hierin?
‘Als je een bedrijf de opdracht geeft om een innovatie te ontwikkelen of helpen implementeren, kun je in de opdracht onderstrepen dat de korte en lange termijn risico’s ook duidelijk in kaart worden gebracht. Probeer daarnaast ook duidelijk in je visie te articuleren wat je wil bereiken met AI, welke waarden belangrijk zijn én welke paden je wilt vermijden.’
‘Benadruk bijvoorbeeld dat je bij de inzet van steeds geavanceerdere AI-systemen actief blijft werken aan het bevorderen en behoud van professionele autonomie. Zorg er ook voor dat AI echt ondersteunend is, zodat zorgverleners uitkomsten niet klakkeloos overnemen en zich niet gedwongen voelen om het systeem blindelings te volgen uit angst zelf een fout te maken. Door AI te omarmen, maar tegelijkertijd kritisch te blijven, maken we zo samen optimaal gebruik van al het mooie dat AI ons te bieden heeft.’
