AI in de zorg: 'Vaak gezien als een pleister voor structurele problemen'
- Nieuws
- AI in de zorg: 'Vaak gezien als een pleister voor structurele problemen'
Kunstmatige intelligentie wordt veelal gepresenteerd als dé oplossing voor de groter wordende problemen in de zorg. Van administratieve lasten tot personeelstekorten: in theorie zou artificiele intelligentie verlichting brengen. Maar in de praktijk blijkt dat slechts twee procent van de onderzochte AI-toepassingen daadwerkelijk op de zorgvloer worden gebruikt. "We hebben dit onderzoek ook in 2021 gedaan, en zien nu exact dezelfde uitkomst", zegt internist-intensivist Michel van Genderen in De Nieuws BV. "We maken simpelweg geen progressie."
Video niet beschikbaar
Volgens de internist zit het probleem niet in het een gebrek aan innovatie, maar in de manier waarop die innovatie wordt ingezet. AI wordt vaak bovenop bestaande zorgsystemen geplakt, zonder dat dit systeem fundamenteel wordt aangepast. AI wordt gebruikt omdat het een mogelijkheid is, niet omdat het een daadwerkelijk bestaand probleem oplost. "De zorg is als een auto", legt van Genderen uit. "En wij proberen daar nu allemaal nieuwe snufjes in te bouwen, terwijl de auto eigenlijk opnieuw ontworpen zou moeten worden. Veel AI-modellen zijn technisch zeer indrukwekkend, maar lossen in de praktijk geen relevant bestaand probleem op.
Klinische toepassing
Dat blijkt bijvoorbeeld uit AI-modellen die voorspellen hoe groot de kans is dat een patiënt zal overlijden. "Zo’n model kan het uitstekend doen op basis van een dataset", zegt de internist. "Maar de werkelijke vraag is: wat heb je eraan als arts of patiënt?" Zonder duidelijke klinische toepassing blijft de meerwaarde van dit soort toepassingen beperkt. De fundamentele vraag: welk probleem lossen we hiermee op?, wordt volgens Van Genderen te weinig gesteld bij het ontwikkelen van AI-toepassingen.
AI-hype
De AI-hype wordt versterkt door consumentengedrag. Technologieën als ChatGPT worden razendsnel omarmd en vaak zonder kritische vragen over bijvoorbeeld de betrouwbaarheid. Dat patroon is terug te zien in de zorg. "We zijn geneigd om te denken: dit is nieuw en slim, dus we moeten het gebruiken", zegt de internist. Maar in de zorg gelden volgens Van Genderen andere eisen: transparantie, veiligheid en uitlegbaarheid zijn cruciaal. "AI verkoopt goed en het klinkt veelbelovend, maar levert lang niet altijd goede oplossingen op." De discussie over verantwoordelijkheid daarbij wordt al snel gezien als rem op vooruitgang, terwijl die verantwoordelijkheid juist essentieel is.
Innovatie is noodzakelijk
Die nuance is nodig, want de problemen in de zorg zijn echt. Van Genderen wijst op zijn ervaringen tijdens de coronapandemie: de zorgvraag groeit hard, terwijl het aantal zorgverleners achterblijft. Technologische innovatie is dus noodzakelijk. Volgens Van Genderen wordt AI te vaak gezien als een pleister voor structurele problemen. "Sommige dingen die we willen oplossen met AI, hoeven misschien helemaal niet opgelost te worden", stelt hij.
Ethics by design
Recent onderzoek laat zien dat taalmodellen bij medische diagnoses anders reageren wanneer sociaaldemografische kenmerken worden toegevoegd. In sommige gevallen leidt dat tot een totaal andere en soms incorrecte inschatting. Zulke ‘black-box’-modellen ondermijnen het vertrouwen van zorgverleners en patiënten. Volgens Van Genderen is vertrouwen essentieel voor succesvolle innovatie. Daarom pleit hij voor het zogenoemde: ‘ethics by design’. Dat zijn ethische, juridische en maatschappelijke vragen die al aan het begin van het ontwikkelproces moeten worden meegenomen. "Als je dat pas achteraf doet, ben je te laat", stelt hij.
Gerelateerd
