Infectieziekten Bulletin, maart 2024
Auteur
Jelte Elsinga, MD PhD (Doctor of Philosophy)
Afdeling Medische Microbiologie en Infectiepreventie, Amsterdam UMC (Universitair Medisch Centrum)
De mogelijkheden van kunstmatige intelligentie (AI) in de gezondheidszorg zijn veelbelovend: automatische diagnostiek, vroegsignalering van uitbraken, medische beslisbomen, en een enorme kostenbesparing door ontlasting van zorgtaken, waardoor er meer zorgcapaciteit ontstaat. Toch ziet de gemiddelde arts hier nog weinig van terug in de praktijk. AI-toepassingen hebben echter een dermate vlucht genomen dat de gezondheidszorg er niet meer omheen kan. Neem een chatbot als ChatGPT: een gratis en veelgebruikte ontwikkeling die geautomatiseerd (wetenschappelijke) teksten kan schrijven 1.
Sinds de introductie van het elektronisch patiëntendossier wordt er in gezondheidsinstellingen een grote hoeveelheid data geregistreerd. Elke melding, bezoek en onderzoek wordt vastgelegd. Deze data resulteren in een enorme database waarin veel relevante informatie voor de gezondheidszorg te vinden is. Een groot deel hiervan is in potentie ook waardevol voor medische besluitvorming, onderzoek, evaluatie van kwaliteit van zorg en zorgverantwoording2. Tegenwoordig zijn er verschillende technieken waarmee data bewerkt en geanalyseerd kan worden, zelfs als deze initieel ongestructureerd zijn vastgelegd. AI wordt hierbij vaak genoemd. Dit artikel bespreekt de kansen en risico’s van AI en maakt een koppeling naar de dagelijkse praktijk in de gezondheidszorg. Het sluit af met een reactie van chatbot ChatGPT.
Wat is AI?
Kunstmatige intelligentie is volop in ontwikkeling en daardoor moeilijk exact te definiëren3. AI werd voor het eerst beschreven in 1955 in het onderzoeksvoorstel voor het ‘Darthmouth Summer Research Project on Artificial Intelligence’ om ‘een manier te vinden waardoor machines taal gebruiken, abstracties en concepten vormen, problemen oplossen die nu alleen mensen kunnen oplossen, en zichzelf verbeteren’4. Tegenwoordig wordt de term AI voor verschillende systemen gebruikt, van zelfrijdende auto’s en videogames tot medische diagnostiek. Hoewel er veel definities zijn, mist een uniforme definitie5,6. De definities zijn tijdgebonden en afhankelijk van vakgebied7. In 2021 beschreef de WHO (World Health Organization) AI als volgt: ‘Kunstmatige Intelligentie (AI) verwijst naar de vaardigheid van technisch gecodeerde algoritmes om te leren van data, zodat ze geautomatiseerde taken kunnen uitvoeren zonder dat elke stap in het proces expliciet door een mens geprogrammeerd hoeft te zijn’8.
AI-toepassingen in de gezondheidszorg
Ook in de gezondheidszorg zijn er veel domeinen waarin AI kan worden toegepast. Een voorbeeld hiervan in de medische diagnostiek is de bevordering van een snelle COVID-19-diagnose op basis van een algoritme dat gebruikmaakt van CT-scanbevindingen, klinische symptomen en labuitslagen9. Een voorbeeld van AI voor behandelingsdoeleinden blijkt uit een studie bij ratten, waarbij op basis van onder andere blaasdrukken voorspeld werd wanneer er geürineerd wordt10. Een soortgelijk algoritme kan in de toekomst mogelijk een plaats krijgen in de behandeling van patiënten met blaasproblemen. In het kader van publieke gezondheid is AI al gebruikt om uitbraken beter te voorspellen. Zo werden zikavirusmeldingen en ruimtelijke gegevens gecombineerd om te voorspellen waar het zikavirus voor uitbraken kan zorgen11.
Hiërarchie van behoeften voor AI
‘Garbage in is garbage out’ is een populair gezegde onder datawetenschappers. De kwaliteit van een data-analyse of AI-toepassing is afhankelijk van de kwaliteit van de gebruikte data. De ‘datasciencehiërarchie van behoeften’12 is als een piramide van Maslow voor datawetenschap en maakt inzichtelijk wat nodig is voor betrouwbare AI. De basis ligt bij a) de datacollectie. Daarna volgt b) data-infrastructuur, c) datatransformaties en cleaning, d) data-analyse (o.a. KPI’s, dashboarding, multivariabele analyse), e) predictie-analyse en simpelere machinelearningalgoritmes (testen van AI) en tot slot f) AI. Om tot een goede AI-toepassing te komen, moeten de stappen a tot en met f zorgvuldig doorlopen worden. Hiervoor zijn IT-experts, data-experts en inhoudelijke experts nodig.
Risico’s van AI in de gezondheidszorg
Geen 1-op-1 afspiegeling van de werkelijkheid
Data, en daarmee ook data-analyses en AI, kunnen heel veel, maar zijn geen kopie van de werkelijkheid. Er kunnen altijd onverwachte factoren meespelen, vooral als gedrag medebepalend is. Hier houdt AI geen rekening mee. De werkelijkheid is daarom ook zelden dicht te benaderen via modellering. Een individuele patiënt met bijzondere pathologie kan buiten de kaders van het algoritme vallen, of een bijzondere zorgwens hebben. Medisch specialisten kunnen in een dergelijk geval afwijken van de voorstellen van een AI-toepassing en een gewogen afweging maken in het belang van het individu. Daarom blijft toetsen van de realiteit door medisch specialisten (menselijke supervisie) noodzakelijk.
Datakwaliteit limiteert de kwaliteit van AI
Zoals in het vorige hoofdstuk al benoemd is, hebben AI-toepassingen hoogwaardige data nodig om hoogwaardige uitkomsten te geven. AI is uitermate geschikt om geautomatiseerd slimme, nieuwe inzichten te genereren op basis van bestaande data. De input (data) is hierbij echter limiterend, hoe goed het AI-algoritme ook is. Het is belangrijk om te beseffen dat het AI-algoritme waarschijnlijk dezelfde limitatie heeft als de data die gebruikt wordt voor het algoritme.
Efficiëntiemodel vs. complexe dynamiek publieke gezondheidszorg
Het debat rondom AI in de publieke gezondheidszorg heeft zich vooral gefocust op technologie en wetgeving, terwijl het sociale en ethische debat maar langzaam op gang komt13. AI-modellen zijn erg geschikt om processen zo efficiënt mogelijk in te richten, of om een optimaal meetbaar resultaat te bereiken. Het zo efficiënt mogelijk inzetten van middelen is belangrijk voor de kwaliteit van de publieke gezondheid. Het is echter van nog groter belang dat de complexe dynamiek van de publieke gezondheid in ogenschouw wordt genomen, waarbij verschillende waardes en belangen (o.a. ethische, medische, economische en politieke) continu in conflict zijn met elkaar. De onderliggende waardes, en de daaruit voortvloeiende acties, worden bij complexere problematiek bij voorkeur via een moreel beraad van de betrokken professionals bepaald. Op deze manier kunnen verschillende doelen, zoals verkleining van gezondheidsverschillen, bevorderen autonome keuze of juist zoveel mogelijk gezondheidswinst voor zoveel mogelijk mensen (of patiënten), een plek krijgen in de besluitvorming. Een AI-algoritme heeft van zichzelf helaas geen moreel kompas, zoals ook al pijnlijk duidelijk werd in de toeslagenaffaire, waarbij bijvoorbeeld mensen met een dubbele nationaliteit een grotere kans hadden om door het systeem (onterecht) aangewezen te worden als fraudeur14.
Discriminatie in (publieke) gezondheidszorg
Los van andere ethische onderwerpen, is het belangrijk om rekening te houden met verschillende vormen van discriminatie door AI. Deze kunnen met name optreden bij toepassingen in de publieke (gezondheidszorg)sector. Ten eerste is er een risico op directe discriminatie. AI-algoritmes kunnen keuzes voor (restrictieve) gezondheidsinterventies maken op basis van persoonskenmerken als etniciteit, gender of naam. Deze persoonskenmerken kunnen van invloed zijn op thema’s in de gezondheid, maar het risico bestaat dat een onvolledige dataset geen rekening houdt met onderliggende determinanten van gezondheid, zoals sociaaleconomische status, risicovol gedrag, etc. Ten tweede kan AI een gezondheidsinterventie modelleren die voor de meerderheid positief uitpakt, maar voor een minderheid juist nadelig is. Dit wordt ook wel indirecte discriminatie genoemd.
Stappen naar een toekomst met AI in de publieke gezondheidszorg
Naast nadelen en valkuilen heeft AI vooral veel potentie. Processen die nu nog mensenwerk vereisen, kunnen geautomatiseerd plaatsvinden. Een voorwaarde is wel dat er met betrouwbare data gewerkt wordt, op basis van een solide informatie-infrastructuur.
Toegang tot data-inzichten
Een stevige informatievoorziening is stap één, maar ontbreekt vaak voor specialisten in de publieke gezondheidszorg. Data van de populatie komt vaak van veel verschillende bronnen. Er zijn in mijn ervaring als dataconsultant bij ziekenhuizen en GGD (Gemeentelijke Gezondheidsdienst)’en te weinig profielartsen of artsen M+G en epidemiologen met gemakkelijke en snelle toegang tot gegevens over kwaliteit van zorglevering en hun patiëntenpopulatie. Gegevens over bijvoorbeeld gezondheidsgedrag, motivaties voor vaccinaties, comorbiditeiten, polyfarmacie of rookgedrag. Terwijl inzicht hierin essentieel is om te komen tot goede toepassingen van deze data voor AI. Het is daarom belangrijk om toe te werken naar een goede data-infrastructuur.
Samenwerking met andere disciplines
Bigdatapartijen als Google, Amazon, Meta, Apple en Microsoft staan te springen om hun data en AI te gebruiken voor medische toepassingen. Daarnaast zijn er datawetenschappers en bedrijven die data kunnen structureren en hun weg weten met kunstmatige intelligentie. Maar vaak ontberen zij het medisch-specialistische perspectief, terwijl de meeste medisch-specialisten weinig bedreven zijn in informatietechnologie. Samenwerking tussen verschillende disciplines helpt om relevante AI in de zorg op te zetten.
Medisch-specialistische visie en ethisch debat
Los van de eerder beschreven risico’s van discriminatie door AI, zijn er meer overwegingen die gemaakt moeten worden. Veel overwegingen over de richting van kunstmatige intelligentie kunnen direct invloed hebben op de rol en positie van de medisch specialist:
-
Welke normen en waarden streven we na in de zorg?
-
Hoe zorgen we ervoor dat AI gezondheidsverschillen verkleint?
-
Welke stem telt zwaarder: die van de specialist of die van AI?
-
Wie (arts of algoritme) bepaalt of, en op basis waarvan, een behandeling uitgevoerd gaat worden?
Dit zijn maar een paar van de talrijke vragen die nog onbeantwoord zijn. Het is daarom belangrijk dat het medisch-specialistische debat rondom AI op gang komt en er een duidelijke visie gevormd wordt. Dit zorgt ervoor dat AI in dienst komt te staan van de medisch specialisten en de medisch specialisten niet in dienst komen te staan van AI.
Conclusie
AI kan een belangrijke rol spelen in de zorg, zowel voor diagnostiek, als voor behandeling en surveillance. De technische mogelijkheden zijn groot en relevante toepassingen voor de publieke gezondheidszorg zijn er genoeg te bedenken. De vraag is nu: wanneer stappen artsen M+G in om hun onmisbare expertise te leveren? Waar blijft een duidelijk gedragen visie van artsen M+G op AI, waarin ethische, praktische en andere medisch-specialistische aspecten een plek krijgen? Als we geloven dat AI de publieke gezondheidszorg gaat veranderen, zullen er snel artsen M+G moeten opstaan om richting te geven aan deze transitie.
Lees na de bronnen de reactie van ChatGPT op dit artikel.
- OpenAI. Introducing ChatGPT. Toegankelijk via: https://openai.com/blog/chatgpt
- Adnan K, Akbar R, Khor SW, Ali ABA. Role and Challenges of Unstructured Big Data in Healthcare. In: Sharma N, Chakrabarti A, Balas VE (vaccineffectiviteit). Data Management, Analytics and Innovation. Singapore: Springer; 2020. p. 301-23.
- Jongsma KR, van Solinge WW, Haitjema S. Acht misvattingen over AI in de zorg [Eight misconceptions about AI in healthcare]. Ned Tijdschr Geneeskd. 2023 Apr 13;167:D7578. Dutch. PMID: 37052401.
- McCarthy J, Minsky ML, Rochester N, Shannon CE (Conformité Européenne). A proposal for the dartmouth summer research project on artificial intelligence, august 31, 1955. AI magazine. 2006;27(4):12-12.
- Wirtz BW, Weyerer JC, Geyer C. Artificial intelligence and the public sector—applications and challenges. International Journal of Public Administration. 2019;42(7):596-615.
- Legg S, Hutter M. A collection of definitions of intelligence. Frontiers in Artificial Intelligence and applications. 2007;157:17.
- Schuett J. (2019). A legal definition of AI. arXiv. 2019;1909.01095.
- Mei X, Lee HC, Diao KY, Huang M, Lin B et al. Artificial intelligence–enabled rapid diagnosis of patients with COVID-19. Nature medicine. 2020;26(8):1224-28.
- World Health Organization. Ethics and governance of AI for health. WHO (World Health Organization) Guidance. 2021. Toegankelijk via: https://www.who.int/publications/i/item/9789240029200 , geraadpleegd op 16-11-2023
- Tantin A, Assi EB, van Asselt E, Hached S, Sawan M. Predicting urinary bladder voiding by means of a linear discriminant analysis: Validation in rats. Biomedical Signal Processing and Control. 2020;55:101667.
- Jiang D, Hao M, Ding F, Fu J, Li M. Mapping the transmission risk of Zika virus using machine learning models. Acta Tropica. 2018;185:391-99.
- Blasch E, Sung J, Nguyen T, Daniel CP, Mason AP (Anterior Posterior). Artificial intelligence strategies for national security and safety standards. arXiv. 2019;1911.05727.
- Weyerer CJ, Langer FP. (2019, June). Garbage in, garbage out: The vicious cycle of ai-based discrimination in the public sector. In: Chen YC, Salem F, Zuiderwijk A. Proceedings of the 20th Annual International Conference on Digital Government Research 2019. New York: Association for Computing Machinery. p. 509-11.
- Verhagen L. Laat toeslagenaffaire een les zijn bij beleid kunstmatige intelligentie. De Volkskrant 11 november 2021. Toegankelijk via: https://www.volkskrant.nl/nieuws-achtergrond/laat-toeslagenaffaire-een-… , geraadpleegd op 15 december 2021.
Vraag aan ChatGPT1Hierna volgt een artikel over AI in de zorg. Dit artikel komt in het Infectieziektenbulletin. Schrijf een wetenschappelijke reactie op dit artikel van ongeveer 400 woorden, waarin aangegeven wordt of het artikel een correct beeld geeft over AI in de gezondheidszorg of niet. Gebruik hierbij andere bronnen dan die er gebruikt zijn in het artikel zelf. Vermeld de gebruikte bronnen onder het artikel. Het antwoord moet geschikt zijn om te plaatsen in het Infectieziektenbulletin. |
Antwoord van ChatGPTIn het artikel wordt gesteld dat kunstmatige intelligentie (AI) veelbelovende toepassingen heeft in de gezondheidszorg, zoals automatische diagnostiek, vroegtijdige signalering van uitbraken en een enorme kostenbesparing. Hoewel er in de praktijk nog weinig van te merken is, zijn er verschillende technieken waarmee data bewerkt en geanalyseerd kunnen worden, zoals AI. Het artikel geeft een aantal voorbeelden van AI-toepassingen in de gezondheidszorg, zoals het bevorderen van snelle COVID-19-diagnostiek, het voorspellen van urinelozing op basis van blaasdruk en het voorspellen van uitbraken van ziekten. Het artikel benadrukt dat AI in de gezondheidszorg medisch leiderschap nodig heeft en dat de kwaliteit van de data cruciaal is voor betrouwbare AI-toepassingen. Over het algemeen geeft het artikel een correct beeld van de mogelijkheden van AI in de gezondheidszorg. De genoemde voorbeelden van AI-toepassingen in de gezondheidszorg zijn veelbelovend en tonen aan dat AI kan bijdragen aan betere diagnostiek, behandeling en preventie van ziekten. Het is belangrijk om te benadrukken dat de kwaliteit van de data cruciaal is voor betrouwbare AI-toepassingen, omdat AI afhankelijk is van de kwaliteit van de inputdata. Het artikel benadrukt ook terecht dat AI in de gezondheidszorg medisch leiderschap nodig heeft, omdat het gebruik van AI in de gezondheidszorg complex is en er specifieke medische kennis nodig is om de output van AI-toepassingen goed te interpreteren en te gebruiken. Er zijn echter nog enkele andere aandachtspunten die het artikel niet noemt, zoals het belang van privacy en ethiek bij het gebruik van AI in de gezondheidszorg. AI-toepassingen kunnen gevoelige persoonlijke informatie bevatten en het is belangrijk om ervoor te zorgen dat deze informatie veilig en vertrouwelijk wordt behandeld. Ook moet worden nagedacht over de ethische implicaties van het gebruik van AI in de gezondheidszorg, bijvoorbeeld over de verantwoordelijkheid van de zorgverlener bij het gebruik van AI-toepassingen en de mogelijke gevolgen voor de autonomie van de patiënt. Bronnen:
|
Infectieziekten Bulletin - maart 2024
- Nederlandse reizigers in het mondiale dorp: de opkomst en ondergang van reis-gerelateerde infectieziekten
- Infectieziektesurveillance bij de GGD vóór de covid-pandemie: een mixed-methods onderzoek, 2018-2019
- Evaluatie van surveillance systeem voor invasieve pneumokokkenziekte in volwassenen van 60 jaar en ouder, 2021-2022
- De opkomst van kunstmatige intelligentie in de publieke gezondheidszorg vraagt om medisch leiderschap
- Titercontrole bij kinderen van moeders met hepatitis B
- Over het Infectieziekten Bulletin