Verantwoordelijkheid gebruik van AI podcast transcriptie

[00:00] Introductie: Verantwoord omgaan met AI 

Jan Jaap: De vraag of AI toegepast moet worden in de zorg is ruimschoots beantwoord. AI is er, dus moeten we daar verantwoord mee omgaan. En dat brengt nieuwe vraagstukken met zich mee. Bijvoorbeeld over datakwaliteit, geopolitiek en governance. Want hoe weet je of AI wel te vertrouwen is? Hoe zorg je voor voldoende grip en zekerheid? En hoe haal je als zorgorganisatie het maximale uit AI zonder onnodige risico’s te nemen? Daarover hebben we het in Ruimte voor Zorg, de podcast van Adapcare. Dat doen we met Sigrid Berge van Rooijen, AI consultant in de zorg bij Eir Health en met Ramon Postulart, technisch directeur bij Adapcare. En mijn naam is Jan Jaap. 

[00:45] Geopolitiek en de zorgsector 

Jan Jaap: Ramon, geopolitiek, heeft dat echt zoveel invloed op zorgvraagstukken in Nederland? 

Ramon Postulart: Ja, dat is interessant, hè? We hebben het over AI en dan vraag je over zorgvraagstukken. Maar ja, ik denk het wel. Kijk, de geopolitiek in zijn algemeenheid… Er zijn natuurlijk allerlei wedstrijdjes gaande, hè. Er zijn wedstrijdjes gaande over wie heeft de meeste grondstoffen, wie heeft de meeste chips, wie heeft het snelste model. Het is bijna een wedstrijdje wie het verste kan plassen tegenwoordig. En er zijn bepaalde individuen aan de macht die dat bepalen en dat maakt het wel spannend. 

En volgens mij niet specifiek voor zorg, maar voor iedere organisatie in Nederland, in de wereld, moet nadenken: hoe gaan we daarmee om? Net als in de covidperiode — hoe speel je in op iets wat extern is en wat jou als organisatie ook raakt? Hoe kan je daar je organisatie ook in meenemen? Dus ja, we hebben daarmee te maken. 

Jan Jaap: Je hoort natuurlijk veel over data-soevereiniteit en de invloed die Trump heeft op ons vermogen om te kunnen blijven draaien. Ik dacht wel van: is dat niet een veel te actueel vraagstuk en misschien ook nog wel een kortetermijnvraagstuk om langetermijnbeleid op te formuleren. Hoe zie jij dat? 

Ramon: Ja, dat is natuurlijk een terechte vraag. Kijk, vier jaar geleden hebben wij besloten om ons product naar AWS te zetten. Ik denk een hele verstandige keuze. Want als je kijkt: we hadden een heel klein team, ons eigen datacentrum. Wat je ook ziet de afgelopen jaren is dat de cybersecuritywereld aanzienlijk is veranderd, ook met AI-modellen. Ieder jongetje van 12 kan op dit moment hacken, dadelijk met AI-tooling. Dus we zijn met z’allen veel kwetsbaarder geworden. 

Dus we moeten ook kunnen steunen op innovaties en vernieuwingen waarmee we rustig kunnen slapen, omdat dat soort dingen ook deels een gedeelde verantwoordelijkheid zijn met partijen waar we mee samenwerken. Als je dan kijkt: kan Trump nu overal invloed uitoefenen? Nee, zo werkt het natuurlijk ook niet zo simpel. Maar we zijn daar wel continu mee bezig. 

[02:30] Continuïteitsplan en infrastructuur 

Ramon: We zijn bijvoorbeeld bezig met een continuïteitsplan voor onze klanten. Dus hoe kun je straks je back-ups niet in Ierland opslaan, maar bijvoorbeeld in Frankfurt zodat als Rusland met een boot een paar kabels doorknipt dat we daar geen last van hebben. Dat is al één stap. Hoe kunnen we zo snel mogelijk in een andere omgeving de hele applicatie van onze klanten aanzetten, zodat we daar door kunnen werken? 

En zo zijn we op allerlei aspecten continu aan het kijken: hoe spelen we in op wat er geopolitiek gebeurt en hoe kunnen we dat zo minimaliseren qua impact voor onze klanten. Er is niet één antwoord of passende oplossing voor. Dat is een combinatie van oplossingen. En de oplossing die we vandaag hebben is morgen misschien alweer achterhaald. Dus het is vooral de kunst om daar continu bovenop te zitten. 

[03:45] Geopolitiek bij zorgorganisaties in de praktijk 

Jan Jaap: Sigrid, merk jij dat deze vraagstukken ook spelen bij de organisaties die jij adviseert? 

Sigrid Berge van Rooijen: Ja, dat wel. Ik hoor meer organisaties die kijken van oké, hoe kunnen ze hun data on-prem opslaan? We gaan eigenlijk terug in de tijd. Niet in de Cloud, want ze zitten hier een beetje bang voor. En ik hoor vragen van: ja, maar we willen weg van big tech. We willen nu naar een Nederlandse optie of een Europese optie. Maar dan begrijpen ze niet altijd wat dat betekent. Als ze zeggen: ja, maar we moeten wel Microsoft Word hebben. Dat moeten we. Ja, maar dan kan je niet weg van big tech. 

Jan Jaap: En is men zich ervan bewust dat het hier gaat over verantwoord gebruik, of zijn dat meer afstandelijkere dingen? 

Sigrid: Niet per se verantwoord gebruik, maar meer dat ze begrijpen hoeveel macht die ene man die aan de andere kant van het water zit heeft. En de onzekerheid van: ja, maar zou die dan Microsoft bijvoorbeeld kunnen zeggen van hé, ik wil nu Europa kunnen bedreigen? Dus het is meer: hoeveel invloed zouden ze over ons kunnen hebben? 

[05:15] Europese AI-soevereiniteit 

Jan Jaap: Speelt dat ook als we het hebben over AI? Is men zich daarvan bewust dat er een afhankelijkheid ontstaat die best veel risico’s met zich meebrengt? 

Sigrid: Dat zie ik minder. Ik zie het een klein beetje op Europees niveau. Luxemburg heeft nu — de overheid van Luxemburg heeft nu Mistral gekocht voor iedereen — dus dat is de Europese versie dan van ChatGPT, Copilot en Claude — zodat zij met Mistral werken. En dat vind ik wel een goeie. Als wij als EU willen dat er ook Europese opties zijn, dan moet iemand ook durven Europese opties te gebruiken en implementeren. Als niemand dat gebruikt, ja, dan kunnen ze dat ook nooit doorontwikkelen. 

Jan Jaap: Maar bij zorgorganisaties die jij adviseert speelt dat thema dus veel minder. Welke vraagstukken zijn dan doorslaggevend? 

Sigrid: Het gaat veel meer over de praktische invulling van: wat kunnen we ermee en hoe gaan we daar komen. 

[06:30] Van visie naar praktijk: fair, veilig en transparant 

Jan Jaap: Als je kijkt naar beleidsstukken, dan zie je: er zijn wel visies op hoe dat moet. Het moet fair, het moet veilig, het moet transparant. Hoe zorg je ervoor dat dat geen holle kreten zijn? 

Sigrid: Als je kijkt naar verantwoord gebruik van AI, dan zijn er wat je zei over transparant, veilig — maar dataveiligheid en dat het veilig is voor de patiënt. Dat is één van de belangrijkste punten waar de organisatie mee bezig is. Dit begrijpen ze wel. 

Over fairness — dat is niet zozeer data fairness maar meer: dat het geen bias is. Dat het de cliënt of patiënt steunt zoals het hoort. Dat er geen negatieve effecten zouden zijn. Daar zijn organisaties minder mee bezig. 

Maar wat je wel zou kunnen doen: hoe weet je of het werkt of niet? Je moet er ook bij stilstaan dat de meeste AI-tooling in de zorg getraind is op Amerikaanse data. Er zijn voorbeelden waarbij ziekenhuizen in Nederland AI-tools wilden implementeren via Epic, waar ze op een heel andere werkwijze en heel andere data getraind werden dan de Nederlandse data. Dus dat werkte gewoon niet. Het advies sloeg de plank mis. 

[08:00] Bias en populatieverschillen 

Sigrid: En dat heeft twee dingen. Één: de data. En twee: wat zijn de richtlijnen in de VS in vergelijking met Europa of Nederland. Maar dan moet je ook weten: als je een AI-tooling gaat implementeren, weet ik dan of het voor mijn populatie werkt? En mensen denken: in Nederland is een heel blanke populatie. Maar zo is het niet. Dus ook een mix van populatie, niet alleen één geslacht. 

En die patiëntengroep of cliëntengroep blijft niet altijd hetzelfde. Dus hoe weet je dat het over een jaar, over twee jaar, over vijf jaar nog goed werkt? Ook wanneer de werkwijze anders wordt. Dus je moet blijven testen, moet blijven monitoren. 

Jan Jaap: En hoe borg je dat? 

Sigrid: Dan moet je meten. Weet je, als voorbeeld: hoeveel tijd gebruiken wij nu om een notitie voor een patiënt op te schrijven of een behandelplan voor een cliënt te maken? Hoeveel tijd gebruiken we daarvoor? Dus daar moet je tijd voor hebben om dat te meten. En later kan je dezelfde meting doen. Maar hoe moet je meten en wat moet je meten? Dat is ook een grote uitdaging in zichzelf. 

[09:30] AI Agents als oplossing voor bias 

Ramon: En daarom moet je ook niet blind vertrouwen op die modellen an sich. Want die zijn getraind op een set data en daar zit bias in. Wat ik een hele mooie ontwikkeling vind nu is Agents. Want die modellen zelf zijn heel erg goed getraind in het interpreteren van menselijke taal. En een Agent kan zeggen: oké, dit is de vraag die een gebruiker heeft. Ik haal nog in onze eigen database onze eigen regels op. Oh, dit zijn de regels die ik moet toepassen. 

Dus je kan met een Agent — door allerlei andere databronnen te connecten — het wel context-specifiek maken zoals het hier werkt in Nederland, of hoe het werkt voor jouw organisatie. Dan kan AI echt van toegevoegde waarde zijn en dan gaat die bias-drempel echt naar beneden. Dus daar zullen we als organisaties een stap moeten gaan zetten naar meer Agents, die verschillende databronnen combineren tot inzichten die werken. 

[11:00] Vertrouwen in AI: waar staan we? 

Jan Jaap: Vertrouwen we daarmee als zorg in Nederland teveel op AI op dit moment? Of denkt strategisch leiderschap dat we met AI onze problemen kunnen oplossen, maar zijn we daar nog niet klaar voor? 

Sigrid: Ik denk niet dat zoveel daarin vertrouwen nog, dat ze het loslaten en zeggen: ga maar je gang. Je moet AI een kans geven. Niet per se altijd vertrouwen. Maar je moet het een kans geven en er dan een beetje kritisch op blijven. Iedere nieuwe technologie — of het nou een iPad is, een telefoon of wat dan ook — heeft altijd geleid tot scepticisme bij mensen. Je bent altijd even terughoudend, totdat je de toegevoegde waarde eerst ervaart. 

Ramon: Hier, bijvoorbeeld, introduceren we nu user stories met AI. En er waren echt wel medewerkers die zeiden: hm, wat betekent dit? Maar ze zien ook: oh, het kan helpen. Het maakt het completer, het maakt het beter, het maakt het sneller. Dus je moet het ook wel eerst ervaren om het te kunnen gebruiken. Dus we moeten met elkaar die drempel over en dan leren we ook van elkaar. 

[12:30] Afgebakende use cases vs. open AI-tools 

Jan Jaap: En hoe kan je daarvoor een bepaald mechanisme of proces implementeren in jouw werkproces, zodat je dat goed afbakent? 

Ramon: Voor ons als leverancier is het iets simpeler. Als een zorgverlener zelf in de chatbot aan de slag gaat, dat is niet afgebakend. Bij ons is alles afgebakend. Dus een use case is een afgebakend stukje instructie, afgebakend stukje data die we meesturen, van tevoren getest. We hebben bepaald welk model het beste performt, kwalitatief goed is, een goede prijs heeft. En die use case bieden we dan pas aan klanten. En dan kun je alleen dat gebruiken. Je kan dan niet andere instructies meegeven. 

Ik zie ook heel veel zorgorganisaties waar Copilot — Microsoft Tools — out of the box aanstaat. Hoe bewaak je dat een medewerker daar niet cliëntdata inzet? En zegt tegen Copilot: wat zou het beste zorgplan of behandelplan kunnen zijn wat ik hier toepas? Dan komt de bias van de Amerikaans getrainde modellen om de hoek kijken. Hoe ga je dat voorkomen als organisatie? Dat betekent één: beleid. Maar twee: ook technische beperkingen in je organisatie dat dat niet zomaar toegestaan wordt. Dus ja, dat vraagt wel leiderschap in je organisatie. 

[14:00] Copilot in de zorg: een duidelijk statement 

Jan Jaap: Is dat dan ook het grootste pijnpunt bij zorgorganisaties — dat ze een visie hebben en leiderschap dat dit ook kan doorvoeren en medewerkers op de vloer mee kan krijgen? 

Sigrid: Dat is wel een grote, ja. Wat jij ook zei: ik heb ook zorgorganisaties gesproken van ja, maar nu hebben wij Copilot en dan… dat kunnen we ook gebruiken. Voor spraakgestuurde notities voor de patiënt. Ik denk van: nee, doe maar alsjeblieft niet! Omdat er zoveel risico’s zijn. Bias is één ding, maar ja, wat gebeurt er dan met de data? En dat is niet voor medische doeleinden of klinische doeleinden. Dus moet je dat niet — alsjeblieft niet — gebruiken. 

[15:00] Advies ter afsluiting 

Jan Jaap: Heb je ter afsluiting van deze podcast nog een advies voor zorgorganisaties die aan de slag willen met AI? 

Sigrid: Ja, denk goed over na welke use case je eerst mee gaat beginnen. Geef het een kans. Probeer maar uit te zoeken. Maar ga niet blind Copilot gebruiken. Ik weet dat dat heel vaak in zorginstellingen gebruikt wordt. Maar kijk maar even naar tooling die voor jouw use case gemaakt is. 

[15:30] Afsluiting 

Jan Jaap: Heel mooi. Dank voor het luisteren. Jullie ook bedankt, Sigrid en Ramon. Mocht je nou meer willen weten over AI of andere vraagstukken die de toekomst van de zorg gaan kleuren, neem een kijkje op onze website. Houd onze socials in de gaten en beluister nieuwe afleveringen van Ruimte voor Zorg. Graag tot snel. 

 

👥 Over de Gasten 

Sigrid Berge van Rooijen – AI consultant in de zorg bij Eir Health. Adviseert zorgorganisaties over verantwoord AI-gebruik, beleidsontwikkeling en de praktische vertaalslag naar de werkvloer. Specialist in bias, dataveiligheid en implementatietrajecten. 

Ramon Postulart – Technisch directeur bij Adapcare. Expert in AI-integratie binnen ECD-systemen, infrastructuur en cybersecurity. Bewaakt de balans tussen technologische innovatie en verantwoord gebruik. 

 

📊 Belangrijke Statistieken en Feiten 

• Meeste zorg-AI is getraind op Amerikaanse data — niet op Nederlandse richtlijnen of populaties 

• Luxemburg is eerste Europese overheid die Mistral implementeert als alternatief voor big tech 

• Copilot is niet gecertificeerd voor klinisch gebruik en brengt risico’s met zich mee 

• AWS-infrastructuur met back-ups in Frankfurt als antwoord op geopolitieke risico’s 

• AI Agents combineren meerdere databronnen voor context-specifieke, betrouwbaardere uitkomsten 

 

🎯 Key Takeaways 

• Geopolitiek raakt elke organisatie — ook zorgorganisaties moeten nadenken over afhankelijkheid van big tech 

• Bias in AI-modellen is een reëel risico: de meeste zorg-AI is getraind op Amerikaanse data 

• Blijf meten: weet hoe het nu gaat, zodat je over een jaar kunt vergelijken 

• Copilot is geen zorg-AI: gebruik geen generieke tools voor klinische toepassingen 

• AI Agents zijn veelbelovend: ze combineren meerdere databronnen en maken AI context-specifiek 

• Afgebakende use cases zijn veiliger dan open AI-tools voor zorgprofessionals 

• Leiderschap is cruciaal: visie zonder doorvoering op de werkvloer werkt niet 

💡 Concrete Adviezen uit deze Aflevering 

Voor bestuurders 

• Zorg voor technische beperkingen op generieke AI-tools zoals Copilot 

• Investeer in continuïteitsplannen voor geopolitieke risico’s 

• Kies bewust voor Europese AI-opties waar mogelijk 

Voor I&A managers 

• Gebruik alleen gecertificeerde, afgebakende AI-tooling voor zorgprocessen 

• Zet technische beperkingen op het gebruik van open AI-tools door medewerkers 

• Monitor en test AI-uitkomsten regelmatig op bias en kwaliteit 

Voor applicatiebeheerders 

• Stel Copilot niet standaard open voor zorgprofessionals 

• Zorg dat use cases vooraf getest en gevalideerd zijn 

• Hou bij hoe lang processen nu duren — zodat je later kunt meten wat AI oplevert 

Voor zorgprofessionals 

• Gebruik geen generieke AI-tools voor cliëntdata of behandelplannen 

• Geef AI een kans — maar blijf kritisch op de uitkomsten 

• Deel je ervaringen zodat de tooling beter wordt 

 

⚠️ Risico’s om te vermijden 

Risico	Waarom gevaarlijk	Oplossing
Copilot voor klinisch gebruik	Niet gecertificeerd, getraind op Amerikaanse data	Gebruik tooling die voor jouw use case gemaakt is
Blind vertrouwen op AI-modellen	Bias door trainingsdata	Blijf meten en monitoren
Open AI-tools zonder beleid	Medewerkers voeren cliëntdata in zonder kaders	Technische beperkingen en helder beleid
Data opslaan buiten Europa	Geopolitieke afhankelijkheid	Back-ups in Frankfurt, continuïteitsplan
Populatie-aannames	Nederland is divers — AI-uitkomsten kloppen niet altijd	Test op jouw specifieke patiëntengroep

 

🔮 Veelbelovende Ontwikkelingen 

AI Agents 

Agents combineren meerdere databronnen en passen context-specifieke regels toe. Daardoor daalt de bias-drempel aanzienlijk. Ze halen informatie op uit de eigen database van een organisatie en combineren dit met AI-interpretatie. Dit maakt AI relevant voor de Nederlandse zorgpraktijk. 

Europese AI-soevereiniteit 

Luxemburg gaat voor als eerste overheid met Mistral als Europees alternatief. Een beweging die de weg vrijmaakt voor meer Europese AI-opties in de zorg. 

Continuïteitsplanning 

Geopolitieke risico’s vragen om actieve infrastructuurkeuzes. Denk aan regionale back-ups, snelle omgevingsswitch en doorlopend risicomanagement. 

 

🔗 Links & Resources 

• Adapcare AI-oplossingen 

• Download de AI-beleidstemplate 

• Eir Health – AI consultancy in de zorg 

• Informatie over Mistral – Europese AI 

• AI Act regelgeving 

• MDR certificering uitleg 

• AWS infrastructuur en veiligheid