Docuserie Mens & AI in de zorg

In deze driedelige docuserie staan 9 experts stil bij uw vragen, doembeelden en verwachtingen rond de toekomst van artificiële intelligentie (AI) in de gezondheidszorg. Hoe slim is AI eigenlijk? Gaan robots de mens overnemen?

De experts delen vanuit kennis en ervaring hun antwoorden op de vragen van jonge zorgprofessionals en patiënten. Ze schetsen de kansen, vraagstukken en dilemma’s die horen bij een samenwerking met AI in de zorg. Zij leggen daarmee een belangrijke basis om met elkaar in gesprek te gaan en zelf ook na te denken over de vraag: Hoe kan ik als zorgprofessional of patient mij voorbereiden op een toekomst met AI?

Aflevering 1: Artificiële intelligentie in de zorg

Docuserie Mens & AI in de zorg - aflevering 1

*Muziek speelt* Beeldtekst: Mens & AI in de zorg. Hoe ziet die samenwerking er uit over tien jaar? Wouter van der Bij: In de vorige aflevering stonden we met experts stil bij de vraag: Hoe slim is AI over tien jaar? En op welke manier zal deze vorm van intelligentie de zorg kunnen helpen? We kwamen erachter dat AI de mens nog niet zó snel gaat overnemen... dus dat het vooral gaat over: Hoe werken mens en AI samen? In deze tweede aflevering bouwen we voort op deze conclusie. Aan de hand van jullie vragen zoomen we verder in op een toekomst met AI... en staan we stil bij de kansen en vraagstukken die daarbij horen. Welke vragen heb jij nog meer? We vroegen het weer aan patiënten en zorgprofessionals. Patiënten en zorgprofessionals: Als arts vraag ik me af: Welke vraagstukken zijn er bij de toepassing van artificial intelligence in de zorg... nu, maar vooral ook in de toekomst? Op welke manier verschilt artificiële intelligentie van onze eigen, menselijke intelligentie? Wat is er nodig om AI te kunnen vertrouwen? *Muziek speelt* Beeldtekst: Samenwerken met AI: Welke vraagstukken en kansen gaan hiermee gepaard? Wouter van der Bij: Wat is een belangrijk verschil in jouw ogen tussen menselijke en kunstmatige intelligentie? Paul Elbers: Menselijke intelligentie lijkt wel een beetje op kunstmatige intelligentie... want de principes daarvan zijn hetzelfde: Dat je uit ervaringen steeds leert wat het beste is... en in het geval van artsen is dat vaak welke behandeling het best is. Maar tegelijkertijd zijn mensen heel breed georiënteerd. Misschien komt de kunstmatige intelligentie ooit zover, maar tot nu toe... gaat het over hele kleine stukjes van de menselijke intelligentie. Maar computers kunnen, doordat ze heel krachtig zijn en niet moe worden, heel snel heel veel leren. Dus op dat kleine stukje kunnen ze heel goed zijn. Daniël Tjillink: Bij menselijke intelligentie heeft iedereen een beeld. Dat is hoe wij denken en praten en het gevoel erbij. Die intelligentie zit ook in ons lichaam. Maar artificiële intelligentie is gewoon een nieuwe technologie... zoals ooit de auto een nieuwe technologie was, of de computer. Dit woord roept dus wel heel veel deze vraag op, dus ik denk dat dat vaak verwarrend is. Ik denk dat het vaak de discussie niet verder helpt om het te vergelijken met menselijke intelligentie... zoals we de auto niet vergelijken met hoe hard wij lopen. Wouter van der Bij: Vooral in die vergelijking zit de verwarring? Daniël Tjillink: Dat denk ik. Wouter van der Bij: -Ja. Kun je daar... Daniël Tjillink: Ik vind het veel interessanter om bij kunstmatige intelligentie of AI te praten over: Dit is een nieuwe technologie. Die is echt heel krachtig, daar kan heel veel mee. Het is een basistechnologie die op andere technologieën invloed gaat hebben. Hoe gaan we daar nou mee om? En die technologie en de mens samen, hoe gaan die samen daarmee aan de gang? Dat vind ik een interessante vraag: Hoe ga je dat op een waardevolle manier doen? Bart-Jan Verhoeff: In veel gevallen beschikt AI gewoon niet over alle informatie... die nodig is om tot de goede conclusie te komen, of tot een volledig perfecte conclusie te komen. Mensen hebben dat door hun levenservaring dan weer wel... of die kunnen makkelijker de rest van die informatie vergaren. We leggen niet alles vast, wat wel gebruikt wordt door AI. Ook de dingen die we niet vastleggen, kunnen wij wel gebruiken, maar AI weer niet. Dat is één groot verschil en het tweede is: Mensen zijn beter in staat... om verkeerde datapunten, om het maar even zo te zeggen, weg te filteren. Frank van Harmelen: Wat ik denk dat we zullen leren... is dat machine-intelligentie heel anders is dan menselijke intelligentie... en dat de een het niet over zal nemen van de ander, dat de een de ander niet zal verdringen... maar dat de een de ander zal aanvullen. Dus zo zou de toekomstige AI ook een denkhulpmiddel worden... net als dat auto's nu een vervoershulpmiddel zijn en bulldozers... een krachthulpmiddel. We tillen dingen op met een kraan die we zelf niet kunnen optillen. Dus we zijn heel gewend aan hulpmiddelen die ons versterken. En zo zou AI een denkversterker kunnen zijn, een hulpmiddel voor denken. Egge van der Poel: Ik denk dat AI in zichzelf niet slim is, maar heel krachtig is. Wij bepalen uiteindelijk dus door de taak te formuleren, de vraag te stellen... Die slimme vraag, die komt van ons, van onze creativiteit. En met die slimme vraag gaat die domme rekenmachine aan de gang. Wouter van der Bij: Ja. Egge van der Poel: -Dus AI is heel krachtig, niet slim, wat mij betreft. Maar dat is meteen ook de beperking... die we goed moeten doorgronden en doordenken om te bepalen: Waar zetten we het wel of niet in? En waar accepteren we dat het wel of niet ondoorgrondelijk is? En transparantie is daarin wel een thema. Ik denk dat het veel meer gaat over zoiets basaals als vertrouwen. Wouter van der Bij: Vertrouwen en het vertrouwen dat mensen hebben in technologie. Hoe ga je om met vertrouwen? Daniël Tjillink: Vertrouwen is een belangrijk issue. Het belangrijkst is dat het vaak gewoon goed werkt. Je kunt procesmatig kijken: Hoe werkt het precies en moet ik dat weten? En zelf... Heel veel mensen... Deels kunnen we dat niet eens. Er zijn maar een paar mensen zo slim om dat echt goed te doorzien. Maar je kunt het merken als het niet goed gaat, dus je moet veel inregelen, zorgen dat je dat ziet. En het vertrouwen komt met het goed gebruik. Dat is ook een proces, ook in de gewone wereld. Denk niet dat in de technologie alles in één keer goed gaat en in de mensenwereld niet. Het gaat in allebei heel vaak een beetje mis. Maar je moet ernaar streven... om daar echt stappen te maken. Maarten Steinbuch: Wat we ook belangrijk vinden, zeker in Nederland, of in Europa, moet ik zeggen... is dat alle AI-algoritmes, alle kunstmatige intelligentie die we ontwikkelen, uitlegbaar is... en verantwoordelijk is. We noemen dat 'responsible and explainable AI's'. Je moet kunnen uitleggen dat een bepaald algoritme met een uitkomst komt. Daar moet je iets van beredenering achter hebben... dat je het kan uitleggen, dat het een verantwoordelijke beslissing kan zijn. Ildikó Vajda: Wat ik begrijp van experts is: Hoe ondoorzichtiger het algoritme, hoe preciezer de uitkomst. En dat is een dilemma. Je wilt precisie, maar ja, toch misschien ten koste van die transparantie. Paul Elbers: Als je een andere collega vraagt en die geeft jou een advies... en die doet dat meestal op basis van jarenlange ervaring... en zijn kennis van de literatuur en van allerlei patiënten... ga je ook niet heel vaak precies zeggen: Waarom heb jij dat nou precies zo geadviseerd? Dus de vraag is dan eigenlijk... Ik wil niet zeggen dat het onbelangrijk is, maar misschien wordt het belang daarvan overschat... want als nou zou blijken dat de computer elke keer het goede advies geeft... en dat leidt tot bijvoorbeeld veel minder sterfte op de intensive care... of veel meer patiënten die na de intensive care- behandeling nog een heel goed leven hebben... maar je weet niet zeker hoe dat advies tot stand is gekomen... dat zal je als patiënt niet uitmaken. Dan wil je liever gewoon zo behandeld worden. Dus in die zin moet je dat wegen. Tegelijkertijd, als je het niet kan uitleggen, is er meer risico op vooroordelen in die algoritmes. Dus het is een kwestie van balans, denk ik. Pim Haseslager: Als je een besluit neemt samen met een intelligente machine... waar veel geld in is geïnvesteerd en het is AI, dus het is hartstikke goed enzovoorts... dan sta je toch een beetje klem... want als jij niet meegaat met de aanbeveling van het systeem en je hebt het fout... dus je bent ten onrechte afgeweken, dan heb je daarna wel iets uit te leggen. Terwijl als je meegaat met het systeem, dan hebben we het allebei fout gedaan. Dat is toch al gedeelde verantwoordelijkheid. En dat bedoel ik met verantwoord gebruik van AI. Dat is iets wat me zeer aan het hart ligt, eigenlijk. Ik ben bang dat we AI te snel inzetten... en te weinig nadenken over de psychologische effecten ervan op de professionele gebruiker. Dus niet alleen de effecten op bijvoorbeeld de patiënt of de verzorgde... maar ook op degene die dat systeem gebruikt en daardoor gesteund zou moeten worden. Wouter van der Bij: Wat zijn voor jou echt onderdelen van de zorg waar AI nooit een mens zal overnemen? Wat staat voor jou heel duidelijk daarin? Paul Elbers: Ik denk dat het dan gaat om menselijkheid, vertrouwen, troost, hoop. Dat zijn toch zaken die je als sociaal dier... of als gemeenschap wil regelen onder mensen. En dat zal, denk ik, blijven. Dat is onze menselijkheid. Frank van Harmelen: Allerlei dingen waar mensen goed in zijn, dus het begrip van de patiënt, de empathie... de kennis over de omstandigheden waarin de patiënt leeft... waar mensen heel goed in zijn, dat wordt meegenomen in de overweging van zo'n arts. Daar heeft zo'n machine geen benul van. Tegelijkertijd is die machine heel veel beter dan mensen, ook artsen... in het wegen van allerlei factoren, in het combineren van waarschijnlijkheden... in kennis over misschien wel tienduizenden medicijnen... en hoe die met elkaar interacteren en daaruit dan de beste kiezen. Dus de machine is goed in sommige dingen, de mens is goed in sommige dingen. De kunst zal zijn om die twee zo goed mogelijk te combineren. Dus niet om de een door de ander te vervangen, maar om de machine en de mens... allebei hun sterkste kanten te laten combineren. Wouter van der Bij: -Mooi. Maarten Steinbuch: Misschien moeten we aan de andere kant beginnen te denken: Van welke interacties tussen zorgprofessionals en cliënten... vinden wij het essentieel dat het van-mens-tot-menscontact blijft bestaan? Van welke contactmomenten of handelingen, welke taken... vinden we het essentieel om die te behouden van mens tot mens? En als we dat eenmaal goed gedefinieerd hebben voor elke toepassing in de zorg... dan zouden we kunnen redeneren: Dat betekent dat alle andere taken misschien te digitaliseren zijn... of dat daar een rol voor robotica is, of voor AI. Pim Haseslager: AI biedt bijvoorbeeld hele mooie mogelijkheden voor anonieme zorg. Ik heb eens een lezing gegeven, daar was een jonge vrouw in een rolstoel en die zei: 'Ik zou een robot hartstikke fijn vinden, want nu word ik gewassen door een verpleger... en ik wil eigenlijk niet dat hij me zo ziet.' 'Ik zou een robot, als hij goed beveiligd is enzovoorts... heel prettig anoniem vinden.' Zo zijn er wel meer... Intieme lichaamsverzorging enzovoorts. Dan kan een machine soms prettiger zijn, voor veel mensen... dan een mens. Er komt schaamte bij kijken. Dat hoef je bij een machine niet te hebben. Koen Hindriks: Juist in dat warme contact hebben we echt heel veel mens nodig, heel veel contact met mensen. Wouter van der Bij: Ja. Koen Hindriks: -Daar gaan robots niet de oplossing voor bieden. Ze kunnen wel een middel zijn om contact tussen mensen te versterken... en ook nog wel om andere functies uit te oefenen, bij mensen thuis bijvoorbeeld... dus contacten maken met het ziekenhuis of op andere manieren... te helpen bij het aanleveren van de data die doktoren nodig hebben. Maar we moeten ze niet gaan gebruiken om het warme contact van mensen... dat empathische te vervangen. Dat zou een slecht idee zijn. Egge van der Poel: We moeten voorkomen dat we AI als een doel zien, en het vooral als een middel zien. We zien nu allemaal de beweging naar de juiste zorg op de juiste plek... maar in de toekomst moeten we meer de mindset hebben... van de juiste informatie op het juiste moment voor de juiste persoon via het juiste kanaal. Dus dat gaat voorbij aan de muren van je eigen instelling en aan je eigen expertise. De patiënt is niet alleen de persoon tegenover je in de spreekkamer... maar een mens die beweegt door de hele maatschappij. En onze voelsprieten rondom zorg en welzijn van die persoon moeten aan staan. Die moeten we met elkaar verbinden. Wouter van der Bij: -Ja. En als AI daar een middel in is, heel mooi. Egge van der Poel: Ja, maar het gaat niet alleen om die big data, maar ook de small stories. Daar heb ik met Jan Kremer een stukje over geschreven. Het is juist het combineren van de big data en de krachtige rekenmachines... en de kleine verhalen en het persoonlijke narratief. Daar zullen we echt met elkaar een mooie weg in gaan vinden. Daar vertrouw ik op en over vijftien jaar hebben we die goeie balans gevonden. *Muziek speelt en fadet uit* Beeldtekst: Wat zou jij voor het bieden of ontvangen van goede zorg absoluut nog zelf willen blijven doen?

Hoe slim is AI? En op welke manier zal het de zorg in Nederland over 10-15 jaar verbeteren? Bent u benieuwd of robots de mens daadwerkelijk gaan vervangen en wat dat betekent voor banen in de zorg, wellicht wel uw baan? In deze eerste aflevering van de driedelige docuserie wordt er gesproken over wat AI nu eigenlijk is en wat het verschil is tussen menselijke kennis en kunstmatige intelligentie. Ook vertellen experts hoe AI nu al wordt toegepast in de zorg en op welke manier het grote vraagstukken in de zorg kan oplossen.

Welke verwachtingen heeft u bij een toekomst met AI in de zorg?

Aflevering 2: Samenwerken met artificiële intelligentie in de zorg

Docuserie Mens & AI in de zorg - aflevering 2

*Muziek speelt* Beeldtekst: Mens & AI in de zorg. Hoe ziet die samenwerking er uit over tien jaar? Wouter van der Bij: In de vorige aflevering stonden we met experts stil bij de vraag: Hoe slim is AI over tien jaar? En op welke manier zal deze vorm van intelligentie de zorg kunnen helpen? We kwamen erachter dat AI de mens nog niet zó snel gaat overnemen... dus dat het vooral gaat over: Hoe werken mens en AI samen? In deze tweede aflevering bouwen we voort op deze conclusie. Aan de hand van jullie vragen zoomen we verder in op een toekomst met AI... en staan we stil bij de kansen en vraagstukken die daarbij horen. Welke vragen heb jij nog meer? We vroegen het weer aan patiënten en zorgprofessionals. Patiënten en zorgprofessionals: Als arts vraag ik me af: Welke vraagstukken zijn er bij de toepassing van artificial intelligence in de zorg... nu, maar vooral ook in de toekomst? Op welke manier verschilt artificiële intelligentie van onze eigen, menselijke intelligentie? Wat is er nodig om AI te kunnen vertrouwen? *Muziek speelt* Beeldtekst: Samenwerken met AI: Welke vraagstukken en kansen gaan hiermee gepaard? Wouter van der Bij: Wat is een belangrijk verschil in jouw ogen tussen menselijke en kunstmatige intelligentie? Paul Elbers: Menselijke intelligentie lijkt wel een beetje op kunstmatige intelligentie... want de principes daarvan zijn hetzelfde: Dat je uit ervaringen steeds leert wat het beste is... en in het geval van artsen is dat vaak welke behandeling het best is. Maar tegelijkertijd zijn mensen heel breed georiënteerd. Misschien komt de kunstmatige intelligentie ooit zover, maar tot nu toe... gaat het over hele kleine stukjes van de menselijke intelligentie. Maar computers kunnen, doordat ze heel krachtig zijn en niet moe worden, heel snel heel veel leren. Dus op dat kleine stukje kunnen ze heel goed zijn. Daniël Tjillink: Bij menselijke intelligentie heeft iedereen een beeld. Dat is hoe wij denken en praten en het gevoel erbij. Die intelligentie zit ook in ons lichaam. Maar artificiële intelligentie is gewoon een nieuwe technologie... zoals ooit de auto een nieuwe technologie was, of de computer. Dit woord roept dus wel heel veel deze vraag op, dus ik denk dat dat vaak verwarrend is. Ik denk dat het vaak de discussie niet verder helpt om het te vergelijken met menselijke intelligentie... zoals we de auto niet vergelijken met hoe hard wij lopen. Wouter van der Bij: Vooral in die vergelijking zit de verwarring? Daniël Tjillink: Dat denk ik. Wouter van der Bij: -Ja. Kun je daar... Daniël Tjillink: Ik vind het veel interessanter om bij kunstmatige intelligentie of AI te praten over: Dit is een nieuwe technologie. Die is echt heel krachtig, daar kan heel veel mee. Het is een basistechnologie die op andere technologieën invloed gaat hebben. Hoe gaan we daar nou mee om? En die technologie en de mens samen, hoe gaan die samen daarmee aan de gang? Dat vind ik een interessante vraag: Hoe ga je dat op een waardevolle manier doen? Bart-Jan Verhoeff: In veel gevallen beschikt AI gewoon niet over alle informatie... die nodig is om tot de goede conclusie te komen, of tot een volledig perfecte conclusie te komen. Mensen hebben dat door hun levenservaring dan weer wel... of die kunnen makkelijker de rest van die informatie vergaren. We leggen niet alles vast, wat wel gebruikt wordt door AI. Ook de dingen die we niet vastleggen, kunnen wij wel gebruiken, maar AI weer niet. Dat is één groot verschil en het tweede is: Mensen zijn beter in staat... om verkeerde datapunten, om het maar even zo te zeggen, weg te filteren. Frank van Harmelen: Wat ik denk dat we zullen leren... is dat machine-intelligentie heel anders is dan menselijke intelligentie... en dat de een het niet over zal nemen van de ander, dat de een de ander niet zal verdringen... maar dat de een de ander zal aanvullen. Dus zo zou de toekomstige AI ook een denkhulpmiddel worden... net als dat auto's nu een vervoershulpmiddel zijn en bulldozers... een krachthulpmiddel. We tillen dingen op met een kraan die we zelf niet kunnen optillen. Dus we zijn heel gewend aan hulpmiddelen die ons versterken. En zo zou AI een denkversterker kunnen zijn, een hulpmiddel voor denken. Egge van der Poel: Ik denk dat AI in zichzelf niet slim is, maar heel krachtig is. Wij bepalen uiteindelijk dus door de taak te formuleren, de vraag te stellen... Die slimme vraag, die komt van ons, van onze creativiteit. En met die slimme vraag gaat die domme rekenmachine aan de gang. Wouter van der Bij: Ja. Egge van der Poel: -Dus AI is heel krachtig, niet slim, wat mij betreft. Maar dat is meteen ook de beperking... die we goed moeten doorgronden en doordenken om te bepalen: Waar zetten we het wel of niet in? En waar accepteren we dat het wel of niet ondoorgrondelijk is? En transparantie is daarin wel een thema. Ik denk dat het veel meer gaat over zoiets basaals als vertrouwen. Wouter van der Bij: Vertrouwen en het vertrouwen dat mensen hebben in technologie. Hoe ga je om met vertrouwen? Daniël Tjillink: Vertrouwen is een belangrijk issue. Het belangrijkst is dat het vaak gewoon goed werkt. Je kunt procesmatig kijken: Hoe werkt het precies en moet ik dat weten? En zelf... Heel veel mensen... Deels kunnen we dat niet eens. Er zijn maar een paar mensen zo slim om dat echt goed te doorzien. Maar je kunt het merken als het niet goed gaat, dus je moet veel inregelen, zorgen dat je dat ziet. En het vertrouwen komt met het goed gebruik. Dat is ook een proces, ook in de gewone wereld. Denk niet dat in de technologie alles in één keer goed gaat en in de mensenwereld niet. Het gaat in allebei heel vaak een beetje mis. Maar je moet ernaar streven... om daar echt stappen te maken. Maarten Steinbuch: Wat we ook belangrijk vinden, zeker in Nederland, of in Europa, moet ik zeggen... is dat alle AI-algoritmes, alle kunstmatige intelligentie die we ontwikkelen, uitlegbaar is... en verantwoordelijk is. We noemen dat 'responsible and explainable AI's'. Je moet kunnen uitleggen dat een bepaald algoritme met een uitkomst komt. Daar moet je iets van beredenering achter hebben... dat je het kan uitleggen, dat het een verantwoordelijke beslissing kan zijn. Ildikó Vajda: Wat ik begrijp van experts is: Hoe ondoorzichtiger het algoritme, hoe preciezer de uitkomst. En dat is een dilemma. Je wilt precisie, maar ja, toch misschien ten koste van die transparantie. Paul Elbers: Als je een andere collega vraagt en die geeft jou een advies... en die doet dat meestal op basis van jarenlange ervaring... en zijn kennis van de literatuur en van allerlei patiënten... ga je ook niet heel vaak precies zeggen: Waarom heb jij dat nou precies zo geadviseerd? Dus de vraag is dan eigenlijk... Ik wil niet zeggen dat het onbelangrijk is, maar misschien wordt het belang daarvan overschat... want als nou zou blijken dat de computer elke keer het goede advies geeft... en dat leidt tot bijvoorbeeld veel minder sterfte op de intensive care... of veel meer patiënten die na de intensive care- behandeling nog een heel goed leven hebben... maar je weet niet zeker hoe dat advies tot stand is gekomen... dat zal je als patiënt niet uitmaken. Dan wil je liever gewoon zo behandeld worden. Dus in die zin moet je dat wegen. Tegelijkertijd, als je het niet kan uitleggen, is er meer risico op vooroordelen in die algoritmes. Dus het is een kwestie van balans, denk ik. Pim Haseslager: Als je een besluit neemt samen met een intelligente machine... waar veel geld in is geïnvesteerd en het is AI, dus het is hartstikke goed enzovoorts... dan sta je toch een beetje klem... want als jij niet meegaat met de aanbeveling van het systeem en je hebt het fout... dus je bent ten onrechte afgeweken, dan heb je daarna wel iets uit te leggen. Terwijl als je meegaat met het systeem, dan hebben we het allebei fout gedaan. Dat is toch al gedeelde verantwoordelijkheid. En dat bedoel ik met verantwoord gebruik van AI. Dat is iets wat me zeer aan het hart ligt, eigenlijk. Ik ben bang dat we AI te snel inzetten... en te weinig nadenken over de psychologische effecten ervan op de professionele gebruiker. Dus niet alleen de effecten op bijvoorbeeld de patiënt of de verzorgde... maar ook op degene die dat systeem gebruikt en daardoor gesteund zou moeten worden. Wouter van der Bij: Wat zijn voor jou echt onderdelen van de zorg waar AI nooit een mens zal overnemen? Wat staat voor jou heel duidelijk daarin? Paul Elbers: Ik denk dat het dan gaat om menselijkheid, vertrouwen, troost, hoop. Dat zijn toch zaken die je als sociaal dier... of als gemeenschap wil regelen onder mensen. En dat zal, denk ik, blijven. Dat is onze menselijkheid. Frank van Harmelen: Allerlei dingen waar mensen goed in zijn, dus het begrip van de patiënt, de empathie... de kennis over de omstandigheden waarin de patiënt leeft... waar mensen heel goed in zijn, dat wordt meegenomen in de overweging van zo'n arts. Daar heeft zo'n machine geen benul van. Tegelijkertijd is die machine heel veel beter dan mensen, ook artsen... in het wegen van allerlei factoren, in het combineren van waarschijnlijkheden... in kennis over misschien wel tienduizenden medicijnen... en hoe die met elkaar interacteren en daaruit dan de beste kiezen. Dus de machine is goed in sommige dingen, de mens is goed in sommige dingen. De kunst zal zijn om die twee zo goed mogelijk te combineren. Dus niet om de een door de ander te vervangen, maar om de machine en de mens... allebei hun sterkste kanten te laten combineren. Wouter van der Bij: -Mooi. Maarten Steinbuch: Misschien moeten we aan de andere kant beginnen te denken: Van welke interacties tussen zorgprofessionals en cliënten... vinden wij het essentieel dat het van-mens-tot-menscontact blijft bestaan? Van welke contactmomenten of handelingen, welke taken... vinden we het essentieel om die te behouden van mens tot mens? En als we dat eenmaal goed gedefinieerd hebben voor elke toepassing in de zorg... dan zouden we kunnen redeneren: Dat betekent dat alle andere taken misschien te digitaliseren zijn... of dat daar een rol voor robotica is, of voor AI. Pim Haseslager: AI biedt bijvoorbeeld hele mooie mogelijkheden voor anonieme zorg. Ik heb eens een lezing gegeven, daar was een jonge vrouw in een rolstoel en die zei: 'Ik zou een robot hartstikke fijn vinden, want nu word ik gewassen door een verpleger... en ik wil eigenlijk niet dat hij me zo ziet.' 'Ik zou een robot, als hij goed beveiligd is enzovoorts... heel prettig anoniem vinden.' Zo zijn er wel meer... Intieme lichaamsverzorging enzovoorts. Dan kan een machine soms prettiger zijn, voor veel mensen... dan een mens. Er komt schaamte bij kijken. Dat hoef je bij een machine niet te hebben. Koen Hindriks: Juist in dat warme contact hebben we echt heel veel mens nodig, heel veel contact met mensen. Wouter van der Bij: Ja. Koen Hindriks: -Daar gaan robots niet de oplossing voor bieden. Ze kunnen wel een middel zijn om contact tussen mensen te versterken... en ook nog wel om andere functies uit te oefenen, bij mensen thuis bijvoorbeeld... dus contacten maken met het ziekenhuis of op andere manieren... te helpen bij het aanleveren van de data die doktoren nodig hebben. Maar we moeten ze niet gaan gebruiken om het warme contact van mensen... dat empathische te vervangen. Dat zou een slecht idee zijn. Egge van der Poel: We moeten voorkomen dat we AI als een doel zien, en het vooral als een middel zien. We zien nu allemaal de beweging naar de juiste zorg op de juiste plek... maar in de toekomst moeten we meer de mindset hebben... van de juiste informatie op het juiste moment voor de juiste persoon via het juiste kanaal. Dus dat gaat voorbij aan de muren van je eigen instelling en aan je eigen expertise. De patiënt is niet alleen de persoon tegenover je in de spreekkamer... maar een mens die beweegt door de hele maatschappij. En onze voelsprieten rondom zorg en welzijn van die persoon moeten aan staan. Die moeten we met elkaar verbinden. Wouter van der Bij: -Ja. En als AI daar een middel in is, heel mooi. Egge van der Poel: Ja, maar het gaat niet alleen om die big data, maar ook de small stories. Daar heb ik met Jan Kremer een stukje over geschreven. Het is juist het combineren van de big data en de krachtige rekenmachines... en de kleine verhalen en het persoonlijke narratief. Daar zullen we echt met elkaar een mooie weg in gaan vinden. Daar vertrouw ik op en over vijftien jaar hebben we die goeie balans gevonden. *Muziek speelt en fadet uit* Beeldtekst: Wat zou jij voor het bieden of ontvangen van goede zorg absoluut nog zelf willen blijven doen?

Welke rol zal AI in de zorg krijgen? Waarin zal AI nooit de mens over kunnen nemen? In deze tweede aflevering geven verschillende experts op het gebied van AI hun visie over wat het verschil tussen menselijke en kunstmatige intelligentie betekent voor de samenwerking in de zorg. Wat is hybride intelligence? En wat is er volgens de experts nodig om een samenwerking tussen mens en AI te laten slagen in de zorg?

Wat zou u voor het bieden of ontvangen van goede zorg absoluut nog zelf willen blijven doen?

Aflevering 3: Artificiële intelligentie door de ogen van de zorg

Docuserie Mens & AI in de zorg - aflevering 3

*Muziek speelt* Beeldtekst: Mens & AI in de zorg. Hoe ziet die samenwerking er uit over tien jaar? Wouter van der Bij: In de vorige twee afleveringen verkenden we met experts... hoe AI zich zal ontwikkelen de aankomende jaren... en stonden we stil bij belangrijke kansen en vraagstukken die daarbij horen voor de zorg. We lieten zien wat het belang is van een samenwerking tussen mens en AI... en kwamen erachter dat robots de mens nog niet zó snel zullen overnemen. Kortom, het is aan onszelf om te bepalen hoe een toekomst met AI eruit zal zien in de zorg. Daarom staan we in deze derde en voorlopig laatste aflevering stil bij de vraag... hoe patiënten en zorgprofessionals zich kunnen voorbereiden op deze toekomst. Welke vragen heb jij daarbij? We vroegen het weer aan een aantal jonge patiënten en zorgprofessionals. Patiënten en zorgprofessionals: Als ziekenhuisarts ben ik benieuwd: Welke tips hebben jullie om me voor te bereiden op een toekomst met AI in de zorg? Op welke manier gaat AI mijn werk als zorgprofessional... in de toekomst verbeteren, versnellen of veranderen? Hoe kan ik, als patiënt... met artificial intelligence mijn gezondheid verbeteren of in de gaten houden? *Muziek speelt* Beeldtekst: Door de ogen van de zorg: Op welke manier kunnen patiënten en zorgprofessionals zich samen voorbereiden op een toekomstige samenwerking met AI? Ildikó Vajda: Van iedere burger zou ik verwachten dat hij een minimale basiskennis heeft... van de technologie en hoe het wordt ingezet, wat het kan, wat de gevaren zijn... net zoals we weten dat röntgenstraling schadelijk is... of kernafval. Wouter van der Bij: -Mooi. Ildikó Vajda: Dus er een klein beetje iets van weten... ik denk dat dat waardevol is. Er is niet iemand als dé patiënt. Sommige patiënten willen alles weten... en gaan zelf onderzoek doen en stellen heel veel vragen, zijn heel kritisch. Andere patiënten zullen... op het advies van de arts vertrouwen en dat volgen. Bart-Jan Verhoeff: Als zo'n algoritme vooral een logistiek effect heeft... dan zal die patiënt vermoedelijk niet eens doorhebben dat dat algoritme gebruikt wordt. Als het algoritmes zijn die bijvoorbeeld herkennen of een patiënt ernstig ziek is... om daar iets mee te doen, ook dan vraag ik me af wat die patiënt er direct van merkt. Het zou kunnen dat patiënten in de loop der tijd gewend raken... aan alle AI die ze in het dagelijks leven meemaken... en steeds een beetje bij de zorg-IT het gevoel houden... dat het allemaal wat archaïsch is. Wouter van der Bij: -Kijk. Bart-Jan Verhoeff: Omdat het gewoon op dat vlak wat meer ontwikkeltijd nodig heeft. Het belangrijkst is: die patiënt wil de beste zorg krijgen. Maarten Steinbuch: Een van de belangrijke dingen die eraan komen, zijn de wearables... dus de sensoren dicht bij jouw lijf die in de gaten houden hoe je conditie is. Je kan zo veel dingen tegenwoordig vrij eenvoudig meten. Dat heeft met voeding te maken, met je hartslag, met zweten... met of je valt of niet, dat kan je allemaal detecteren met wearables. Dus dingen die je draagt op je lijf worden, denk ik, de komende tien jaar heel belangrijk... met name ook om de situatie te hebben dat je als cliënt je eigen leven in handen hebt... dat je lekker kan blijven wonen waar je woont en dat er remote voor jou aandacht is... dat er mensen op afstand reageren als er iets aan de knikker is met jou. Gedreven door data die verzameld wordt op een privacyongevoelige manier... en dat er remote aandacht is, een valnet is, dat als er iets mis is er snel ingegrepen kan worden. Daarmee houden we die zorg ook houdbaar op langere termijn... terwijl we aan het vergrijzen zijn en veel te weinig zorgprofessionals hebben. Paul Elbers: Je moet je realiseren dat het denk ik belangrijk is om het gesprek aan te gaan met jouw arts... en hem of haar te vragen: Gebruiken jullie deze zaken al? Want ik heb begrepen dat dat misschien soms kan bijdragen aan betere beslissingen. Het zou heel fijn zijn als het al gebeurt, maar zo niet, dan kan dat misschien gaan gebeuren. Als het wel gebeurt, dan is het belangrijk om samen in gesprek te gaan. Op intensive care is het zo, zoals ik al uitlegde... dat we vaak niet met de patiënt direct communiceren... omdat die vaak te ziek is en niet in staat is om te praten. Vaak liggen de patiënten aan de beademing. Dan gaat het over de familie, maar... naar analogie van wat ik net vertelde... kun je met de familie in gesprek gaan over welke beslissingen er aangedragen worden... en welke adviezen er gegeven zijn, om daar samen de beste weg in te vinden. Wouter van der Bij: Zijn er... skills of kennis die zorgprofessionals zich echt eigen moeten maken om met AI te gaan werken? Vraagt dat iets van ze en wat is dat? Frank van Harmelen: Ja. Ik denk dat dat van twee kanten moet komen. We komen er niet als die community's... de gemeenschappen van de AI-onderzoekers en de zorgprofessionals gescheiden blijven. Wouter van der Bij: Wat is heel specifiek een onderwerp of iets wat je moet leren als je met AI aan de slag gaat... ten opzichte van het werken met een iPad of andere vormen van digitale ondersteuning? Frank van Harmelen: Ja, ik denk dat het nodig is... dat een AI-professional zich bewust is van de mogelijkheden en onmogelijkheden van de AI. Je ziet soms nu dat het doorslaat naar de extremen. Of mensen zijn extreem sceptisch en zeggen: Nee, wat ik in mijn tienjarige medische opleiding geleerd heb, kunnen jullie nooit verbeteren met AI. Dus een extreem negatieve houding tegenover AI. Of een extreem positieve houding over AI, van: O, het komt uit een AI-programma... dus het zal wel goed zijn. Wouter van der Bij: -Blind vertrouwen. Frank van Harmelen: Allebei zijn onzinnig. Maar voor een verstandig oordeel, om er op een verstandige manier mee om te gaan... moeten AI-professionals iets meer begrijpen van wat er wel en wat er niet kan met de huidige AI. Paul Elbers: Ik zeg tegen m'n collega's: Bereid je voor, want het komt eraan. Dus je kunt je er maar beter nu in verdiepen. Dat moet eigenlijk op twee niveaus: Het niveau van de individuele zorgverlener, artsen en verpleegkundigen. Ze moeten geschoold worden in de mogelijkheden en de onmogelijkheden van deze techniek. En dat begint, denk ik, bij de geneeskundeopleiding. Dus ik denk dat dokters ook geschoold moeten worden in de datawetenschappen... al was het maar op een niveau dat ze dat kunnen toepassen. Pim Haseslager: Ik denk ook dat we toe moeten, net zoals we rijbewijzen hebben, naar robotbewijzen. Zoals je niet met een auto de weg op mag zonder eerst theorie- en praktijkervaring te hebben... dat dat ook niet mag met dit soort systemen. Dat je echt even moet nadenken over de macht, de power die in dat soort systemen zit... en de schade die je daarmee kunt berokkenen bij ondeskundig gebruik. Koen Hindriks: De vraag is of we de situatie weer wat kunnen omdraaien... in de zin van dat wij ons niet hoeven aan te passen aan de technologie... maar dat de technologie zich aanpast aan ons. Wouter van der Bij: -Mooi. Koen Hindriks: Als we dat wat kunnen omdraaien, kunnen we al heel veel bereiken. Daniël Tjillink: Robots, of AI, gaan inderdaad een stukje van ons leven veranderen. Dat is echt eng en we weten niet zo goed hoe dat gaat. Aan de andere kant zijn we er altijd bij. De robot gaat ons niet overwinnen, dat is onzin, want mens en technologie zijn echt verbonden. Dus we gaan met z'n tweeën. Ik noem het vaak een dans, een beetje positief, of een worsteling... waarbij mens en machine samen dansen en samen worstelen, maar nooit alleen. Ik denk, voor patiënten... Die technologie komt, maar die moet zichzelf nog deels aanpassen. Dus het is heel belangrijk dat je als patiënt benoemt: Dit is voor mij wel fijn of niet. Deels moet je ook een beetje leren: Hoe kan ik hiermee omgaan? Net zoals we dat met een iPhone of met een computer moeten doen. Je zult digitaal gevoel krijgen, maar je mag ook wel terugduwen... want die waarden die wij hebben, of die patiënten hebben, zijn heel belangrijk. En patiënten zijn ook heel verschillend. Dus de een springt een gat in de lucht bij een bepaalde toepassing: Fijn, nu kan ik alles meten en weet ik alles. Anderen worden daar zenuwachtig van. Die willen misschien iets anders. Die willen een ander soort ondersteuning. Dat is steeds meer mogelijk, ook door die technologie... maar dan moet je wel zorgen dat dat teruggegeven wordt. Zorgprofessionals weten eigenlijk heel veel. Die kennen hun werk het best van iedereen. Dus de vraag aan hen is altijd: Waar helpt het je werk? Hoe moeten we die AI inrichten? Ze hebben ook heel veel power. Je ziet nu ook die scheiding van: O jee, technologie is eng en vervelend. Dat is extra geworden doordat de computer voor een deel van de zorgverleners... vertaald is in een soort administratieplicht, wat heel jammer is... want volgens gesprekken die we gehad hebben... werkt de nieuwe technologie best goed en zijn ze er ook wel enthousiast over... als ze maar weten waar het om gaat. Maar ze moeten erin meegenomen worden, ze moeten serieus genomen worden. Hun signalen zijn, naast die van de patiënten, heel belangrijk. Wouter van der Bij: Hoe een toekomst met AI eruit zal zien voor de zorg, staat niet vast. Eenduidige conclusies hebben we daar ook niet over. Maar gelukkig zijn er wel een hoop mogelijkheden om hiermee aan de slag te gaan. Daarom vroeg ik tot slot alle negen experts naar hun belangrijkste tip aan jou. Paul Elbers: Ik zou zeggen tegen patiënten en ook tegen zorgverleners: Wees niet te bang voor kunstmatige intelligentie. Beschouw het als de vriend... die over je schouder meekijkt, over de schouder van de arts... maar ook over de schouder van de patiënt om de behandeling voor jou als patiënt beter te maken. En ga dus ook het gesprek aan met de artsen van: Waarom gebruik je kunstmatige intelligentie en hoe? Maar vooral: Waarom gebruik je 't nog niet? Want er zijn zoveel mogelijkheden en ik denk dat het de wereld een stukje beter kan maken. Ildikó Vajda: Verdiep je een klein beetje in deze technologie, want dit is een systeemtechnologie. Daar ga je mee te maken hebben op alle terreinen in het leven, in deze maatschappij. En voor patiëntenvertegenwoordigers zou ik zeggen: Volg een cursus. Verdiep je ook en ga aan de slag in de praktijk... samen met alle stakeholders, om het een plek te geven in de zorg. Maarten Steinbuch: Ik denk dat het heel belangrijk is dat we elkaars taal beter gaan leren spreken... en dat we dus heel veel met elkaar praten... over hoe dit op een goede manier te implementeren is in de praktijk... voor de cliënt, de zorgprofessional en de ontwikkelaar van de technologie. Bart-Jan Verhoeff: Er zijn ongelooflijk veel cursussen en webinars en alles, op internet voorhanden... om je te verdiepen in AI, ook helemaal specifiek gericht op zorgverleners. Mijn advies is om die gewoon... om er daar één of twee van uit te kiezen en dat eens te volgen. Verdiep je in hoe AI gemaakt wordt, zonder te veel in de diepte te gaan... en wat dat voor vragen kan beantwoorden en wat het vooral ook niet kan. En kijk hoe jij er je voordeel mee kan doen. Koen Hindriks: Ik denk dat de belangrijkste tip is... dat we samen, patiënten, zorgmedewerkers en AI-onderzoekers... op zoek gaan naar de toegevoegde waarde die kunstmatige intelligentie kan bieden in de zorg... zowel als het gaat om preventie, als ook om betere kwaliteit te leveren. En op de lange termijn denk ik dat kunstmatige intelligentie enorm veel potentieel heeft... om die zeer gepersonaliseerde zorg te gaan leveren... zodat we heel goede zorg voor elk individu kunnen gaan leveren. Frank van Harmelen: Ik denk dat als je je wilt voorbereiden op de rol van AI in de zorg... of je nou patiënt bent of zorgverlener... je dan zou moeten kijken naar de Nationale AI-Zorg cursus. Die is online. Google even: Nationale AI-Zorg cursus. Die is heel toegankelijk en daar leer je echt over wat er al wel kan, welke kant het opgaat... en wat er ook nog niet kan. Nationale AI-Zorg cursus. Pim Haseslager: De belangrijkste tip die ik kan geven, is: denk van tevoren na over wat je vooral zelf wil blijven doen. Wat wil jij niet kwijt aan machines? Dat moet het uitgangspunt zijn. En natuurlijk parallel daaraan: Wat wil je vooral wel kwijt? Wat wil je het liefst uitbesteden? Dat moet het uitgangspunt zijn... voor de ontwikkeling en de toepassing van AI in de maatschappij. Daniël Tjillink: Zorg dat je erbij bent. Je bent als zorgverlener en patiënt ongelooflijk belangrijk. In principe wordt de technologie voor jullie gemaakt... dus zorg dat je in gesprek raakt met die technici en beleidsmakers... zodat jouw wensen daar ook echt inzitten, en jouw zorgen. Wij vanuit de Aanpak begeleidingsethiek helpen daarbij en vinden dat heel belangrijk. Egge van der Poel: AI is eigenlijk niks nieuws onder de zon. We willen altijd de best passende zorg leveren en ontvangen. AI gaat ons wel helpen om dat slimmer en sneller te doen, om sneller onze vragen te beantwoorden. Dus de beste manier om je voor te bereiden, is door om je heen te kijken... te kijken naar mooie voorbeelden en daar vragen bij te stellen... maar vooral te blijven beseffen dat jij er een rol in hebt... dat jij de vraag stelt, dat jij bepaalt of iets van toegevoegde waarde is, ja of nee. Dus wees actief. Ga niet achterover leunen... maar ga ermee aan de slag en leer gaandeweg wat het echt voor je kan betekenen. *Muziek speelt en fadet uit* Beeldtekst: Met welk advies ga jij morgen aan de slag om je voor te bereiden op een toekomst met AI in de zorg? Kijk ook naar de Nationale AI-Zorg cursus.

Op welke manier kunnen patiënten en zorgprofessionals zich samen voorbereiden op een toekomstige samenwerking met AI? In deze derde en tevens laatste aflevering van de docuserie wordt gesproken over hoe patiënten beter in staat zijn hun gezondheid met AI te kunnen beïnvloeden en wat hierin cruciaal is. Op welke manier kunnen zij zich voorbereiden, als het gaat om het managen van hun eigen gezondheid/ziekte? Ook wordt er ingezoomd op het perspectief van de zorgprofessional en hoe de rol zich zal ontwikkelen.

Met welk advies gaat u morgen aan de slag om je voor te bereiden op een toekomst met AI in zorg?

Wilt u meer weten over AI in de zorg?

Geïnteresseerd in het onderwerp en wilt u meer weten? Bekijk dan eens de onderstaande mogelijkheden.