Docuserie Mens & AI in de zorg - aflevering 2

Welke rol zal AI in de zorg krijgen? Waarin zal AI nooit de mens over kunnen nemen? In deze tweede aflevering van de driedelige docuserie geven verschillende experts op het gebied van AI hun visie over wat het verschil tussen menselijk en kunstmatige intelligentie betekent voor de samenwerking in de zorg. Wat is hybride intelligence? En wat is er nodig volgens de experts nodig om een samenwerking tussen mens en AI te laten slagen in de zorg?

Docuserie Mens & AI in de zorg - aflevering 2

*Muziek speelt* Beeldtekst: Mens & AI in de zorg. Hoe ziet die samenwerking er uit over tien jaar? Wouter van der Bij: In de vorige aflevering stonden we met experts stil bij de vraag: Hoe slim is AI over tien jaar? En op welke manier zal deze vorm van intelligentie de zorg kunnen helpen? We kwamen erachter dat AI de mens nog niet zó snel gaat overnemen... dus dat het vooral gaat over: Hoe werken mens en AI samen? In deze tweede aflevering bouwen we voort op deze conclusie. Aan de hand van jullie vragen zoomen we verder in op een toekomst met AI... en staan we stil bij de kansen en vraagstukken die daarbij horen. Welke vragen heb jij nog meer? We vroegen het weer aan patiënten en zorgprofessionals. Patiënten en zorgprofessionals: Als arts vraag ik me af: Welke vraagstukken zijn er bij de toepassing van artificial intelligence in de zorg... nu, maar vooral ook in de toekomst? Op welke manier verschilt artificiële intelligentie van onze eigen, menselijke intelligentie? Wat is er nodig om AI te kunnen vertrouwen? *Muziek speelt* Beeldtekst: Samenwerken met AI: Welke vraagstukken en kansen gaan hiermee gepaard? Wouter van der Bij: Wat is een belangrijk verschil in jouw ogen tussen menselijke en kunstmatige intelligentie? Paul Elbers: Menselijke intelligentie lijkt wel een beetje op kunstmatige intelligentie... want de principes daarvan zijn hetzelfde: Dat je uit ervaringen steeds leert wat het beste is... en in het geval van artsen is dat vaak welke behandeling het best is. Maar tegelijkertijd zijn mensen heel breed georiënteerd. Misschien komt de kunstmatige intelligentie ooit zover, maar tot nu toe... gaat het over hele kleine stukjes van de menselijke intelligentie. Maar computers kunnen, doordat ze heel krachtig zijn en niet moe worden, heel snel heel veel leren. Dus op dat kleine stukje kunnen ze heel goed zijn. Daniël Tjillink: Bij menselijke intelligentie heeft iedereen een beeld. Dat is hoe wij denken en praten en het gevoel erbij. Die intelligentie zit ook in ons lichaam. Maar artificiële intelligentie is gewoon een nieuwe technologie... zoals ooit de auto een nieuwe technologie was, of de computer. Dit woord roept dus wel heel veel deze vraag op, dus ik denk dat dat vaak verwarrend is. Ik denk dat het vaak de discussie niet verder helpt om het te vergelijken met menselijke intelligentie... zoals we de auto niet vergelijken met hoe hard wij lopen. Wouter van der Bij: Vooral in die vergelijking zit de verwarring? Daniël Tjillink: Dat denk ik. Wouter van der Bij: -Ja. Kun je daar... Daniël Tjillink: Ik vind het veel interessanter om bij kunstmatige intelligentie of AI te praten over: Dit is een nieuwe technologie. Die is echt heel krachtig, daar kan heel veel mee. Het is een basistechnologie die op andere technologieën invloed gaat hebben. Hoe gaan we daar nou mee om? En die technologie en de mens samen, hoe gaan die samen daarmee aan de gang? Dat vind ik een interessante vraag: Hoe ga je dat op een waardevolle manier doen? Bart-Jan Verhoeff: In veel gevallen beschikt AI gewoon niet over alle informatie... die nodig is om tot de goede conclusie te komen, of tot een volledig perfecte conclusie te komen. Mensen hebben dat door hun levenservaring dan weer wel... of die kunnen makkelijker de rest van die informatie vergaren. We leggen niet alles vast, wat wel gebruikt wordt door AI. Ook de dingen die we niet vastleggen, kunnen wij wel gebruiken, maar AI weer niet. Dat is één groot verschil en het tweede is: Mensen zijn beter in staat... om verkeerde datapunten, om het maar even zo te zeggen, weg te filteren. Frank van Harmelen: Wat ik denk dat we zullen leren... is dat machine-intelligentie heel anders is dan menselijke intelligentie... en dat de een het niet over zal nemen van de ander, dat de een de ander niet zal verdringen... maar dat de een de ander zal aanvullen. Dus zo zou de toekomstige AI ook een denkhulpmiddel worden... net als dat auto's nu een vervoershulpmiddel zijn en bulldozers... een krachthulpmiddel. We tillen dingen op met een kraan die we zelf niet kunnen optillen. Dus we zijn heel gewend aan hulpmiddelen die ons versterken. En zo zou AI een denkversterker kunnen zijn, een hulpmiddel voor denken. Egge van der Poel: Ik denk dat AI in zichzelf niet slim is, maar heel krachtig is. Wij bepalen uiteindelijk dus door de taak te formuleren, de vraag te stellen... Die slimme vraag, die komt van ons, van onze creativiteit. En met die slimme vraag gaat die domme rekenmachine aan de gang. Wouter van der Bij: Ja. Egge van der Poel: -Dus AI is heel krachtig, niet slim, wat mij betreft. Maar dat is meteen ook de beperking... die we goed moeten doorgronden en doordenken om te bepalen: Waar zetten we het wel of niet in? En waar accepteren we dat het wel of niet ondoorgrondelijk is? En transparantie is daarin wel een thema. Ik denk dat het veel meer gaat over zoiets basaals als vertrouwen. Wouter van der Bij: Vertrouwen en het vertrouwen dat mensen hebben in technologie. Hoe ga je om met vertrouwen? Daniël Tjillink: Vertrouwen is een belangrijk issue. Het belangrijkst is dat het vaak gewoon goed werkt. Je kunt procesmatig kijken: Hoe werkt het precies en moet ik dat weten? En zelf... Heel veel mensen... Deels kunnen we dat niet eens. Er zijn maar een paar mensen zo slim om dat echt goed te doorzien. Maar je kunt het merken als het niet goed gaat, dus je moet veel inregelen, zorgen dat je dat ziet. En het vertrouwen komt met het goed gebruik. Dat is ook een proces, ook in de gewone wereld. Denk niet dat in de technologie alles in één keer goed gaat en in de mensenwereld niet. Het gaat in allebei heel vaak een beetje mis. Maar je moet ernaar streven... om daar echt stappen te maken. Maarten Steinbuch: Wat we ook belangrijk vinden, zeker in Nederland, of in Europa, moet ik zeggen... is dat alle AI-algoritmes, alle kunstmatige intelligentie die we ontwikkelen, uitlegbaar is... en verantwoordelijk is. We noemen dat 'responsible and explainable AI's'. Je moet kunnen uitleggen dat een bepaald algoritme met een uitkomst komt. Daar moet je iets van beredenering achter hebben... dat je het kan uitleggen, dat het een verantwoordelijke beslissing kan zijn. Ildikó Vajda: Wat ik begrijp van experts is: Hoe ondoorzichtiger het algoritme, hoe preciezer de uitkomst. En dat is een dilemma. Je wilt precisie, maar ja, toch misschien ten koste van die transparantie. Paul Elbers: Als je een andere collega vraagt en die geeft jou een advies... en die doet dat meestal op basis van jarenlange ervaring... en zijn kennis van de literatuur en van allerlei patiënten... ga je ook niet heel vaak precies zeggen: Waarom heb jij dat nou precies zo geadviseerd? Dus de vraag is dan eigenlijk... Ik wil niet zeggen dat het onbelangrijk is, maar misschien wordt het belang daarvan overschat... want als nou zou blijken dat de computer elke keer het goede advies geeft... en dat leidt tot bijvoorbeeld veel minder sterfte op de intensive care... of veel meer patiënten die na de intensive care- behandeling nog een heel goed leven hebben... maar je weet niet zeker hoe dat advies tot stand is gekomen... dat zal je als patiënt niet uitmaken. Dan wil je liever gewoon zo behandeld worden. Dus in die zin moet je dat wegen. Tegelijkertijd, als je het niet kan uitleggen, is er meer risico op vooroordelen in die algoritmes. Dus het is een kwestie van balans, denk ik. Pim Haseslager: Als je een besluit neemt samen met een intelligente machine... waar veel geld in is geïnvesteerd en het is AI, dus het is hartstikke goed enzovoorts... dan sta je toch een beetje klem... want als jij niet meegaat met de aanbeveling van het systeem en je hebt het fout... dus je bent ten onrechte afgeweken, dan heb je daarna wel iets uit te leggen. Terwijl als je meegaat met het systeem, dan hebben we het allebei fout gedaan. Dat is toch al gedeelde verantwoordelijkheid. En dat bedoel ik met verantwoord gebruik van AI. Dat is iets wat me zeer aan het hart ligt, eigenlijk. Ik ben bang dat we AI te snel inzetten... en te weinig nadenken over de psychologische effecten ervan op de professionele gebruiker. Dus niet alleen de effecten op bijvoorbeeld de patiënt of de verzorgde... maar ook op degene die dat systeem gebruikt en daardoor gesteund zou moeten worden. Wouter van der Bij: Wat zijn voor jou echt onderdelen van de zorg waar AI nooit een mens zal overnemen? Wat staat voor jou heel duidelijk daarin? Paul Elbers: Ik denk dat het dan gaat om menselijkheid, vertrouwen, troost, hoop. Dat zijn toch zaken die je als sociaal dier... of als gemeenschap wil regelen onder mensen. En dat zal, denk ik, blijven. Dat is onze menselijkheid. Frank van Harmelen: Allerlei dingen waar mensen goed in zijn, dus het begrip van de patiënt, de empathie... de kennis over de omstandigheden waarin de patiënt leeft... waar mensen heel goed in zijn, dat wordt meegenomen in de overweging van zo'n arts. Daar heeft zo'n machine geen benul van. Tegelijkertijd is die machine heel veel beter dan mensen, ook artsen... in het wegen van allerlei factoren, in het combineren van waarschijnlijkheden... in kennis over misschien wel tienduizenden medicijnen... en hoe die met elkaar interacteren en daaruit dan de beste kiezen. Dus de machine is goed in sommige dingen, de mens is goed in sommige dingen. De kunst zal zijn om die twee zo goed mogelijk te combineren. Dus niet om de een door de ander te vervangen, maar om de machine en de mens... allebei hun sterkste kanten te laten combineren. Wouter van der Bij: -Mooi. Maarten Steinbuch: Misschien moeten we aan de andere kant beginnen te denken: Van welke interacties tussen zorgprofessionals en cliënten... vinden wij het essentieel dat het van-mens-tot-menscontact blijft bestaan? Van welke contactmomenten of handelingen, welke taken... vinden we het essentieel om die te behouden van mens tot mens? En als we dat eenmaal goed gedefinieerd hebben voor elke toepassing in de zorg... dan zouden we kunnen redeneren: Dat betekent dat alle andere taken misschien te digitaliseren zijn... of dat daar een rol voor robotica is, of voor AI. Pim Haseslager: AI biedt bijvoorbeeld hele mooie mogelijkheden voor anonieme zorg. Ik heb eens een lezing gegeven, daar was een jonge vrouw in een rolstoel en die zei: 'Ik zou een robot hartstikke fijn vinden, want nu word ik gewassen door een verpleger... en ik wil eigenlijk niet dat hij me zo ziet.' 'Ik zou een robot, als hij goed beveiligd is enzovoorts... heel prettig anoniem vinden.' Zo zijn er wel meer... Intieme lichaamsverzorging enzovoorts. Dan kan een machine soms prettiger zijn, voor veel mensen... dan een mens. Er komt schaamte bij kijken. Dat hoef je bij een machine niet te hebben. Koen Hindriks: Juist in dat warme contact hebben we echt heel veel mens nodig, heel veel contact met mensen. Wouter van der Bij: Ja. Koen Hindriks: -Daar gaan robots niet de oplossing voor bieden. Ze kunnen wel een middel zijn om contact tussen mensen te versterken... en ook nog wel om andere functies uit te oefenen, bij mensen thuis bijvoorbeeld... dus contacten maken met het ziekenhuis of op andere manieren... te helpen bij het aanleveren van de data die doktoren nodig hebben. Maar we moeten ze niet gaan gebruiken om het warme contact van mensen... dat empathische te vervangen. Dat zou een slecht idee zijn. Egge van der Poel: We moeten voorkomen dat we AI als een doel zien, en het vooral als een middel zien. We zien nu allemaal de beweging naar de juiste zorg op de juiste plek... maar in de toekomst moeten we meer de mindset hebben... van de juiste informatie op het juiste moment voor de juiste persoon via het juiste kanaal. Dus dat gaat voorbij aan de muren van je eigen instelling en aan je eigen expertise. De patiënt is niet alleen de persoon tegenover je in de spreekkamer... maar een mens die beweegt door de hele maatschappij. En onze voelsprieten rondom zorg en welzijn van die persoon moeten aan staan. Die moeten we met elkaar verbinden. Wouter van der Bij: -Ja. En als AI daar een middel in is, heel mooi. Egge van der Poel: Ja, maar het gaat niet alleen om die big data, maar ook de small stories. Daar heb ik met Jan Kremer een stukje over geschreven. Het is juist het combineren van de big data en de krachtige rekenmachines... en de kleine verhalen en het persoonlijke narratief. Daar zullen we echt met elkaar een mooie weg in gaan vinden. Daar vertrouw ik op en over vijftien jaar hebben we die goeie balans gevonden. *Muziek speelt en fadet uit* Beeldtekst: Wat zou jij voor het bieden of ontvangen van goede zorg absoluut nog zelf willen blijven doen?