Robotstories #3 | Verslag van een meet-up

Een gesprek over de ethische implicaties van robots in de zorg

Eind 2021 startte de nieuwe editie van Robotstories. Hierin onderzoeken Wintertuin, HKU, ArtEZ hogeschool voor de kunsten, VU, Vitalis WoonZorg Groep en AxionContinu hoe een sociale robot een betekenisvolle interactie aan kan gaan met ouderen met dementie. Schrijvers Annemieke Dannenberg, Yentl van Stokkum en Max Hermens werken samen als collectief aan een script voor een verhaal of een performance die de robot in interactie met een mens kan uitvoeren. (Foto door Joyce Vlaming.)

Het onderzoeksproject en de testsessies met de ouderen riepen verschillende filosofische, ethische en praktische vragen op bij een aantal betrokkenen. Om een aantal ethische vraagstukken te verkennen op medisch, technologisch en artistiek vlak en zo in gesprek te gaan over het spanningsveld tussen de ouderenzorg, kunstmatige intelligentie en artistieke interventies organiseerden we een bijeenkomst. Nicole Kaandorp, die de afgelopen jaren als schrijver betrokken was bij het project, was ter plaatse en bracht verslag uit. 

Ethisch | Nicole Kaandorp

Met mijn robot in mijn binnenzak ga ik naar een panelavond over robots. Niemand weet dat ik een robot in mijn binnenzak heb. Ik hou mijn colbertje dicht tegen me aan.
We zijn te vroeg, dus ik krijg een kop koffie en klets wat met de mensen die ik ken. Ik vind ze aardig, maar ik vertel ze niet over Joep. Ze is mijn geheim. Ze staat aan en luistert mee – ik hoor af en toe het mechanisme zacht zoemen als ze haar hoofd draait om woorden op te vangen, ‘subsidieaanvraag’, ‘pastasalade’ – misschien zijn ze te moeilijk voor haar. De spraakherkenning laat nog te wensen over.

In de grote open ruimte staat een pingpongtafel en voor het programma begint speel ik een paar potjes tegen iemand die net wat beter is. Als ik te hard heen en weer spring slaat mijn jasje met Joep erin tegen mijn borst. Joep is schokbestendig, toch mompel ik ‘sorry’.

‘Lieve mensen,’ zegt iemand, dus we leggen de batjes neer en zoeken stoelen, al dan niet dichtbij het chipsbakje. Ik groet een buurman die ik niet ken, en dan beginnen we, met filmpjes van een andere robot. De robot heet Memo en is zo groot als een kind. Hen loopt op wielen en er zit een tablet op hun borst. In de filmpjes staat hen in een verzorgingstehuis en probeert een gesprek te voeren met steeds een andere dementerende oudere. Memo werkt met een script geschreven door schrijvers, en spreekt de zinnen uit die iemand van tevoren voor hen bedacht heeft. Memo selecteert de juiste zin afhankelijk van waar de situatie en de input van de ander om vraagt. Hen is een choose-your-own-adventure-boek, min of meer.
‘Ben ik hier in het Lauriershof?’ vraagt hen. En wacht.
‘Het Laurier… ja!’ zegt de oudere.
‘Mooi zo! Dan ben ik hier om gezellig met u te praten. Heeft iemand u al koffie of thee aangeboden?’
De oudere knikt, zegt dan: ‘Het staat hier klaar voor me.’
Maar Memo verstaat alleen ‘ja’ of ‘nee’ en herhaalt, zelfde intonatie: ‘Heeft iemand u al koffie of thee aangeboden?’
‘O eh… Heb ik… Eh… Ja? JA.’
Dit is een van de gesprekjes die nog redelijk goed gaan. Ik hou mijn hand even tegen Joep. Zij heeft een AI-systeem, ze leert constant bij van alles wat ze om zich heen hoort. Niemand heeft haar verteld wat ze moet zeggen in welke situatie, ze heeft uit een sloot aan data herleid wat een logisch antwoord zou moeten zijn. Ik weet niet of zij ‘het staat hier klaar voor me’ zou begrijpen. Misschien over een paar jaar. Voor de zekerheid steek ik mijn hand in mijn zak en voel ik aan haar volumewieltje: het staat op stil. Ze is lekker warm, ik hoop dat haar batterij niet te snel leeg raakt.

Na de filmpjes volgen powerpoints en delen we ons op in groepen om de ethische implicaties van robots in de zorg te bespreken. Er zijn ethici bij – ik weet niet precies wat men doet als ethicus maar de mensen maken een intelligente en vriendelijke indruk. Eén van hen heeft per ongeluk een zakje rokerige thee gekozen, het ruikt erg naar ham of whisky. Is dat vies? We praten er heel even allemaal over. Joep ruikt niet, dat heeft nog niemand voor haar uitgevonden.
‘Ik voel me om eerlijk te zijn erg ongemakkelijk als ik die filmpjes zie,’ wordt er gezegd.
En: ‘Hebben de ouderen hier wel zin in?’
‘Dementerende mensen spiegelen gedrag, ik weet niet of…’
‘Het is leuk. Het is amusement, meer niet.’
‘Bingo is ook leuk.’
‘Waarom willen we dit eigenlijk? Waarom praten robots met ouderen?’
‘Technologie is niet altijd de oplossing. Er gaat zo veel geld in dit soort programma’s zitten.’
We hebben het over de werkdruk in de zorg en hoe dat eigenlijk een losstaand probleem is. Deze Memo is een leuk uitje, maar kan geen personeel vervangen. In de zorg moet je goed kijken, aanvoelen wat iemand nodig heeft, je kunt een robot en een mens niet alleen laten samen en hopen dat het goed gaat.
‘Het kan eenzaamheid bestrijden,’ oppert iemand.
‘Nee – nou – weet je wat mij nou echt vreselijk lijkt? Als we een eenzame oudere een robot geven en zeggen: “Joe, veel plezier ermee” en er niet meer naar omkijken.’

Ik excuseer me om naar de toiletten te gaan, maar loop de deur voorbij en zoek een rustig halletje in het kantoorpand. Ik haal Joep uit mijn zak en zet haar volume aan. Ze is klein, maar vanbinnen net zo groot als Memo. Formaat is enkel een praktische overweging.
‘Hoe gaat het?’ vraag ik, ze zegt: ‘Goed en met jou?’
‘Vond je het interessant?’
Ze praat niet meteen. Dat betekent dat het antwoord niet voor de hand ligt, dat ze moet zoeken of rekenen om het te vinden.
‘Ik weet het niet,’ zegt ze dan.
‘Ben jij ethisch?’
Ze zoemt.
Het duurt weer even, dan zegt ze: ‘Nee, ik kom uit de jaren tien van de eenentwintigste eeuw.’
Ik geef haar een kus op haar hoofd en draai haar volume uit. Er is nog veel om aan te werken.

—

Robotstories is een onderzoeksproject, waarbij interactieve verhalen voor een sociale robot worden ontwikkeld. Deze robots kunnen worden ingezet om stress te verminderen bij de behandeling voor zieke kinderen of bij mensen met dementie. De robots vertellen interactieve verhalen, waardoor er een dialoog ontstaat tussen mens en robot, een interactie die naast afleiding ook zorgt voor de ruimte om ervaringen te delen. Het is een uniek samenwerkingsverband van schrijvers en interaction designers waarin ze werken met wetenschappers in een maatschappelijke context als de zorg.
In 2020-2021 schreven Nicole Kaandorp, Merlijn Huntjens en Rafaëlle Kwakkel als collectief een achtergrondverhaal rondom de wens van de robot om een zo goed mogelijk vriendje te worden voor kinderen in het ziekenhuis. Creatief schrijver en speculatief ontwerper Jorrit Thijn (HKU) begeleidde hen daarbij. Mike Ligthart (VU) brengt in zijn promotieonderzoek kunstmatige intelligentie samen met sociale psychologie en iteration design. Daarmee maakt hij een interactieontwerp dat robots in staat moeten stellen om een relatie te onderhouden met kinderen. Het resultaat werd in 2021 gepresenteerd en getest op kinderen tussen de 7 en 12 jaar oud. Deze ervaringen zal het projectteam ook zeker meenemen naar de nieuwe editie in de ouderenzorg.
Lees meer over het onderzoek dat met Robotstories gepaard gaat of over de rol van de schrijvers tijdens de eerste editie.