Robotstories #4 | Gender bij robots
Essay naar aanleiding van een stage van drie maanden bij het project Robotstories
Eind 2021 startte de nieuwe editie van Robotstories. Hierin onderzoeken Wintertuin, HKU, ArtEZ hogeschool voor de kunsten, VU, Vitalis WoonZorg Groep en AxionContinu hoe een sociale robot een betekenisvolle interactie aan kan gaan met ouderen met dementie. Schrijvers Annemieke Dannenberg, Yentl van Stokkum en Max Hermens werken samen als collectief aan een script voor een verhaal of een performance die de robot in interactie met een mens kan uitvoeren.
Radboud Universiteitsstudent Linguistics & Communication Sciences Sam Theunissen sloot zich gedurende drie maanden aan bij het project voor een onderzoeksstage, met onder meer onderstaand essay over gender bij robots als eindresultaat. Lees ook het andere essay dat we naar aanleiding van Robotstories publiceerden en twee columns met betrekking tot het project.
Gender bij robots | Sam Theunissen
Input(gender)
Eind februari, anderhalve maand na aanvang van mijn stage binnen het project Robotstories, ging ik met een vriendin uiteten. Terwijl zij mij vroeg wat mijn stageonderzoek inhield en ik haar vertelde dat ik schreef over het toewijzen van gender aan robots, werden de drankjes naar onze tafel gebracht. De ober was op wieltjes naar onze tafel gekomen en op de plek waar een gezicht zou moeten zitten, zat een schermpje. De robotober vroeg ons de drankjes van het dienblad te halen, de stem die uit de speakertjes kwam klonk als die van een vrouw. We wachtten beleefd tot de robot buiten gehoorafstand was, brandden toen los. Waarom had deze robot in de bediening een vrouwelijke stem? Was daar bewust voor gekozen en is dat niet wat stereotiep? Er rolde nog meer bediening over de restaurantvloer – zaten daar dan toch ook robots met mannelijke stemmen tussen? En waarom verwezen we tijdens dit gesprek ineens naar de robot met ‘zij’ en ‘haar’?
Een betere motivatie voor mijn stageonderzoek had ik mijn vriendin zelf niet kunnen geven; wat hier net aan ons tafeltje was gebeurd, had de relevantie van het onderwerp perfect aangetoond. Namelijk, wanneer we robots meer verantwoordelijkheid geven en gaan inzetten voor sociale functies, zoals hospitality, projecten als Robotstories (waar mensen interacteren met sociale robots aan de hand van interactieve verhalen), maar ook de zorg, moeten we zorgvuldig zijn met hoe we deze ontwerpen en programmeren. Stereotypes kunnen gemakkelijk de interactie tussen mens en robot in sluipen en het contact tussen de twee daarmee beïnvloeden.
Stereotypes
Dat mensen (ontwerpers en gebruikers) hun ideeën over genders en genderrollen onbewust ook op robots projecteren, blijkt uit een aantal studies uit het veld van human-robot interaction. Er is bijvoorbeeld ontdekt dat robots met een lage emotionele intelligentie vaker een mannelijke naam kregen van de deelnemers, terwijl robots met een hoge emotionele intelligentie juist vaker een vrouwelijke naam toegewezen kregen [1]. In eenzelfde lijn worden vrouwelijke robots vaker dan mannelijke robots geassocieerd met eigenschappen als warmte, sociabiliteit, en empathie [2-4]. Mannelijke robots, op hun beurt, worden soms gezien als beter passend bij assertieve en dominante eigenschappen [3] (maar niet altijd [2,4]).
De genderpresentatie van een robot beïnvloedt ook onze aannames over de taken waar die wel of niet geschikt voor is. Deze aannames volgen vaak de maatschappelijke genderstereotypes. Zo worden mannelijke robots het meest geschikt geacht voor taken als het repareren van technische apparaten of het kiezen van een juiste taxiroute [3,4], en krijgen mannelijke beveiligingsrobots betere affectieve beoordelingen dan vrouwelijke robots met dezelfde functie [5]. Vrouwelijke robots zijn volgens de bestudeerde groepen juist beter in zorgtaken [3-5].
Ook bij de interactie tussen mens en ‘lichaamloze’ robots zoals voice assistants en computers zijn vooroordelen terug te vinden. Computers met een vrouwelijke stem werden in een studie als informatiever gezien over het thema ‘liefde en relaties’, en computers met een mannelijke stem vond men informatiever over het thema ‘computers’, terwijl de informatie die de vrouwelijke en mannelijke stemmen gaven voor beide thema’s exact hetzelfde was [6].
Robots genderen: hoe?
Om dit soort stereotiepe beelden in robots te vermijden, worden er pogingen gedaan om genderneutrale robots te ontwerpen, zoals de Pepper, die ook binnen de meest recente editie van Robotstories is gebruikt. Toch blijkt het lastig voor mensen om de Pepper daadwerkelijk als genderneutraal te interpreteren [7]. Dat merkten we ook bij Robotstories. We betrapten onszelf regelmatig op een ‘hij’ wanneer we over de robot spraken, ondanks dat die door Softbank Robotics is ontworpen met genderloze intenties [8], en ondanks dat ook de verhalen die de schrijvers voor de Pepper schreven nul reden gaven om de robot te genderen. Blijkbaar is het binaire denken zo hardnekkig, dat zelfs een levenloos object als een robot er niet aan ontsnapt.
Hier ligt een aantal vragen aan ten grondslag. Gender is namelijk zo complex: hoe is dat te vertalen naar robots? Wat maakt Pepper in diens ontwerp nu eigenlijk genderneutraal? Wat maakt dat er in eerdergenoemde literatuur over genderstereotypering een onderscheid tussen vrouwelijke en mannelijke robots bestaat? En hoe kan een levenloos object überhaupt een gender hebben?
Laten we beginnen met een vertaling van het concept van gender naar de context van robots. Gender gaat over wat er in een maatschappij als ‘vrouwelijk’ of ‘mannelijk’ wordt bestempeld, en over verwachtingen die worden gesteld op basis van wie je bent of hoe je door anderen wordt waargenomen. Voor mensen geldt: een gender wordt je bij de geboorte toegewezen, later ontdek je of dat gender bij je past, hoe je dit tot uitdrukking brengt, hoe je je verhoudt tot de maatschappelijke normen. Voor robots ligt dat anders. Het hebben van kennis of gevoel over je genderidentiteit vereist een bepaald psychologisch bewustzijn, een sense of self – iets wat bij robots ontbreekt. Daarnaast zijn robots niet in staat om genderrollen te interpreteren, een ander te corrigeren wanneer die het gender van de robot anders interpreteert dan door de ontwerpers was bedoeld, of om hun identiteit in woorden, gedrag, of uiterlijk uit te drukken, tenzij dat van tevoren door een mens is ontworpen en geprogrammeerd.
Ondanks dat een robot geen eigen genderidentiteit kan hebben, zijn er toch talloze voorbeelden van robots die door ontwerpers en gebruikers worden gegenderd. Vanuit ontwerpers betekent dit dat zij de robot op zo’n manier vormgeven of programmeren dat de robot volgens hen het beoogde gender representeert. Vanuit gebruikers betekent het dat zij het uiterlijk en de ‘persoonlijkheid’ of dienst van de robot interpreteren als representatief voor een bepaald gender – zoals wij onbewust deden bij Pepper.
Allereerst kan genderen gebeuren aan de hand van de fysieke kenmerken van een robot (voor een mens is diens uiterlijk lang niet altijd indicatief voor diens gender, maar bij robots kan daar vanwege een gebrek aan zowel psychologisch bewustzijn als natuurlijk geslacht geen onderscheid tussen worden gemaakt). Een voor de hand liggend voorbeeld zijn seksrobots, maar er zijn ook subtielere fysieke kenmerken die kunnen leiden tot genderen, zoals haarlengte en de vorm van lippen. In een studie werden robots met korte haren en rechte bovenlip als mannelijk gezien, terwijl die met iets langere en golvende haren, en een gedefinieerde cupidoboog als vrouwelijk werden geïnterpreteerd [3]. Ook de verhoudingen van een robot tussen diens borst en heup, en tussen diens middel en heup blijken het genderen te beïnvloeden [2,9].
Er bestaan ook niet-fysieke kenmerken die kunnen beïnvloeden hoe een robot wordt gegenderd. Eerder gaf ik een aantal voorbeelden van persoonlijke eigenschappen die met mannelijke en vrouwelijke robots worden geassocieerd (respectievelijk dominant en empathisch) [4], daarnaast blijkt ook de stem van de robot van invloed te zijn [10,11] – die eigenschap was bij de robotober inderdaad genoeg voor mijn vriendin en mij om te praten over ‘zij’ en ‘haar’.
Dergelijke voornaamwoorden hebben op hun beurt ook weer effect op hoe het gender van een robot wordt geïnterpreteerd: in een studie met de NAO robot, die de genderneutrale naam Taylor was gegeven, werd die bijvoorbeeld als meer mannelijk beoordeeld wanneer de onderzoekers er tegen de deelnemers naar hadden verwezen met het Engelse voornaamwoord he, en de beoordelingen voor vrouwelijkheid waren hoger wanneer she was gebruikt [12]. De keuze voor een genderneutrale naam maakten de onderzoekers niet voor niks; de naam van een robot wordt in sommige studies gerelateerd aan hoe de robot wordt gegenderd [1,5,13] (echter werd de stem van de robots in deze studies ook gemanipuleerd, waardoor de exacte invloed van hun naam niet duidelijk is).
Robotgender en interactie
Al met al zijn er dus talloze manieren waarop robots worden gegenderd, en hoewel hier op maatschappelijk niveau het gevaar van stereotypering in schuilt, ligt er op lager, interactieniveau mogelijk ook een kracht. Voor ik dat toelicht, zet ik een aantal uitkomsten op een rij van studies waarin de effecten van gender (van zowel robot als mens) op de mens-robotinteractie zijn onderzocht.
Een studie toonde aan dat vrouwelijke robots, door zowel vrouwen als mannen, meer worden vertrouwd dan mannelijke robots op basis van hun competentie en voorspelbaarheid [2]. Tegenovergesteld ontdekten andere onderzoekers juist dat vrouwen en mannen verschillend reageren op gegenderde robots. Zo accepteerden vrouwen in een studie bijvoorbeeld vrouwelijke robots meer dan mannelijke robots, en voelden deze vrouwen zich ook meer psychologisch verwant met vrouwelijke robots, terwijl mannen zich meer psychologisch verwant voelden met de mannelijke robots [3]. Terwijl hier dus een ‘same-gender’ voorkeur werd geregistreerd, vonden andere onderzoekers juist tegenovergestelde effecten, waarbij vrouwen voorkeur hadden voor mannelijke robots en mannen voor vrouwelijke [10,13].
Hoewel de uitkomsten van dit soort studies dus uiteenlopen, is de algemene boodschap vergelijkbaar: het gender van een robot en dat van een mens hebben, of ze nu hetzelfde of verschillend zijn, effect op hoe de robot door de mens wordt ervaren. In de context van sociale robots, waarbij het belangrijk is dat de mens de robot een betrouwbare en fijne gesprekspartner vindt, betekent dit dat het genderen van robots op een gerichte manier zou kunnen worden ingezet.
In dat geval zou er kunnen worden gestreefd naar een genderneutrale robot, met als uitgangspunt dat een persoon het gender van deze robot naar eigen voorkeur invult, of zou een robot in individugerichte contexten (zoals zorgrobot Phi [14]) kunnen worden ingesteld op een bepaalde genderprogrammering die een persoon aangeeft prettig te vinden.
Dit effect van robotgender op interactieniveau maakt de robotgenderkwestie wat complexer. Als we sociale robots met een specifiek doel gaan genderen, moet er namelijk een afweging worden gemaakt. Wat telt er zwaarder: een individueel belang om de mens-robotinteractie te bevorderen, of een maatschappelijk belang om genderrollen te emanciperen?
Overwegingen voor de toekomst
Samenvattend: de overwegingen bij het ontwerpen van robots met betrekking tot hun gender zijn eindeloos, en het is belangrijk om niet alleen de stemmen van ontwerpers en programmeurs mee te laten wegen. Schrijvers, experts in genderstudies, of gebruikers van de robot kunnen een waardevolle bijdrage aan leveren aan dit onderwerp, dat nooit zo relevant was als nu.
Het is relevant vanwege onze opvattingen over gender en genderrollen, die gelukkig steeds meer fluïde worden en waarvan de grenzen vervagen. Het is relevant omdat we deze ontwikkelingen kunnen doortrekken naar een nieuw onderdeel van de samenleving dat waarschijnlijk zal blijven groeien, en waar de keuzes die wij nu maken, als blauwprint kunnen dienen voor de toekomst. Een toekomst met meer robots op de restaurantvloer, robots in de zorg, robots misschien wel overal, waarvan het genderen niet zomaar, maar hopelijk weloverwogen zal gebeuren.
Referenties
[1] M. Chita-Tegmark, M. Lohani, en M. Scheutz, ‘Gender Effects in Perceptions of Robots and Humans with Varying Emotional Intelligence’, in 2019 14th ACM/IEEE International Conference on Human-Robot Interaction (HRI), mrt. 2019, pp. 230–238. doi: 10.1109/HRI.2019.8673222.
[2] J. Bernotat, F. Eyssel, en J. Sachse, Shape It – The Influence of Robot Body Shape on Gender Perception in Robots. 2017, p. 84. doi: 10.1007/978-3-319-70022-9_8.
[3] F. Eyssel en F. Hegel, ‘(S)he’s Got the Look: Gender Stereotyping of Robots1’, Journal of Applied Social Psychology, vol. 42, nr. 9, pp. 2213–2230, 2012, doi: 10.1111/j.1559-1816.2012.00937.x.
[4] M. Kraus, J. Kraus, M. Baumann, en W. Minker, ‘Effects of Gender Stereotypes on Trust and Likability in Spoken Human-Robot Interaction’, gepresenteerd bij LREC 2018, Miyazaki, Japan, mei 2018. Geraadpleegd: 3 februari 2022. [Online]. Beschikbaar op: https://aclanthology.org/L18-1018
[5] B. Tay, Y. Jung, en T. Park, ‘When stereotypes meet robots: The double-edge sword of robot gender and personality in human–robot interaction’, Computers in Human Behavior, vol. 38, pp. 75–84, sep. 2014, doi: 10.1016/j.chb.2014.05.014.
[6] C. Nass en Y. Moon, ‘Machines and Mindlessness: Social Responses to Computers’, J Social Isssues, vol. 56, nr. 1, pp. 81–103, jan. 2000, doi: 10.1111/0022-4537.00153.
[7] D. Bryant, J. Borenstein, en A. Howard, ‘Why Should We Gender?: The Effect of Robot Gendering and Occupational Stereotypes on Human Trust and Perceived Competency’, in Proceedings of the 2020 ACM/IEEE International Conference on Human-Robot Interaction, Cambridge United Kingdom, mrt. 2020, pp. 13–21. doi: 10.1145/3319502.3374778.
[8] ‘Pepper is a humanoid-robot | SoftBank Robotics Developer Center’. https://developer.softbankrobotics.com/pepper-qisdk/design/pepper-humanoid-robot (geraadpleegd 2 februari 2022).
[9] G. Trovato, C. Lucho, en R. Paredes, ‘She’s Electric—The Influence of Body Proportions on Perceived Gender of Robots across Cultures’, Robotics, vol. 7, nr. 3, Art. nr. 3, sep. 2018, doi: 10.3390/robotics7030050.
[10] M. Siegel, C. Breazeal, en M. I. Norton, ‘Persuasive Robotics: The influence of robot gender on human behavior’, in 2009 IEEE/RSJ International Conference on Intelligent Robots and Systems, okt. 2009, pp. 2563–2568. doi: 10.1109/IROS.2009.5354116.
[11] A. Sandygulova en G. M. P. O’Hare, ‘Children’s Perception of Synthesized Voice: Robot’s Gender, Age and Accent’, in Social Robotics, vol. 9388, A. Tapus, E. André, J.-C. Martin, F. Ferland, en M. Ammi, Red. Cham: Springer International Publishing, 2015, pp. 594–602. doi: 10.1007/978-3-319-25554-5_59.
[12] D. J. Rea, Y. Wang, en J. E. Young, ‘Check Your Stereotypes at the Door: An Analysis of Gender Typecasts in Social Human-Robot Interaction’, in Social Robotics, Cham, 2015, pp. 554–563. doi: 10.1007/978-3-319-25554-5_55.
[13] S. Song, J. Baba, J. Nakanishi, Y. Yoshikawa, en H. Ishiguro, ‘Mind The Voice!: Effect of Robot Voice Pitch, Robot Voice Gender, and User Gender on User Perception of Teleoperated Robots’, in Extended Abstracts of the 2020 CHI Conference on Human Factors in Computing Systems, New York, NY, USA, apr. 2020, pp. 1–8. doi: 10.1145/3334480.3382988.
[14] ‘Ontmoet robot Phi – Philadelphia’. https://www.philadelphia.nl/innovaties/robotica/robot-phi (geraadpleegd 11 april 2022).