Is het OK om een robot te pesten?

Robots gaan namelijk vrijwel zeker onderdeel uitmaken van de samenleving.
28.2.18

Er zijn al een aantal onderzoeken gedaan waarbij zelfstandige robots werden losgelaten in een winkelcentrum of op een stadsplein. Als niemand in de buurt staat om een oogje in het zeil te houden, blijkt een groot deel van de voorbijgangers zo’n robot te mishandelen. Zo is een 41-jarige gast in Sillicon Valley gearresteerd vanwege het omverwerpen en bekrassen van de beveiligingsrobot Knightscope K5. In een Japans winkelcentrum zijn het zelfs kinderen die geweld gebruiken tegen een bot. Mensen schoppen, slaan, beledigen en schreeuwen naar robots. Of ze staan ze opzettelijk in de weg.

Maar wat triggert mensen toch om dit soort machines te mishandelen? Naar mijn weten worden auto’s, frisdrankautomaten en andere niet-menselijke objecten namelijk wel met rust gelaten.

Sociaal psycholoog Merel Keijsers onderzoekt aan de Universiteit van Canterbury wat mensen aanzet tot dit gedrag. In maart zal ze op een van de grootste conferentiesover mens-robot interactie spreken in Chicago en ik ging alvast met haar in gesprek.

Motherboard: Je doet momenteel onderzoek naar de invloed van het gevoel van macht over niet-menselijke objecten, zoals robots. Kun je hier iets meer over vertellen?
Keijsers: Machtsgevoel leidt soms tot irritant gedrag, zoals pesten en mishandelen. Het is nog onduidelijk hoe dit precies werkt tussen robots en mensen. Eigenlijk had ik verwacht dat dit precies hetzelfde zou zijn als tussen mensen. Uit een experiment dat ik heb gedaan, bleek dat mensen meer gemene antwoorden geven als ze denken dat de robot niet kan denken en voelen. Maar uit een ander experiment bleek het omgekeerde: het machtsgevoel zorgde er juist voor dat de mensen minder lullig deden tegen de robot. Nu kijk ik hoe dat machtsgevoel precies invloed heeft op gedrag naar bots.

Oke, maar je mag toch zelf bepalen wat je met je eigendom doet?
Dat klopt. Als jij iets koopt, dan is het inderdaad jouw eigendom en kun je in principe doen wat je wilt.

Waarom vind jij het belangrijk om dit soort onderzoek te doen?
Vanuit een wetenschappelijk standpunt is het natuurlijk super interessant om erachter te komen wat er in het hoofd van mensen gebeurt op het moment dat ze proberen om een berg metaal, schroefjes en draadjes te intimideren. Bij kinderen kun je nog zeggen “die weten niet beter, die denkt dat de robot echt leeft,” maar ook volwassenen die beter zouden moeten weten gedragen zich naar robots alsof ze kunnen denken en voelen.

Maar praktisch gezien: er zijn voorspellingen dat over 20-30 jaar er meer robots dan mensen op de werkvloer staan. Nu is het altijd maar aankijken of het echt zo’n vaart loopt, maar ze gaan vrijwel zeker onderdeel uitmaken van de samenleving, en voor een groot deel van de taken die ze op zich nemen zullen ze dagelijks met mensen in aanraking komen. Als we voor die tijd erachter komen wat mensen aanzet tot geweld tegen een robot, kan dat heel veel reparatie besparen.

Er is volgens mij meer bezwaar tegen het mishandelen van robots dan het kapot rammen van je eigen auto. Waarom is dat?
Een robot is toch wat anders dan een ander niet-menselijk object, zoals een auto. Bij het mishandelen van robots worden dezelfde hersendelen geactiveerd als bij het tot gort slaan van een mens. Het komt erop neer dat het brein een seintje geeft van “hey, opletten” wanneer we een robot of mens in elkaar gemept zien worden. Ook houden mensen er rekening mee dat ze een robot pijn kunnen doen.

Hoezo houden mensen rekening met het robots?
Als iemand een gesprek aangaat met een robot, probeert het brein uit te vogelen waar de robot aan denkt en wat het wil. Je verplaatst je eigenlijk in een ander. Dat gebeurt ook als je met een mens praat.

Hoe uit zich dat dan?
Het hersendeel dat gerelateerd is aan inlevingsvermogen licht op een scan minder scherp op bij het mishandelen van robots dan bij het mishandelen van een mens. Dit zag je bijvoorbeeld in een studie waar mensen werden gedwongen om een robot te mishandelen. De mensen probeerden de robot bijvoorbeeld te helpen, door de batterij stiekem uit de bot te halen voordat ze ‘m kapot moesten slaan met een hamer. Dat liet zien dat het grootste deel zich duidelijk niet op hun gemak voelde. Maar ze mishandelden ‘m dus wel.

Vind jij dat het mishandelen van een robot gerechtvaardigd kan worden omdat hij toch niets kan voelen?
Voor die robot maakt het geen bal uit. Maar de vraag is of als het oké is om iets te mishandelen dat door het brein als iets bijna-menselijks wordt gezien. Wordt de drempel dan ook niet lager om bijvoorbeeld mensen te mishandelen? Je kunt je afvragen of je jezelf er niet juist mee hebt.

Wanneer zou het volgens jou wel oké zijn om een robot te mishandelen?
Dat is lastig. Bij een zwakke AI [die geen bewustzijn heeft, red.], lijkt het mij logisch dat de veiligheid van een mens altijd voorop staat. Aan het einde van de dag is de robot gewoon een machine. Als iemand een paar duizend euro wil uitgeven aan een robot om deze vervolgens te mishandelen, dan vind ik diegene redelijk primitief. Maar als hij of zij er niemand kwaad mee doet, is er in principe niks aan de hand.

Wat doet robotmishandeling psychologisch met mensen?
Het is goed om je af te vragen wat zoiets psychologisch met iemand doet, zoals bij agressieve videospelletjes. Maar het is lastig om dit op lange termijn te onderzoeken. Mensen zijn vaak heel erg voor of heel erg tegen dit soort onderzoeken, waardoor deze discussies worden al jaren gevoerd.

Waar zijn mensen dan precies op tegen bij dit soort onderzoeken?
Oké, ander voorbeeld: als pedofilie deels biologisch is vastgelegd, dan is het moeilijk om dit te behandelen. Als het mogelijk is om kinderlijke seksrobots te maken, waarmee de seksuele drang van patiënten kan worden bevredigd, gaat dit dan moreel te ver? Voorstanders van dit onderzoek zeggen dat een patiënt hierdoor zijn verlangen kan bevredigen zonder iemand kwaad te doen. Anderen vragen zich af of zo’n behandeling [het gebruik maken van kinderlijke seksrobots, red.] niet het idee geeft dat zulk gedrag meer wordt geaccepteerd - wat kan leiden tot het vergrijpen aan kinderen. Het is niet makkelijk om dit te onderzoeken.

En er is een angst dat agressief gedrag naar mensen, door het accepteren van robotmishandeling, ook wordt geaccepteerd?
Als er een verband tussen agressie en robotmishandeling is, moet eerst onderzocht worden of dat echt veroorzaakt wordt door het kort en klein slaan van robots of dat het überhaupt een agressief persoon is.

Als ik filmpjes zie over robots die worden gepest, moet ik al snel lachen. Als een robot onderuit wordt geduwd, ziet het uit als een soort Bambi op ijs. Best grappig.
Mensen willen zich graag superieur voelen en zien zichzelf als eindpunt van de evolutie. Ook al weten we dat dit niet het geval is, en dat de technologie ons voorbij streeft, vinden we het prettig om ons voor te houden dat we dit wel zijn. Bij elke ontwikkeling die laat zien dat kunstmatige intelligentie ons voorbij streeft, merk je dat mensen minder enthousiast worden. Dan wordt het misschien gezien als gevaar.

Hoe merk je dat mensen minder enthousiast over dit soort ontwikkelingen worden?
Er was bijvoorbeeld een experiment, waarbij een deel van de mensen te horen kreeg dat de robots op het punt staan ons voorbij te streven en een deel niet. De groep die te horen kreeg dat mensen binnenkort worden ingehaald, voelde zich praktisch bedreigd: ‘straks ben ik mijn job kwijt’ en ‘straks ben ik als mens niet meer speciaal’. Dit enthousiasme werd vervolgens gemeten door te vragen hoe ze tegenover robots staan; of hoeveel tijd en geld ze vinden dat er naar robotica-onderzoek moet gaan.

Denk je dat dit een realistisch toekomstscenario is: robots die elkaar bewust pesten?
Dan zouden we eerst een strong AI moeten kunnen programmeren. Ik weet veel en veel te weinig over dat onderwerp om iets te durven zeggen over hoe realistisch dat is. Maar bovenop die strong AI ga je er dan vanuit dat robots met bewustzijn zich net zo gaan gedragen als mensen, en ik vraag me af of dat het geval is.

En robots die lachen om filmpjes waar mensen worden gepest?
Haha ik denk dat we als mensheid blij mogen zijn als dat het ergste is waar we het mee te stellen krijgen als de robots bewust worden. Maar ik denk dat we tegen die tijd eerst onze eigen existentiële crisis hebben om op te lossen.

Dit artikel verscheen eerder op MOTHERBOARD NL