Als mensen robots gaan pesten, zullen er consequenties zijn

Dystopische verhalen over robots kunnen je de afgelopen jaren bijna niet zijn ontgaan. Vorige week vond er nog een tragisch ongeluk plaats waarbij een werknemer gedood werd door een industriële robot. Wetenschappers als Stephen Hawking en Elon Musk waarschuwen ons ook al enige tijd over de gevaren van robots in de toekomst.

Maar wat gebeurt er als wij robots mishandelen? Zou het kunnen zijn dat de robots mechanische slachtoffers zouden worden van menselijk vandalisme en pestgedrag? Wat zou dit betekenen voor ons, wanneer we robots voor verpleging, vuilnis en onderwijs in gaan zetten?

In 2010 schreef Pericle Salvini, een onderzoeker aan het Scuola Superiore Sant'Anna in Pisa, een onderzoek genaamd: "Hoe veilig zijn dienstverlenende robots in steden? Het pesten van robots."

In dit onderzoek introduceerde Salvini de term "robot bullyism", refererend aan pestgedrag waardoor de robot niet meer goed zijn taken uit zou kunnen voeren. Salvini vertelde mij in die tijd dat de robotgemeenschap hem niet serieus nam. Maar dankzij de komst van zelfrijdende auto's en drones wordt er eindelijk met een kritischere blik naar dit vraagstuk gekeken.

Salvini vertelde dat wanneer we statische objecten vernielen, we ongetwijfeld ook bewegende objecten zullen vernielen. Hij beargumenteerde dat "gepeste" of vernietigde robots een enorme bedreiging kunnen vormen voor de mens.

"Telefooncellen zijn vaak slachtoffer van vandalisme, maar een robot is iets dat beweegt en spullen kan brengen. Wanneer een bewegend object vernield wordt, is het veel gevaarlijker dan een statisch object, zoals een telefooncel," vertelde hij mij in een email. "Stel je eens voor dat mensen met een stok of een spuitbus robots proberen te saboteren. Als de robot niet zo geprogrammeerd is dat hij deze situatie onder controle kan houden, zou deze wel eens iets of iemand kunnen verwonden."

"Je kan mensen niet verplichten om helmen te dragen of gebruikershandleidingen te lezen," voegde Salvini toe. "Weten we zeker dat wanneer we autonome robots loslaten in de maatschappij, we geen nieuwe risico's of ongelukken zullen creëren? Zijn we ons bewust van de gevaren en de risico's die het met zich meebrengt? Zijn deze risico's onder controle te houden voor de maatschappij?"

We weten dat het pesten van robots vaak (meestal door kinderen) voorkomt. Toen Salvini en zijn team een publieke demonstratie hielden met robots merkte zij op dat met name jonge mensen vaak argwanend naar de robots keken en zij de robots op een agressieve manier behandelden.

Vorige maand publiceerde een onderzoeksteam uit Japan (als een vervolg op het onderzoek van Salvini) een korte "conference paper" genaamd: "Waarom pesten kinderen robots?"

De onderzoekers onderzochten de interactie van kinderen (rond de 10 jaar) met een mensachtige witte robot die in een winkelcentrum was geplaatst. Zij noteerden dat er veel fysiek geweld werd gebruikt tegen de robot, zoals slaan, schoppen, buigen of breken van bepaalde ledematen van de robot.

Ook wanneer een ingebouwde stem van de robot zij dat de kinderen moesten stoppen, gingen zij gewoon door.

Om onverwachte reacties van robots op dit soort vandalisme te voorkomen, stelde Salvini voor dat ontwikkelaars en ontwerpers alvast moeten nadenken over de risico's wanneer zij de robots programmeren en ontwikkelen. In andere woorden, zij zouden robots moeten bouwen die met dit soort vandalisme om kunnen gaan.

Toen ik de Japanse onderzoekers sprak vertelden zij mij dat wanneer robots ingezet worden in de maatschappij, kinderen les zouden moeten krijgen in de manier waarop zij met robots om moeten gaan. Zij moeten begrijpen welke plaats robots hebben in de maatschappij en hoe je robots zou moeten behandelen.

Maar de robots simpelweg meer op mensen te laten lijken is volgens de onderzoeker niet de oplossing. "Het mensachtige aspect van robots zal dit probleem niet veranderen," aldus Tatsuya Nomura, de hoofdauteur van het onderzoek. "Tijdens ons onderzoek zagen we dat sommige kinderen de robots als mensen herkenden, maar dat ze nog steeds agressief gedrag vertoonden."

Het zal nog wel even duren voordat robots ons de baas zullen zijn. Maar omdat ingenieurs, ethici en ontwerpers steeds meer zullen sleutelen aan de mechanismen van de robot, lijkt het mij niet verstandig om een robot in elkaar te meppen.

Bang voor killer-robots? Misschien wel terecht. Bekijk nu de documentaire van Motherboard: Inhuman Kind.