FYI.

This story is over 5 years old.

Zelfrijdende auto's moeten leren wie ze dood willen rijden

Voordat zelfrijdende auto's de weg op kunnen, moeten ze leren om moeilijke morele afwegingen te maken.
14 februari 2014, 12:22pm

Ik wil graag dat je je iets verschrikkelijks voorstelt. Stel je voor dat je lekker in een auto op weg bent naar iets waar je ontzettend veel zin in hebt. Al heel lang! Eindelijk voor het eerst naar Six Flags, waar je een date hebt met de liefde van je leven, het prachtigste schepsel dat ooit de aarde heeft bewandeld. Naast je rijdt een schoolbus vol schoolkinderen waar je net even je middelvinger naar opstak omdat het grappig is om je middelvinger op te steken naar kinderen. Maar dan gebeurt er ineens iets op de snelweg. Er loopt vlak voor je een kind de weg op. Die was schijnbaar aan het chillaxen op de middenberm, niemand weet waarom, en besloot dat dit de goede tijd was om de snelweg over te steken. Oh, en aan de rechterkant van de schoolbus is een ravijn, natuurlijk.

Je hebt sowieso geen tijd meer om te remmen, en je hebt minder dan een halve seconde om te beslissen. Rijd je rechtdoor over het kind heen, en traumatiseer je de kinderen in de bus (en jezelf) voor altijd? Of wijk je uit naar rechts en beuk je de schoolbus het ravijn in, maar red je het tot zoeven in de middenberm ontspannende kind? Ik zei toch dat je je iets verschrikkelijks voor moest stellen?

Als je een klein beetje een normaal mens bent, dan is je onbewuste reactie niet nadenken over de bus vol kinderen, maar meteen blindelings uitwijken voor het overstekende kind. Maar wat nou als je een computer bent, zonder reflexen, maar een en al ongevoelige rationaliteit?

Alles wat een computer ziet is hoe snel je op dat moment gaat, wat er om je heen op de weg gebeurt en hoe het deze ongelukkige situatie het beste kan oplossen. En even ervan uitgaande dat we ons tijdens dit scenario in een toekomst bevinden waar de autocomputer alles weet wat er om zich heen afspeelt, dan zou het logischer zijn om het ene kind aan te rijden om al die andere kinderen dood en ellende te besparen. Toch?

Ik gebruik dit voorbeeld niet zomaar. De zelfrijdende auto lijkt er bijna aan te komen, klaar om de weg op te gaan en ons allemaal te bevrijden van bestuurder zijn. Er zijn echter nog een hoop dingen die opgelost moeten worden voordat dit echt kan gebeuren. En dan heb ik het niet over de netelige juridische en verzekeringsaspecten, maar over een auto de mogelijkheid geven om morele beslissingen te maken.

Als mens ben je in de bovenstaande situatie beperkt door je reactievermogen en schrikreactie, een computer in principe nauwelijks. Dat plaatst de beslissing die die dan moet maken in een domein dat al lang wordt onderzocht door ethici. Zo heb je het bekende trolleyprobleem, een dilemma waarin je gepresenteerd wordt een zelfde soort keuze - als je niks doet, dan worden er vijf mensen doodgereden door de trolley, maar haal je de hendel over, dan sterft er één iemand.

In principe is het antwoord logisch: je haalt de hendel over en bespaart vijf mensen een onplezierig einde. Maar wat nou als het niet een hendel is die je moet overhalen, maar een heel dik iemand voor de tram duwen? Uit experimenten blijkt dat vrijwel niemand de dikzak voor de tram duwt. In ieder geval veel minder vaak dan als het slechts een hendel is die overgehaald moet worden. Het is namelijk 'persoonlijker' om iemand met je eigen handen te duwen. Je zou dus kunnen verwachten dat een computer dit beter zou oplossen. Doei, dikzak.

Omdat ik zelf betrekkelijk weinig weet van emotionele intelligentie programmeren belde ik met Matthijs Pontier, die zowel Kunstmatige Intelligentie als Cognitieve Psychologie studeerde en zich gespecialiseerd heeft in computers de mogelijkheid geven om morele en emotionele beslissingen te maken.

"Computers zijn al redelijk goed in het afwegen van verschillende morele aspecten, maar daarvoor moet de computer wel door hebben wat de situatie nou eigenlijk is - welke morele kwesties spelen en hoe zijn beslissingen daar invloed op zullen hebben." En precies dat laatste is nog wat ontbreekt. Volgens Pontier is het voorlopig nog niet mogelijk om een omgeving zó te interpreteren dat de computer alle factoren mee kan wegen. Een behoorlijke drempel dus, voor zelfrijdende auto's de weg op kunnen.

"Ik zie het op zich al voor me: autobedrijven die hun auto's adverteren als extra emotioneel, of extra diervriendelijk"

Daarnaast speelt natuurlijk het feit dat degene die de computer programmeert, waardes meegeeft aan bepaalde morele aspecten. Zo zou je bijvoorbeeld je eigen kind waarschijnlijk nooit aanrijden, ook al betekent dat dat er een bus vol peuters een afgrond in verdwijnt. Volgens Pontier is die affectie programmeren zeker mogelijk, maar dan moet de computer natuurlijk wel weten hoe je kind eruit ziet (en hoeveel je van 'm houdt). En dan nog is de beslissing afhankelijk van de virtuele morele waardes die de autofabrikant zijn auto meegeeft.

Ik zie het op zich al voor me: autobedrijven die hun auto's adverteren als extra emotioneel, of extra diervriendelijk. Of misschien wordt het zo dat je voordat je de weg opgaat een persoonlijkheidstest moet invullen waarin je bijvoorbeeld aangeeft of het belangrijker voor je is om je auto niet te beschadigen of een overstekende kat niet aan te rijden. Of zal de verzekering daar uiteindelijk over beslissen? Zij moeten die schade tenslotte betalen.

Het is misschien gek om nu al over na te denken, maar waarschijnlijk wel verstandig. We hebben er ook nog wel even de tijd voor. In tegenstelling tot de Silicon Valley-mentaliteit van "Technologie gaat alles beter maken! Laten we zo snel mogelijk alles veranderen! Move fast and break things!" gaan er zich hier eerst talloze EU-commissies over de invoering buigen - waardoor er nog wel wat decennia's overheen gaan voordat je stomdronken achter het stuur kan slapen.

En dat is als de persoonlijke - al dan niet zelfrijdende - auto dan überhaupt nog een ding is. In de _Tegenlicht_-uitzending van aanstaande zondag wordt de toekomst van mobiliteit onderzocht. Daaruit blijkt dat individuen zich steeds meer afkeren van het persoonlijk bezitten van een voertuig, omdat de mogelijkheden om zonder zorgen van A naar B te komen steeds beter worden. Met een beetje geluk bewegen we ons dan voort in een wereld waarin dit soort persoonlijke morele keuzes geen rol meer spelen, en de blaam altijd neergelegd kan worden bij een ander.