Waarom het ongeluk met Google’s zelfrijdende auto onvermijdelijk was

Volgens Google is het voornamelijk de schuld van omstandigheden dat één van hun zelfrijdende auto's op 14 februari betrokken raakte bij een ongeluk. De auto, een Lexus RX450h, kwam in aanvaring met een bus in het Amerikaanse plaatsje Mountain View. Het is het eerste ongeluk met een zelfrijdende auto ooit.

Volgens Google raakte de Lexus de bus toen hij onverwachts naar links moest afwijken om een stapel zandzakken te ontwijken. De auto had de bus gedetecteerd, maar had voorspeld dat deze vaart zou minderen.

Google stelt dat het ongeluk geen reden is voor paniek. Ze zeggen de data van het ongeluk geanalyseerd te hebben en te gaan gebruiken om "een aantal aanpassingen te maken in de manier waarop wegen als deze genavigeerd worden."

"Dit is een redelijk historische gebeurtenis, maar het zal niet de laatste keer zijn dat zoiets als dit gebeurt," werd me verteld door Michael Froomkin, rechtenprofessor aan de University of Miami School of Law en co-auteur van het boek Robot Law. "Het is onvermijdelijk dat er ongelukken plaatsvinden met systemen waarbij mensen betrokken zijn. Het maakt hierbij niet uit of mensen het systeem besturen of ontworpen hebben. Het enige dat we kunnen doen is proberen het aantal ongelukken te beperken."

De beslissing van de zelfrijdende auto om aan te nemen dat de bus hem de ruimte zou geven is veel bekritiseerd, maar volgens Froomkin doet veel van deze kritiek de potenties van zelfrijdende auto's tekort.

"We doen allemaal aannames als we aan het rijden zijn – meestal dat andere auto's in dezelfde rijbaan zullen blijven," zei Froomkin. "Dat is een natuurlijke aanname, en soms is die fout, maar meestal heeft dat geen grote gevolgen. Je gaat me niet vertellen dat menselijke bestuurders dit soort fouten niet vrijwel dagelijks maken."

Zelfrijdende auto's maken beslissingen voor hun inzittende, en doen aannames die mensen zelfs ook zouden doen. Betekent dit dat makers van zelfrijdende auto's elkaar op dit gebied kunnen beconcurreren? Dat BMW bijvoorbeeld zelfrijdende auto's met een meer agressieve rijstijl zal promoten, en Honda auto's die het altijd rustig aan doen?

Volgens Froomkin is dat erg onwaarschijnlijk. "Dat zou nogal gevaarlijk zijn voor bedrijven wat betreft aansprakelijkheid," zei hij. "Het is iets dat tegen je gebruikt zou kunnen worden in de rechtszaal."

Froomkin is van mening dat Google niet veel te verwijten valt bij dit ongeluk, omdat menselijke bestuurders ook niet onfeilbaar zijn. Maar niet iedereen met wie ik sprak deelde die mening.

"Dit ongeluk laat zien dat we er nog lang niet zijn," zei John Simpson van Consumer Watchdog, een organisatie voor de bescherming van consumentenrechten, over de technologie van zelfrijdende auto's. "Ik wil niet zeggen dat het niet mogelijk is, maar de huidige zelfrijdende auto's zijn nog niet klaar om veilig de weg op te gaan."

Volgens Simpson pakken traditionele autofabrikanten het project van de zelfrijdende auto veel verstandiger aan, door stapje bij beetje technologische vernieuwingen te implementeren zoals camera's om blinde hoeken te kunnen zien en alarmfuncties die afgaan als een auto buiten de eigen rijbaan dreigt te raken.

"Google heeft een alles-of-niets benadering," zei Simpson. "Maar hoe communiceren menselijke bestuurders en robotbestuurders met elkaar op de weg? Gezien het feit dat de gemiddelde auto zo'n elf jaar oud is, zal het nog lang duren voor alle auto's op de weg zelfrijdend zijn."

Zowel Simpson als Froomkin hebben een punt. Mensen maken veel fouten op de weg, maar het is onzeker of het wel echt veiliger is om zelfrijdende auto's te gebruiken, al helemaal als ze de weg moeten delen met normale auto's. De belangrijkste vraag is dan ook of we kunnen accepteren dat zelfrijdende auto's soms ongelukken veroorzaken, als ze bewezen minder ongelukken veroorzaken dan mensen.

"Als we ooit zo ver komen dat zelfrijdende auto's bewezen minder ongelukken veroorzaken dan menselijke bestuurders, zullen we veiligere auto's hebben," zei Froomkin. "Maar 'veiliger' betekent niet absoluut honderd procent veilig."

Toch denkt Froomkin dat het wel degelijk mogelijk is om een robotauto te bouwen die volledig veilig is en nooit ongelukken veroorzaakt. Sterker nog, hij kan hem zelf bouwen. "Hij gaat alleen nergens heen."