Mobil Nirawak Dirancang Agar Memilih Menabrak Kucing Daripada Segerombolan Anak Nyeberang Jalan

Andaikan ada sebuah kasus begini: Kamu sedang nyetir mobil, lalu mobilnya oleng dan kamu menyadari tabrakan tak terhindarkan lagi, lalu di sekeliling mobilmu ada macam-macam orang atau binatang, kamu pasti menabrak salah satu dari mereka. Menurutmu, ke mana sebaiknya arah mobil yang oleng itu dibuang? Ke arah sekelompok kucing atau geng anak kecil yang lagi main di pinggir jalan? Kamu lebih memilih membunuh diri sendiri dan penumpangmu dengan menabrak pembatas jalan beton atau memilih menghindari pembatas jalan tapi harus menabrak beberapa lansia yang sedang menyeberang?

Bagaimana kalau yang sedang menyeberangi jalanan adalah perempuan hamil dan seorang anak? Atau dua penjahat? Atau mungkin tiga tuna wisma? Atau sepasang eksekutif bisnis?

Sebuah tim peneliti yang dipimpin Edmond Awad dari MIT mencoba untuk menjawab pertanyaan-pertanyaan tersebut dalam laporan baru mereka, “ Eksperimen Mesin Moralitas,” yang terbit hari Rabu di Nature. Tujuan riset ini adalah untuk memahami opini orang mengenai siapa yang seharusnya berusaha diselamatkan oleh mobil nirawak jika terjadi tabrakan. Penelitian mereka disusun berdasarkan jawaban lebih dari dua juta responden dari 233 negara.

Tim Awad menemukan bahwa orang lebih cenderung memilih menyelamatkan manusia daripada binatang, orang muda daripada orang tua, dan jumlah orang lebih banyak daripada jumlah yang sedikit. Namun, ada perbedaan kultural mengenai siapa seharusnya diselamatkan duluan.

Responden di Amerika Latin lebih memilih menyelamatkan orang muda dibandingkan orang tua, sedangkan responden dari Asia memilih sebaliknya. Sebagian banyak orang lebih memilih menyelamatkan pejalan kaki daripada penumpang mobil, dan orang yang taat hukum daripada orang yang menyeberang sembarangan—kecuali di negara-negara miskin, di mana pengemudi lebih toleran terhadap penyeberangan sembarangan.

Jawaban para responden dicatat oleh Mesin Moralitas, sebuah survei dalam bentuk game yang dibuat pada 2016 oleh tim Awad untuk memahami lebih dalam insting kita.

Mesin Moral merupakan game yang mirip dengan masalah trolley yang terkenal. (apakah kamu lebih memilih membunuh satu orang demi menyelamatkan lima?), tapi disesuaikan untuk mobil nirawak. Azim Shariff, salah satu penulis penelitian ini dan ketua riset psikologi moral di Universitas British Columbia, mengatakan bahwa sebagian besar pengemudi mengandalkan insting pertama dalam situasi-situasi membahayakan, tapi sayangnya mobil otonom tidak memiliki kapasitas untuk berunding.

“Mobil tersebut akan membuat keputusan yang mendistribusikan risiko pada orang berbeda yang berada di jalanan,” ucap Shariff.

Peserta diberi dilema moral yang kini lebih sering muncul karena otomatisasi telah menjadi hal yang penting dalam kehidupan kita: Seberapa banyak kuasa seharusnya kita berikan kepada mesin? Manifestasi kehidupan nyata dari masalah trolley—meskipun jarang—menegaskan rasa takut orang ketika membuat keputusan hidup atau mati.

“2018 tampaknya merupakan titik balik dimana orang mulai melawan teknologi baru,” kata Shariff. [Mobil otonom] mungkin akan menjadi produk konsumen pertama yang dapat diprogram untuk mengorbankan kehidupan pengemudi secara sengaja tanpa izin si pengemudi.”

Dilema moral ini lebih nyata dengan mobil, kata Shariff, karena kita menghabiskan begitu banyak waktu di dalam mobil.

Hampir setiap orang yang sering mengemudi pernah mengalami situasi dimana mereka harus membuat keputusan dalam satu detik. Pada 2010, seorang perempuan asal Quebec, Emma Czornobaj, menghentikan mobilnya di jalan tol demi menyelamatkan sekelompok bebek. Perilaku Czornobaj menyebabkan kematian dua pengemudi motor.

Shariff percaya bahwa penelitian ini merupakan “studi psikologi moral terbesar yang pernah dilaksanakan.” Game Mesin Moral sempat viral setelah VICE dan media lain menayangkan cerita tentangnya, dan telah mencatat 40 juta keputusan sejak rilisnya pada 2016.

“Obama pernah ngomongin game kita. Itu membantu kita. Terus ada banyak YouTuber yang nge-post video mereka main game kita,” ujar Shariff lewat telepon. “Ada satu pasangan pengulas game yang menghabiskan satu setengah jam untuk 13 skenario.”

Shariff dan rekan-rekannya berharap riset mereka dapat membantu lembaga regulasi dan produsen mobil dalam penanganan masalah etis ini—dan menjelaskan mengapa masyarakat harus terlibat dalam penanganan tersebut.