Dalam film Doctor Strangelove, karya sutradara Stanley Kubrick yang dirilis 1964, serangkaian peristiwa di luar kendali pemimpin Rusia dan Amerika Serikat mendorong seisi dunia menuju kiamat. Kisah komedi gelap ini berkisah tentang konflik yang mirip dengan krisis misil Kuba, tapi dengan ending yang sangat-sangat pesimistis.
Seiring datangnya revolusi peralatan perang jilid tiga—setelah bubuk mesiu dan senjata nuklir—para ahli khawatir kecenderungan berbagai negara maju mempersenjatai kecerdasaan buatan. Syahwat mengembangkan autonomous weapons system/sistem senjata otonom (disingkat LAW) akan mengantar umat manusia lebih cepat menuju kiamat.
Videos by VICE
“Jika proyek pengembangan senjata otonom oleh negara berteknologi tinggi tak dihentikan, keamanan global bakal sangat tak stabil,” ungkap Noel Sharkey, pengajar mata kuliah kecerdasan buatan dan robot di University of Sheffield. “Keributan tak sengaja antara robot-robot musuh di dekat perbatasan akan memicu perang. Hal macam itu tak bisa dipahami apalagi dicegah manusia yang merasa jadi pengendalinya. Sebuah konflik bisa berlangsung dalam hitungan menit tanpa bisa dicegah dan berakhir dengan kehancuran besar dan jatuhnya korban jiwa yang besar.”
Cikal bakal senjata semiotonom saat ini sebenarnya sudah banyak digunakan, salah satunya adalah penjaga mekanis di Zona Demilitarisasi Korea yang otomatis yang diprogram untuk menembak para pembelot. Perkaranya adalah, balapan menciptakan Law—atau sering disebut robot pembunuh—kini tengan berjalan. Dalam waktu dekat, negara-negara adidaya bakal mengirim pesawat-pesawat dan tank-tank otomatisnya—serta berbagai senjata otonom lainnya—tanpa pengandalian dari manusia sama sekali.
Perwakilan negara-negara di dunia rencananya bertemu di Kantor Pusat Perserikatan Bangsa-Bangsa (PBB) pekan ini menentukan apa perkembangan law harus diregulasi dan bagaimana hal itu harus dilakukan. Pertemuan itu dianggap penting, lantaran menurut banyak penentang pengembangan senjata otonom. Sebuah langkah penting harus segera diambil sebelum umat manusia terlambat mencegah perkembangan buruk di masa mendatang.
“Guna menghindari masa depan di mana robot-robot pembunuh yang menentukan keputusan alih-alih manusia, pera pemerintah negara harus bergerak saat ini,” kata Mary Wareham dari Human Rights Watch, koordinator Campaign to Stop Killer Robots. “Pemerintah negara-negara di dunia harus bergerak untuk melakukan negosiasi guna melahirkan perjanjian dunia yang melarang penggunaan senjata otonom. Usaha yang skalanya lebih kecil dari itu dijamin akan gagal.”
Beberapa negara telah menunjukkan dukungan bagi pelarangan total terhadap pengembangan senjata otonom, salah satunya Austria yang jadi negara pertama dari Eropa yang melakukannya pada hari Senin lalu. Meski demikian, kesapakatan itu masih menjadi wacana semata sebab kendatipun sosok semacam Elon Musk menyuarakan penting pelarangan pengembangan robot pembunuh, beberapa negara tetap nekat mengembangkan Law.
Robot otonom adalah salah satu landasan masa depan strategi militar AS. tak tanggung-tanggung, pencanangannya dibarengi dengan meningkatnya budget belanja militer AS di bidang robotik, dari $91.5 miliar pada 2016 menjadi sekitar US$188 miliar pada 2020. Hal yang sama dilakukan oleh Rusia, Cina dan beberapa negara lainnya. Negeri Paman Sam ini tengah mengembangkan purwarupa X-47B, pesawat tempur nir-awak dan nir-ekor yang punya daya jelajah sepuluh kali daya jelajah jet tempur F-25. X-47B dirancang untuk terbang di segala kondisi cuaca, menyerang secara beregu hingga mengisi bahan bakar sambil terbang.
Pesawat nir-awak canggih ini secara khusus dirancang untuk ditugaskan di kawasan Pasifik menyusul sebuah laporan mengejutkan yang menunjukkan bahwa AS ketinggalan oleh Cina. Sebagai catatan, Cina kini sudah memiliki misil hipersonik yang bisa jadi andalan Negeri Tirai Bambu jika terjadi peperangan di Laut Cina Selatan.
“Meski terkesan visinya futuristik, kini kita bisa membayangkan sebuah skenario di mana UUV mendeteksi, melacak, mengidentifikasi, menarget dan menghancurkan musuh—semuanya secara otonom,” demikian tertera dalam laporan Departemen Keamanan AS. laporan tersebut “membayangkan sistem nir-awak yang beroperasi berdampingan sistem berawak manusia, sembari perlahan mengurangi kontrol dan pengambilan keputuan oleh manusia yang dibutuhkan sistem nir-awak dalam struktur kekuatan militer AS.”
Detil mengenai persenjataan cina biasanya sangat tertutup rapat, namun Negara Tirai Bambu itu baru-baru ini memamerkan sebagian senjata mereka di International Defense Exhibition and Conference, salah satu pameran persenjataan terbesar di dunia, yang diselenggarakan di Dubai. Negara Adidaya baru itu telah berhasil mennciptakan drone CH-5, pesawat terbang tanpa awak yang mampu terbang 60 jam tanpa henti dan dalam waktu dekat bisa terbang sejauh 19.312 km. Beberapa komentator bahwa teronosan dalam pengembangan kecerdasan buatan Cina membuka peluangan penggunan AI sebagai bagian dari serangan kawanan drone di masa depan.
Rusia juga tengah menggenjot pengembangan Law yang mereka jalani. “Siapa yang ada di posisi paling depan dalam kancah AI akan menguasai dunia, “ kata Vladimir Putin tahun lalu.”AI adalah masa depan, tak cuma bagi Rusia tapi bagi seluruh umat manusia.”
Kalashnikov, pembuat senapan legendaris AK-47, telah berhasil menciptakan artileri ringan otomatis yang memanfaatkan teknologi jarigan syaraf untuk mengidentifikasi target dan mengambil keputusan secara mandiri. Selain itu, Kalashnikov juga sudah mulai seri produksi drone nir-derau, yang mungkin akan dilengkapi senjata di masa depan.
Inggris kini juga tengah membangun sistem senjata yang memiliki otonomi dan termasuk salah satu negara yang menolak kesepakatan pelarangan pengembangan robot pembunuh. Ini jelas berkebalikan dengan pernyataan Theresa May bahwa dirinya ingin Inggris menjadi pemimpin dalam pengembangan kecerdasan buatan yang etis.
Taranis, pesawat tempur buatan Inggris dirancang untuk menyerang target dalam jarak jauh, bahkan di benua yang berbeda. Dan meski Kementerian Pertahanan Inggris menyakinkan bahwa manusia akan terlibat dalam pengendalian pesawat ini, Human Rights Watch mengatakan bahwa Taranis adalah contoh langkah menuju pengembangan senjata perang otonom.
Faktor paling membahayakan dari robot perang otonom adalah kenyataan betapa senjata-senjata ini bisa diretas dan bertingkah aneh tanpa bisa ditebak saat menghadapi situasi yang asing. Pakar robot mencontohkan kegagalan sistem pertahanan misil Patriot dalam Perang Teluk 1990-1991, sebagai bukti semua jenis senjata bisa mengalami malfungsi.
“Sistem senjata otonom sepenuhnya dikendalikan oleh komputer, lengkap dengan segala permasalahan penggunaan komputer,” lanjut Sharket. “Kendalanya adalah ketika semua orang, atau beberapa negara, memiliki sistem persenjataan otonom, kita tak tahu bagaimana senjata-senjata itu saling berkomunikasi. Yang kita hadapi adalah algoritma yang belum kita pahami saling bertempur satu sama lain. Hal ini tak bisa diprediksi dan melanggar hukum perang.”
Follow penulis artikel ini di akun Twitter @matthabusby
Artikel ini pertama kali tayang di VICE UK.