The VICE Guide to Right Now

Tiongkok Berencana Melarang Semua Jenis Teknologi Edit Video Berbasis AI

'Deepfake' harus diakui memang bermasalah. Di Barat, teknologi ini sudah memicu merebaknya pornografi palsu pakai wajah artis. Tinggal tunggu waktu sampai politisi dipalsukan videonya.
23.4.19
Tiongkok Berencana Melarang Semua Jenis Teknologi Edit Video Berbasis AI
Ilustrasi via Shutterstock 

Pekan lalu, Pemerintah Cina memperluas cakupan kebijakan melarang teknologi deepfake—titu sebutan untuk kecerdasan buatan yang dapat memanipulasi wajah orang dalam foto dan video. Dampaknya seakan-akan subyek foto itu melakukan hal yang sebenarnya tidak dilakukan.

Deepfake berpotensi melanggar hak privasi seseorang. Menurut rancangan undang-undang yang sedang dibahas Komite Kongres Nasional Tiongkok, masalah sosial bisa dialami masyarakat.

Iklan

"Kami mendukung larangan ini, karena pemakaian teknologi AI secara tidak layak dapat merusak hak-hak orang, juga mengancam keamanan nasional," ujar Shen Chunyao, selaku anggota Komite Konstitusi dan Hukum di Kongres Cina, seperti dikutip China Daily.

Komunitas deepfake online di berbagai negara membuktikan diri tidak pilih-pilih korban. Mulai dari politikus, selebritas, sampai warga biasa—intinya semua manusia yang pernah mengunggah foto diri ke internet—berpeluang menjadi korban teknologi ini.

Februari 2019, video deepfake bikin geger di Tiongkok. Wajah salah seorang aktris terpopuler di Cina, Yang Mi, masuk video trending top platform media sosial Weibo. Videonya berasal dari sebuah episode drama TV yang tayang 25 tahun lalu, tapi pemeran perempuannya berganti wajah jadi Yang Mi, bukan wajah aktris aslinya.

"Saya ingat ada beberapa aktris asing membicarakan video-video macam ini di Instagram. Video serupa sudah mulai dibahas di Cina. Saya tidak tahu harus merespons gimana," begitu bunyi komentar dari pengguna Weibo saat menanggapi video tersebut, seperti yang dikutip Tech in Asia.

Video di Tiongkok itu memang tidak separah video porno palsu, atau video palsu yang berpotensi mempengaruhi pemilu karena pidato presiden diubah. Tapi popularitas video tadi membuktikan betapa realistisnya mutu eidtan deepfake. Artinya, konten tersebut bisa menghancurkan hidup seseorang.

Teknologi deepfake berkembang selama lima belakangan ini. Pada awal 2018, Motherboard memprediksi otomatisasi software deepfake akan memakan waktu setahun. Semakin mudah saja mengedit video dan mengganti wajah orang dalam format video. Cina kini dianggap sebagai “pelopor” dalam perkembangan edit video berbasis AI itu.

Iklan

Beberapa situs internet telah mengambil langkah awal melarang deepfake. Sejak Februari tahun ini, Pornhub melarang video pornografi ciptaan kecerdasan buatan. Video macam itu, menurut Pornhub bisa masuk kategori ‘pornografi balas dendam’.

Tak lama kemudian, Twitter pun menyusul dan melarang video deepfake. Pada bulan yang sama, Reddit menangguhkan r/deepfakes, subreddit yang berisi penciptaan dan distribusi video pornografi palsu. Sebelum ditutup paksa, subreddit tersebut memiliki 90.000 subscriber. Reuters kini melatih jurnalisnya mengidentifikasi konten video palsu macam ini.

Di Cina, rancangan undang-undang ini kemungkinan akan diulas untuk ketiga kalinya, sebelum parlemen memilih akan mengesahkannya atau tidak. Selain mengatur penggunaan teknologi tersebut, RUU ini mendukung perlindungan informasi anak-anak di bawah umur dan menyaratkan orang yang ingin mengumpulkan data anak memperoleh lebih dulu izin dari orang tuanya.

Artikel ini pertama kali tayang di VICE ASIA.