Teknologi Deepfake Bikin Kampanye Hitam Makin Canggih, Juga Membuat Hidup Kita Makin Runyam

“Pandangan dan cara berpikir seseorang bisa terpengaruh apabila mereka menonton video palsu seperti ini,” kata Direktur Jenderal Aplikasi Informatika Kementerian Komunikasi dan Informatika Semuel Abrijanit Pangerapan, kepada VICE. Divisinya bertugas menyaring dan memblokir konten yang dianggap “kontroversial” dan ilegal sebelum menyebar secara luas di masyarakat. Pilkada dan pilpres sudah semakin di depan mata, dan mereka sudah bersiap-siap mengatasi lonjakan berita yang ditujukan untuk menyerang kandidat lawan.

Awalnya, deepfakes digunakan untuk memasangkan wajah selebriti seperti Emma Watson dan Daisy Ridley ke tubuh pemain film porno. Video palsu ini sempat beredar di internet – yang segera diblokir oleh situs porno populer PornHub. Artikel yang mengulas tuntas tentang deepfakes, yang ditulis oleh jurnalis Motherboard bernama Samantha Cole, menginspirasi banyak jurnalis di Amerika untuk menulis hal yang serupa. Contohnya seperti artikel berjudul “Why Reddit’s face-swapping celebrity porn craze is a harbinger of dystopia.”

Komunitas pembuat video deepfakes semakin menjamur di situs seperti Reddit, di mana orang menggunakan situs ini untuk menyebarkan video porno palsu yang ditujukan untuk balas dendam kepada mantannya, rekaman video seks gebetannya, dan memasang wajah Harrison Ford saat muda ke tubuh pemeran Solo di film terbaru Star Wars Solo: A Star Wars Story.

Di Indonesia, berita hoaks sudah menjadi santapan sehari-hari rakyat Indonesia, tetapi ancaman deepfakes – dan dampak potensial dari teknologi tersebut – belum banyak dibahas.

Yohan Misero, seorang peneliti dari LBH Masyarakat, memberitahu VICE bahwa dia khawatir video palsu, seperti politikus yang melakukan korupsi atau menganiaya anak, akan beredar di Indonesia saat masa kampanye. Apalagi jika tak ada regulasi yang dapat mengatur ataupun mencegah persebaran video-video seperti. Memang, ia akui, regulasi akan selalu ketinggalan oleh teknologi. "Tapi deepface ini harus disikapi secara serius," katanya. Ia mengusulkan agar kepolisian berani berinvestasi meningkatkan ilmu dan mempercanggih alat agar bisa menangani kasus-kasus seperti ini.

Bayangkan bagaimana jadinya apabila nanti para pemilih tidak bisa membedakan mana yang “kampanye gelap” dan tidak. Bayangkan apabila wajah seorang saingan politik tampak di berbagai video – mulai dari sex tape, kerusuhan sampai pertemuan yang kontroversial – dan orang-orang mengira itu adalah video asli.

Yang kalian butuhkan sekarang hanyalah berbagai wajah yang ingin ditukar, klip video utama dengan bentuk tubuh yang serupa, dan kemampuan mengedit. Setelah itu, jadilah video deepfakes baru yang siap disebar dan dapat menjatuhkan reputasi kandidat pemilu yang kalian benci.

Yang paling menakutkan, seberapa besar dampak manipulasi video dan foto ini dapat memengaruhi kondisi politik di Indonesia.

Namun, teknologi deepfakes ini melebihi video editan pidato Basuki, yang akhirnya bisa memaksa regulator internet untuk memikirkan kembali bagaimana mereka mendekati konten online yang kontroversial atau ilegal di internet.

Semuel memberitahu VICE bahwa konten pornografi dan berita hoaks yang sudah disensor pemerintah baru mencapai angka 50 sampai 60 persen.

“50 sampai 60 persen dianggap ‘sudah baik’,” kata Semuel.

Proses pemblokiran ini merupakan campuran antara algoritme web dan tenaga manual biasa. Kementerian memiliki perangkat lunak yang mampu menjelajahi internet untuk mencari situs web yang berpotensi menyinggung. Setelah itu, perangkat lunak ini akan memblokirnya. Algoritma mempelajari situs web mana yang cenderung diblokir di Indonesia dan kemudian mencari situs web serupa. Bulan lalu, kementerian berhasil memblokir 100.000 situs porno menggunakan perangkat lunak ini.

“Kami masih berusaha memahami bagaimana cara menteri menentukan konten seperti apa yang dianggap ilegal,” Semuel menjelaskan.

“Foto seorang politisi dengan kepala babi mungkin dianggap biasa saja di negara lain, tetapi di Indonesia, ini menandakan bahwa orang tersebut dapat menjadi sasaran,” katanya kepada VICE.

Orang Indonesia yang mayoritas Muslim menganggap babi sebagai binatang haram dan dilarang oleh Alquran. Itulah mengapa pekerjaan kementerian sangat menyita waktu.

Namun, metode ini hanya berfungsi untuk situs-situs web saja. Perangkat lunak kementrian tidak dapat mengecek isi ponsel atau grup WhatsApp rakyat untuk memblokir konten terlarang di sana. Ini sangat penting di Indonesia. Berita, meme, dan foto menyebar dengan sangat cepat melalui grup WhatsApp. Grup WA adalah sarangnya berita hoax dan konten pornografi. Lurino Bertorani, seorang peneliti di perusahaan analisis data Dattabot, mengatakan bahwa video deepfakes kontroversial akan dengan mudah tersebar di grup-grup WA di Indonesia.

“Saya yakin video porno palsu yang menampilkan selebriti atau politisi akan tersebar dengan cepat di Indonesia sebelum ada yang bisa membuktikan video tersebut palsu,” katanya kepada VICE.

Bagaimana caranya kementerian komunikasi – dan penegakan hukum – mengatasi video porno yang bisa dengan mudah dipalsukan? Pornografi, terutama penyebaran dan pembuatannya, merupakan hal ilegal di Indonesia, dan pelaku dapat dihukum hingga enam tahun penjara. Kalian bebas merekam video seks pribadi apabila video itu hanya akan kalian tonton sendiri. Namun, video seks kalian dianggap ilegal apabila tersebar ke khalayak, meskipun bukan kalian yang menyebarkannya.

Tahun 2010 lalu, penyanyi pop bernama Nazril Irham, atau yang lebih dikenal sebagai “Ariel,” dipenjara selama tiga setengah tahun saat beberapa video rekaman seksnya tersebar di internet. Bukti menunjukkan bahwa video disebar oleh asisten pribadinya, tetapi Ariel dinyatakan bersalah karena dia “ceroboh” sudah menyimpan video-video tersebut di komputernya.

Skandal Ariel memang video rekaman seks asli. Lalu, bagaimana dengan deepfakes? Bagaimana pemerintah bisa mengetahui siapa yang sebenarnya membuat dan menyebarkan video seks palsu ini?

Seorang ahli hukum memberitahu VICE bahwa para ahli masih dapat melihat perbedaan antara foto atau video asli dan yang telah dimanipulasi dengan beberapa jenis perangkat lunak editing. Yohan, salah satu peneliti di LBH Jakarta, mengatakan bahwa metadata dan artefak video bisa menunjukkan bahwa itu video palsu.

Kemajuan forensik digital sangat tertinggal di belakang kemajuan aplikasi pengedit video, jelas Hany Farid, seorang ilmuwan yang mempelajari video palsu, dalam sebuah wawancara dengan Nature. Lurino, peneliti di Dattabot, memberitahu VICE bahwa para ahli “sangat prihatin,” terhadap peningkatan video palsu.

Sebelum video deepfakes sempat diperiksa kebenarannya oleh para ahli, pencemaran nama baik mungkin sudah terjadi lebih dulu. Tidak ada cara yang pas untuk menganalisis dan membuktikan video palsu sebelum tersebar di internet.

“Penyebaran video dan foto yang dilakukan oleh pengguna internet jauh lebih berbahaya daripada proses pembuatannya,” ujar Lurino.

Cara terbaik untuk memberitahu masyarakat mengenai video dan foto palsu yaitu dengan menggunakan situs web yang bisa membagikan info berita hoaks. Akan tetapi, situs media sosial seperti Facebook yang sudah memiliki fitur untuk melaporkan berita hoaks saja tidak mampu menghentikan penyebaran berita hoaks. Kenyataannya, orang-orang yang membaca atau melihat berita hoaks tersebut malah memercayainya karena berita tersebut lolos dari algoritma Facebook.

Semuel memberitahu VICE bahwa solusi terbaik yaitu dengan mengadakan penyuluhan atau meningkatkan kesadaran masyarakat mengenai berita hoaks. Apabila negara bisa membuat rakyatnya mengetahui berita itu hoaks atau bukan, maka pemerintah tidak perlu terus-terusan memblokir situs web, dia menjelaskan.

“Tujuannya yaitu mendidik masyarakat supaya mereka mengetahui kebenaran suatu berita, agar mereka bisa memblokirnya sendiri,” kata Semuel. “Mereka bisa menentukan ‘Saya tidak mau melihat konten semacam ini,’ ‘Saya tidak mau mengunjungi situs web ini,’ atau ‘Ini berita palsu.’”