Beredar Video Editan Realistis Pakai Wajah Mark Zuckerberg, Facebook Kelimpungan

Raksasa medsos itu punya kebijakan tidak menghapus video apapun, termasuk yang kontennya hoax sekalipun. Tapi, ketika sang bos sendiri jadi sasaran, kebijakan tersebut seakan diuji lebih keras.

|
13 Juni 2019, 10:07am

Screenshot via Instagram

Dua seniman dan sebuah perusahaan periklanan menciptakan sebuah deepfake (video rekayasa menggunakan teknologi canggih) memakai sosok pendiri Facebook, Mark Zuckerberg. Bos Facebook itu seakan-akan mengatakan hal-hal jahat untuk menguasai dunia, lalu video tadi diunggah ke Instagram.

Video ini, ciptaan seniman Bill Posters dan Daniel Howe yang bekerja sama dengan perusahaan periklanan Canny, menampilkan Mark Zuckerberg sedang duduk di meja. Dia menyampaikan pidato jahat tentang kekuasaan perusahaan miliknya, Facebook. Video ini dibubuhi dengan tulisan di bawah layar "Kami sedang meningkatkan transparansi iklan," agar kesannya video tersebut diambil dari sebuah segmen program berita.

(Sejak dua hari lalu, juru bicara stasiun televisi CBS meminta Facebook, sebagai induk Instagram, untuk menghapus video tersebut. Alasannya karena ada logo CBSN—TV dari jaringan mereka—digunakan tanpa izin.)

"Bayangkan ini: Satu orang punya kendali total dari miliaran data pribadi curian, semua rahasia orang-orang, hidup mereka, masa depan mereka,” ujar Zuckerberg palsu dalam video tersebut. "Semua ini berkat Spectre. Spectre menunjukkan saya bahwa siapapun yang mengendalikan data, mengendalikan masa depan."

Video aslinya diambil dari September 2017 ketika Zuckerberg merespons perihal interferensi pemilu Rusia di Facebook. Postingan Instagram tersebut mengatakan bahwa video dibuat menggunakan teknologi penggantian dialog video (VDR) CannyAI.

Deepfake Zuckerberg ini adalah satu dari beberapa video manipulasi yang dibuat Canny dalam kolaborasinya bersama Posters. Mereka sebelumnya pernah menghasilkan video editan Kim Kardashian dan Donald Trump, sebagai bagian dari Spectre, sebuah pameran media di Sheffield Doc Fest, Inggris.

"Kami memperlakukan semua konten sama seperti bagaimana kami memperlakukan informasi palsu di Instagram," ujar seorang juru bicara Instagram saat dihubungi Motherboard. "Apabila pengecek fakta pihak ketiga mengatakan konten ini palsu, kami akan memfilternya dari rekomendasi Instagram seperti Explore dan halaman tagar."

Setelah video manipulasi memakai wajah Ketua DPR AS, Nancy Pelosi beredar viral, Facebook dihadapkan dengan keputusan untuk membiarkan foto-foto palsu yang dimanipulasi boleh beredar di situs mereka atau tidak. Alih-alih menghapus video, Facebook hanya mengisolasi video tersebut sehingga kemunculannya lebih jarang—atau malah nyaris tak terlihat—di linimasa pengguna.

Saat itu, Neil Potts, direktur kebijakan publik Facebook, sempat mengatakan apabila seseorang mengunggah video manipulasi Zuckerberg seperti video Pelosi, maka video tersebut tidak akan diturunkan. Kemunculan deepfake yang menampilkan Zuckerberg mengatakan bahwa dia memiliki kendali akan data-data curian miliaran orang dan siap mengendalikan masa depan, tentunya akan menguji seberapa serius tekad Facebook dalam isu ini.

Pencetus Canny, Omer Ben-Ami dan Jonathan Heimann, mengatakan ke blog FXGuide, bahwa karya mereka tercipta berkat algoritma yang dikembangkan para peneliti University of Washington.

Algoritma ini bisa mengubah klip audio dari suara seseorang menjadi video yang terasa realistis. Apalagi bibir orang yang diedit terlihat serius mengucapkan kata-kata tersebut. Para peneliti UW sempat melakukan demonstrasi teknologi ini, pada saat itu, menggunakan wajah Barack Obama. Mereka juga mengaku terinspirasi program Face2Face Stanford yang memungkinkan peragaan ulang wajah secara real-time.

Ben-Ami, saat diwawancarai Motherboard, bilang proses pembuatan video rekayasa tersebut sederhana. Canny menggunakan algoritma AI yang dilatih menggunakan adegan selama 20 hingga 45 detik dengan wajah target selama 12-24 jam. Ini tidak terdengar segitu lama, tapi bahkan ada deepfake yang dibikin cuman dari satu foto wajah saja lho.

Untuk deepfake Zuckerberg, ilmuwan Canny mencomot secara acak segmen selama 21 detik dari video orisinal berdurasi 7 menit, melatih algoritma menggunakan klip ini dan juga video dari aktor suara berbicara, dan kemudian mengonstruksi ulang frame dalam video Zuckerberg agar cocok dengan gerakan wajah dari sang aktor suara.

Hasilnya lumayan realistis—kalau kamu tidak mendengarkan suaranya. Suara yang digunakan di video jelas bukan milik Zuckerberg, tapi seseorang yang meniru Zuckerberg. Faktanya, sosok rekayasa deepfake ini bisa berkedip, bergerak secara mulus, dan mempunyai gestur tubuh mirip seperti Zuckerberg. Sangat mengerikan karena akurat.

Ben-Ami mengatakan Canny melihat ini sebagai kesempatan untuk mengedukasi publik tentang penggunaan AI di masa kini dan juga membayangkan masa depan.

"Potensi nyata yang kita lihat dari teknologi olah gambar awalnya cuma kemampuan menciptakan foto realistis dari model manusia," ujarnya. "Langkah berikutnya dalam evolusi digital tentunya setiap manusia akhirnya akan memiliki versi tiruan digital, sebuah manusia universal yang abadi. Ini akan mengubah cara kita berbagi dan bercerita, mengingat orang-orang tercinta, dan menciptakan konten."

Artikel ini pertama kali tayang di Motherboard