Bocoran Data Ungkap Alasan Facebook Bisa Bobol Siarkan Penembakan Teroris Selandia Baru

Artikel ini merupakan bagian dari seri investigasi redaksi Motherboard seputar strategi moderasi konten di Facebook. Kalian bisa membaca liputan lainnya di sini.

Jumat pekan lalu, 50 orang tewas terbunuh, sementara 50 lainnya luka parah, dalam serangan teror di masjid kawasan Christchurch, Selandia Baru. Sang teroris, yang berideologi sayap kanan ekstrem dan anti-imigran, menyiarkan aksi penembakannya lewat platform Facebook Live. Rekamannya sangat eksplisit dan sadis. Facebook buru-buru menghapus akun Facebook dan Instagram pelaku bernama Brenton Tarrant tersebut. Upaya tersebut tak ada artinya, mengingat video tersebut sudah menyebar di seluruh jejaring sosial.

Liputan Motherboard kali ini menyoroti betapa sulitnya proses moderasi konten siaran langsung. Video yang tampak tidak berbahaya bisa langsung berubah 180 derajat dengan sedikit atau tanpa peringatan.

Motherboard memperoleh dokumen internal dari Facebook yang menunjukkan betapa media sosial telah mengembangkan alat yang memudahkan puluhan ribu moderator kontennya dalam menjalankan pekerjaannya. Staf redaksi Motherboard juga telah berbicara dengan karyawan senior Facebook dan narasumber yang memahami seluk-beluk strategi moderasi platform tersebut. Mereka menggambarkan kalau konten Live masih sulit ditangani.

"Saya tidak bisa membayangkan bagaimana rasanya menjadi penonton yang harus menyaksikan video siaran langsung penembakan di Selandia Baru itu," kata salah satu narasumber, yang mengurus strategi moderasi konten Facebook, kepada Motherboard. Kami merahasiakan identitas beberapa narasumber agar mereka bisa leluasa membicarakan mekanisme dan prosedur internal Facebook tanpa takut dipecat.

Layaknya konten apa pun di Facebook, baik itu postingan, foto, maupun video yang direkam sebelumnya, pengguna sebetulnya bisa melaporkan siaran langsung yang menurut mereka mengandung unsur kekerasan, ujaran kebencian, pelecehan, atau pelanggaran ketentuan layanan lainnya. Setelah itu, moderator akan meninjau laporannya dan memutuskan apa yang akan mereka lakukan terhadap siaran langsung itu.

Menurut dokumen pelatihan internal bagi moderator Facebook yang kami terima, moderator dapat menunda siaran langsung Facebook. Itu berarti kontennya akan muncul kembali setiap lima menit kemudian, sehingga mereka bisa mengecek apakah sudah ada perubahan dari siaran langsung tersebut. Moderator juga diberikan pilihan untuk mengabaikan dan mengakhiri laporannya; menghapus siaran langsung; dan menyerahkannya ke tim peninjau khusus untuk memeriksa apakah rekamannya mengandung unsur tertentu seperti terorisme.

Terkait siaran kasus terorisme, kontennya bisa dilaporkan ke Tim Penegakan Hukum Facebook (LERT) yang bekerja sama dengan polisi tiap negara. Untuk insiden Christchurch akhir pekan lalu, Juru bicara Facebook menjelaskan pada Motherboard bahwa mereka segera menghubungi lembaga penegak hukum di Selandia Baru sejak awal siaran itu diketahui timnya.

Ketika status siaran langsung meningkat ke kemungkinan kasus terorisme, moderator diminta menjawab beberapa pertanyaan mengenai konten sensitif tersebut: apa yang terjadi di sana sehingga pengguna dianggap melakukan aksi terorisme? Kapan pengguna tersebut mengatakan akan melakukan aksinya? Siapa yang diancam? Apakah pengguna menunjukkan senjata di dalam video? Bagaimana tampak lingkungan sekitar pengguna? Apakah mereka mengendarai mobil?

Adapun Perdana Menteri Selandia Baru Jacinda Ardern secara gamblang menyebut aksi penembakan massal di masjid Christchurch sebagai serangan teroris, beberapa jam setelah detail peristiwa itu dilaporkan padanya.

Tonton dokumenter VICE mengungkap kelas pelatihan menembak secara ilegal di Filipina yang banyak diikuti turis Tiongkok:

Berdasarkan dokumen pelatihan tersebut, moderator juga dapat “menandai” video siaran langsung dengan berbagai label, seperti mengganggu, sensitif, dewasa, atau berkualitas rendah.

Di saat mereka meninjau videonya, moderator dapat menonton bagian yang sedang disiarkan serta yang sudah tayang sebelumnya. Beberapa moderator bisa saja menangani video yang sama. Dokumen tersebut menandakan bahwa masing-masing dari mereka akan mengulang kembali videonya sampai ke bagian penonton berhenti menyaksikan.

SULITNYA MEMBERI TANDA PERINGATAN KONTEN

Dokumen internal yang diperoleh redaksi Motherboard menunjukkan bila moderator sesuai protap diminta memerhatikan “tanda peringatan” pada video Facebook Live yang menandakan kalau siaran langsungnya telah melanggar ketentuan.

Ini termasuk bukti percobaan bunuh diri, di mana ada orang yang mengucapkan selamat tinggal atau mengatakan ingin mengakhiri hidup mereka. Dokumen tersebut juga menyuruh moderator untuk mencari "Bukti keputusasaan", misalnya "Menangis atau memohon."

Berkaitan dengan siaran langsung Christchurch dan serangan teroris lainnya, dokumen menyebutkan beberapa tanda peringatan termasuk “Bukti potensi kekerasan yang melibatkan manusia atau hewan,” khususnya “Ada penampakan atau terdengar suara senapan atau senjata lain (pisau dan pedang) dalam konteks apa pun.”

Narasumber kedua mengatakan kepada Motherboard bila, "Siaran langsung cukup sulit ditindak sampai-sampai kamu kadang harus memonitor siaran langsung dan meninjau bagian yang sudah tayang pada waktu bersamaan. Kamu tidak mungkin bisa melakukannya hanya dengan indikator suara."

Apabila sudah berhubungan dengan pemakaian senjata, terutama senapan mesin, transisi siaran langsung tentu saja bisa berubah dari biasa saja menjadi berbahaya dalam waktu milidetik. Hal ini menunjukkan perusahaan media sosial bukannya malas memoderasi konten ketika penonton masih bisa menyaksikan siaran langsung yang berisi kekerasan di Facebook Live. Masalahnya proses moderasi siaran langsung di semua platform sangat sulit.

Dalam salinan serangan video yang ditonton Motherboard, pelaku menunjukkan beberapa senjata sejak awal siaran langsung. Senjatanya sering muncul dalam rekaman ketika si teroris sedang menuju masjid.

"Kami sendiri tak punya jawaban kenapa video penembakan di Selandia Baru bisa disiarkan sampai [17] menit," kata narasumber kedua kepada Motherboard.

Berhubung fitur Live memiliki riwayat moderasi yang suram saat Facebook mencoba mengendalikannya, perusahaan ini pun menciptakan alat yang dapat memudahkan pekerjaan moderator.

"Facebook Live cepat populer, dan memberikan pengalaman konsumen yang baik jika dilihat dari sisi pengalaman pengguna. Tapi kami menyadari bahwa ada yang perlu diperbaiki dan kami juga masih membuat kesalahan, mengingat konten kekerasan dan pelanggaran kebijakan terus terjadi,” ujar James Mitchell, ketua tim risiko dan tanggapan Facebook, kepada Motherboard dalam sebuah wawancara di kantor pusat Facebook pada Juni 2018.

Dalam wawancara yang sama, Neil Potts selaku Direktur Kebijakan Publik Facebook menjelaskan kepada Motherboard bahwa isu-isu moderasi, "menjadi sangat gawat terkait konten siaran langsung, Facebook Live, dan aksi bunuh diri."

"Tim kami sering melihat video-video orang yang menyakiti dirinya sendiri muncul di internet, dan kami sadar tidak mempunyai proses yang cepat tanggap untuk menanganinya, dan kini kami telah menciptakan instrumen otomatis untuk membantu kami mencapai tujuan itu," imbuhnya.

Dihubungi terpisah oleh Motherboard, Justin Osofsky, Kepala Operasinal Global Facebook, mengaku terus berupaya menangani konten semacam itu. "Situasinya menjadi lebih baik, dengan menambah staf kami, menciptakan lebih banyak alat, dan mengembangkan kebijakan."

Satu instrumen yang dapat diakses para moderator adalah interface yang memungkinkan mereka untuk meninjau sebuah siaran langsung di Facebook Live, termasuk thumbnail, agar mereka dapat melihat perkembangannya; grafik yang menunjukkan keterlibatan pengguna lain pada titik tertentu, serta kemampuan untuk mempercepat atau memperlambat rekaman, jika mereka ingin pindah ke bagian yang mengandung konten melanggar untuk mengamatinya lebih teliti.

"Kalau ada video yang durasinya 10 menit, dan tiba-tiba pada titik 4 menit 12 detik ada interaksi, kamu harus melihat ada apa di situ," lanjut Osofsky.

Berdasarkan lambang yang tampak di sudut siaran langsung teroris Christchurch, sang penyerang diperkirakan menggunakan aplikasi LIVE4, yang dapat menyiarkan konten dari kamera GoPro ke Facebook Live.

"Kami benar-benar terkejut terhadap berita ini sama seperti semua orang," kata Alex Zhukov, CEO LIVE4, kepada Motherboard lewat surel.

"Kami siap bekerja sama dengan lembaga penegak hukum untuk menyediakan informasi demi membantu investigasinya. Begitu juga dengan wakil-wakil Facebook Live. Kami akan memastikan Facebook tetap aman dan hanya digunakan sesuai tujuannya. Kami akan memblokir akses pada aplikasi ini bagi semua orang yang menyebarkan konten kejahatan. Sayangnya, staf LIVE4 tidak mempunyai kemampuan teknis untuk memblokir video yang sudah berlangsung," lanjutnya.

Mia Garlick dari Facebook Selandia Baru menyatakan kepada Motherboard turut berduka cita kepada para keluarga dan komunitas korban serangan ini. Kepolisian Selandia Baru memperingatkan kami soal video di Facebook tak lama setelah siaran langsungnya dimulai.

"Kami langsung menghapus akun Facebook dan Instagram pelaku beserta videonya. Kami juga menghapus segala bentuk pujian atau dukungan yang ditujukan kepada pelaku dan aksi kejahatannya segera setelah kami mendeteksinya," kata Mia. "Kami akan terus bekerja sama dengan Kepolisian Selandia Baru selama tanggapan dan investigasi mereka berlangsung."

Jason Koebler berkontribusi pada laporan ini.

Artikel ini pertama kali tayang di Motherboard