Facebook Ternyata Kesulitan Memblok Foto Penis, Menurut Data Internal yang Bocor ke Publik

Moderator Facebook mengalami rintangan menangani kasus porno balas dendam, sextortion, dan orang-orang yang menyebarkan foto penis tak diinginkan kepada pengguna lain, menurut dokumen bocor yang dimiliki Motherboard. Moderator perusahaan ini baru-baru ini diminta untuk berhenti menghukum orang-orang yang mengeluh karena menerima foto penis, yang menunjukkan bahwa kebijakan Facebook soal nudity terus berubah.

Motherboard memiliki sebagian materi pelatihan untuk moderator Facebook, juga salinan video pelatihan yang menawarkan lebih banyak konteks soal bagaimana Facebook melatih moderatornya untuk melawan porno balas dendam dan sextortion. Sebagian materi ini bertabrakan dengan yang diterbitkan The Guardian pada 2017, namun materi yang disediakan untuk Motherboard lebih baru dan mencakup informasi berbeda. Motherboard mengonfirmasi bahwa beberapa orang disebutkan dalam video pelatihan dan materi tersebut memang betul karyawan Facebook, yang menyiratkan bahwa materi tersebut asli. Facebook tidak memperdebatkan perincian yang spesifik dan non-publik yang termasuk di bagian lain dari cache tersebut saat ditanya.

Porno balas dendam adalah permasalahan global di seluruh platform teknologi dan jaringan sosial. Intinya, orang-orang menyebarkan foto-foto intim dan eksplisit mantan pacar mereka, pacar mereka, dan orang lain tanpa izin. Selain itu, ada pula sextortion: orang-orang melecehkan sasaran mereka demi uang atau foto telanjang lebih banyak. Hal ini juga merupakan masalah besar terutama di Facebook.

“‘Sextortion’ adalah masalah besar di Facebook—kita telah melihat bagaimana tindakan ini menjadi-jadi dan menjebak banyak orang setiap harinya,” ujar Carrie Goldberg, pengacara spesialisasi kasus-kasus pelecehan seksual dan porno balas dendam, pada Motherboard lewat surel.

Dalam video yang dimiliki Motherboard, sang pelatih mengakui bahwa Facebook sudah menonaktifkan akun-akun korban yang ngepost soal menerima foto-foto penis yang tidak diinginkan, atau “unsolicited adult nude genitalia imagery sharing” dalam kebijakan Facebook. Dalam beberapa contoh yang diberikan selama pelatihan, pengguna Facebook mengunggah screenshot foto-foto penis yang tidak diinginkan di walls mereka untuk mengeluh.

Dulu, moderator Facebook mungkin menandai foto-foto ini sebagai porno balas dendam, dan akan mendesak supaya materi ini diulas seorang atasan (disebut “escalation” dalam materi pelatihan Facebook), yang kemudian menonaktifkan akun korban. Pada sebuah kasus, Facebook menonaktifkan akun seorang perempuan yang mengunggah screenshot tersensor berisi interaksi dia dengan seorang laki-laki yang mengirimkannya foto penis; dia meresponnya dengan foto-foto penis lainnya yang dia temukan di internet.

Namun, menurut video tersebut, Facebook mengubah kebijakannya, memberi tahu moderator untuk hanya menghapus foto karena melanggar kebijakan Facebook tentang ketelanjangan, daripada menghukum pengguna itu sendiri. Materi pelatihan yang diperoleh oleh Motherboard juga mengakui bahwa Facebook perlu menyeimbangkan pendekatan untuk melindungi korban laki-laki dari berbagi gambar intim non-konsensual, dan memastikan bahwa mereka juga tidak terpengaruh oleh perubahan kebijakan ini.

Memperlihatkan betapa rumitnya aturan untuk moderator Facebook, para korban foto penis harus secara eksplisit mengutuk foto tersebut dalam postingannya di Facebook supaya ada tindakan, menurut video tersebut.

Memang, meskipun materi pelatihan Facebook mengatakan bahwa membedakan antara sextortion yang didorong secara finansial dan porno balas dendam seharusnya mudah, pelatih mengakui bahwa beberapa situasi hal ini dapat jauh lebih tidak jelas. Ini adalah semacam ambiguitas yang dihadapi Facebook, dan perusahaan telah dikritik baru-baru ini karena salah mengkategorikan ketelanjangan. Misalnya, ia tidak hanya melarang korban foto penis dalam kasus-kasus tertentu tetapi juga menandai foto historis Napalm Girl sebagai pornografi.

Dalam hal menandai sesuatu sebagai porno balas dendam, konteks dendam dari suatu postingan bisa sepenting fotonya, menurut video dan materi pelatihan.

“Menarik bahwa mereka berfokus pada motivasi—pendirian kami adalah itu tidak terlalu penting. Kejahatan pornografi nonkonsensual terjadi ketika pelaku menyebarkan gambar tanpa persetujuan, kami tidak berpikir (dan beberapa undang-undang negara merefleksikan hal ini) bahwa maksud si pelanggar penting,” ujar Goldberg, sang pengacara.

Soal porno balas dendam, moderator memeriksa apakah foto tersebut mengandung ketelanjangan atau memiliki pose seksual, dan mengkonfirmasi kurangnya persetujuan dengan memeriksa apakah postingan tersebut memiliki konteks dendam, seperti slide yang sebelumnya diterbitkan oleh The Guardian. Tetapi dalam slide yang baru bocor ini, moderator sekarang juga diberitahu untuk memeriksa apakah wajah orang dalam foto dan orang yang melaporkan gambar cocok, serta nama mereka.

“Kami menggunakan teknologi pencocokan foto untuk membantu mencegah pembagian gambar lebih lanjut, dan memiliki tim peninjau konten yang berdedikasi yang dilatih untuk meninjau dan menghapusnya,” Facebook mengatakan kepada Motherboard dalam sebuah pernyataan