media sosial

Instagram Punya Fitur Baru, Komen Negatif atau Ujaran Kebencian Otomatis Terhapus

Fitur ini akan otomatis menghapus komentar yang “menyerang orang lain.”
04 Mei 2018, 4:16am
Foto via Shutterstock 

Fitur penyaring komentar terbaru di Instagram sekarang bisa otomatis memblokir komentar negatif yang “menyerang orang lain.” Menurut pendiri dan CEO Instagram, Kevin Systrom, filter baru ini akan menyembunyikan komen negatif tentang sifat atau penampilan seseorang, dan segala jenis intimidasi lainnya yang bisa menyebabkan trauma psikologis.

Systrom juga menjelaskan pentingnya melindungi “public figure muda” di Instagram agar mereka merasa “nyaman untuk mengekspresikan diri.” Perubahan ini sudah sangat ditunggu-tunggu, karena Instagram dianggap sebagai jaringan sosial paling berbahaya bagi kesehatan mental pengguna yang masih 14-24 tahun.

Terms of Use Instagram, yang sudah ada sejak 2013, menganjurkan penggunanya untuk tidak “menghina, menguntit, merundung, menindas, mengancam, menyamar atau mengintimidasi orang lain.” Tapi sekarang aplikasi ini akan mengandalkan kecerdasan buatan untuk memperkuat ketentuan ini dengan menggunakan fitur filter yang “ didukung oleh machine learning.”

Menurut pihak Instagram, mereka sudah lama “melatih” sistem AI untuk mengenali polanya. Fitur filter dirancang berkembang seiring waktu setiap kali ada pola baru yang muncul. Laporan tentang pola “yang berulang” ini akan dikirim langsung ke Instagram.

Filter AI di Instagram merupakan versi baru fitur penyaring komentar negatif yang sudah ada, yang diperkenalkan ke publik Juni lalu lewat postingan foto dan video live. Akan tetapi, Instagram tidak menjelaskan secara tegas apakah fitur ini juga berlaku untuk Direct Message (DM).

Sama seperti versi aslinya, fitur baru ini akan aktif secara otomatis di pengaturan profil pengguna, tapi pengguna bisa memilih untuk tidak menyembunyikan komentar negatif. Ada juga filter manual yang bisa menyembunyikan kata-kata spesifik dari interaksi. Instagram juga memasukkan filter spam untuk memblokir komentar dalam sembilan bahasa.

Tapi, seberapa ampuh algoritmanya untuk mengenali dan menyaring konten negatif?

Mengingat insiden YouTube, mereka menghadapi serangan setelah memperkenalkan mode “terbatas”, yang menyembunyikan vlogger LGBTQIA+ dari fitur pencarian. Sama seperti yang diperkenalkan Instagram, mode terbatas YouTube bisa diatur sendiri, dan secara otomatis menyaring “konten tidak pantas.” Akan tetapi, tidak seperti Instagram, YouTube mengakui bahwa fitur mereka “ tidak 100 persen akurat.”

Salah satu YouTuber terkenal, Rowan Ellis, terkena dampak fitur ini. 40 videonya terhapus karena kata kunci dalam judul videonya salah ditafsirkan oleh fitur filter. Video-videonya tersebut, yang membahas seksualitas dan coming out, diblokir karena dikira “konten dewasa”.

James Grimmelmann, dosen fakultas hukum di Cornell Tech, menganggap kalau fitur filter tidak mampu mengenali “konteks sosial” komentar negatif tersebut. Menurutnya, seperti yang dikutip dari Washington Post, “apabila manusia masih kesulitan membedakan mana yang termasuk ujaran kebencian dan parodinya, maka AI juga sama tidak mampunya seperti manusia.”

Jangan lupa follow Millie di Twitter