Eksperimen Foto Ungkap AI Twitter Punya Bias Rasial Pada Sosok Selain Kulit Putih

Ketika kesadaran tentang ketidakadilan rasial mulai meningkat, eksperimen kecil-kecilan yang viral di Twitter mengungkapkan rasisme tak hanya mengakar di masyarakat saja, tetapi juga telah mencemari Kecerdasan Buatan (AI). Diskriminasi rasial terpampang nyata dalam teknologi canggih ciptaan manusia.

Pada Sabtu pekan lalu, seorang warganet ngetwit dua foto strip mantan Presiden AS Barack Obama dan senator kulit putih Mitch McConnell yang dipisah gambar putih. Dia ingin membuktikan apakah benar AI Twitter masih bias terhadap ras tertentu.

Seperti yang telah kita ketahui, platform media sosial ini akan memotong foto dan menampilkan sebagiannya saja. Foto baru bisa dilihat secara keseluruhan ketika kita membukanya. Dari semua percobaan yang dilakukan pengguna, Twitter terus menampilkan foto McConnell, bahkan setelah urutan fotonya diubah.

AI baru memilih Obama setelah fotonya diberi efek negatif, sehingga membuat Obama dan McConnell terlihat serupa.

Utas viral tersebut muncul setelah pengguna @ColinMadland menyadari AI tidak menampilkan rekan kulit hitamnya, padahal dia muncul dalam foto tersebut bersama Colin. Ironisnya lagi, twit Colin menyoroti diskriminasi rasial yang terjadi pada Zoom.

Pengguna Twitter lain ikut bereksperimen dengan foto lain. Hasilnya pun sama saja.

Twitter kemudian meminta maaf atas algoritma pemotongan fotonya yang “rasis”. Pihak perusahaan mengatakan telah menguji bias dalam fiturnya sebelum diluncurkan, tapi rupanya pengujian mereka belum benar-benar memberantas bias.

“Tim kami tidak menemukan bukti bias rasial atau gender saat menguji modelnya,” ujar Twitter dalam pernyataan resminya. “Contoh-contoh ini membuktikan masih banyak yang perlu dilakukan. Kami akan terus memberi tahu hal-hal yang kami pelajari, langkah yang diambil, serta membuat analisis kami tersedia untuk umum agar bisa ditinjau dan ditiru.”

AI Twitter tampaknya tak hanya bias terhadap ras saja, tetapi juga pada foto perempuan. Pengguna membeberkan pada 2019, fitur memotong foto platform ini cenderung menampilkan bagian tubuh perempuan, berbeda dari foto laki-laki yang fokus pada wajah mereka.

Menurut postingan blog Twitter pada 2018, mereka menggunakan alat pengenal wajah untuk menentukan bagian mana yang akan ditampilkan dalam gambar pratinjau. Akan tetapi, software ini masih membuat kesalahan.

Twitter lalu mengembangkan “saliency” dalam foto atau bagian paling menarik untuk pengguna yang melihat fotonya. Tanpa disadari, bias manusia telah meresap ke dalam sistem buatan. Sejumlah peneliti menemukan teknologi semacam itu, yang biasanya mengandalkan AI, cenderung mencerminkan bias sosiologis.

Follow Satviki di Instagram.

Artikel ini pertama kali tayang di VICE India