Cara Memastikan Bahwa Kita Sedang Ngobrol dengan Robot, Bukan Manusia

Duplex buatan Google adalah sistem berbicara intelijen yang sanggup membuat janji temu dan melakukan tugas-tugas administratif lainnya, sebagaimana dilakukan oleh seorang resepsionis atau asisten manusia. Ucapan sistem ini terdengar amat nyata—bisa gagap sedikit, bergumam dan memberi jeda, dan sebagian besarnya berhasil meniru nada bicara orang yang sedang telepon. Hal ini mengerikan karena mirip dengan cara manusia berbicara, tapi lebih mengerikan lagi karena kita tak bisa membedakan kapan ngobrol dengan seorang manusia, dan kapan ngobrol dengan sebuah mesin.

Sebagai seseorang yang secara tidak sengaja menguasai seni diwaro seorang manusia dengan meneriakkan kata-kata kasar pada telepon otomatis penyedia layanan internet saya, saya gak yakin saya mau Google Duplex mengambil alih tugas-tugas administrasi telepon. Saya tentu tidak senang dengan gagasan Google yang terus merajalela, dan dehumanisasi tentunya menyebalkan, tetapi Duplex adalah yang kita dapatkan ketika Silicon Valley terpaku pada AI sebagai solusi untuk semua penyakit sosialnya.

Di masa depan yang ideal, Google akan menepati janjinya untuk menganggap serius implikasi dari AI dan persetujuan pengguna, dan mencari cara untuk memasukkan prosedur ikut serta dan peringatan bahwa kamu sedang berbicara dengan AI. Tetapi jika tidak, atau jika perusahaan lain pelan-pelan mengembangkan sistem seperti itu, kita yang manusia mungkin ingin tahu cara menipu sistem dan mencari tahu siapa—atau apa—yang kita ajak bicara.

Duplex, seperti banyak sistem berbicara AI di pasaran saat ini, terbatas pada domain tertutup—kumpulan pertanyaan sederhana dapat dengan mudah ditanggapi, seperti, “Jam berapa?” dan “Namamu siapa?” Tahulah, jenis-jenis pembicaraan yang biasanya dilakukan resepsionis saat membuatkan janji temu dengan dokter atau memesan meja di restoran. “Duplex hanya bisa ngobrol secara alami setelah dilatih dalam domain tersebut,” menurut postingan Google. “Dia gak bisa ngobrol secara umum.”

Ini adalah kelemahan Duplex: Improvisasi. Menanyakan pertanyaan-pertanyaan di luar skrip sosial latihannya adalah cara tercepat untuk menentukan apakah kamu sedang ngobrol dengan robot. Tanyakan sebuah pertanyaan yang gamblang atau di luar topik, menurut saran David Gunkel, profesor di Northern Illinois University dalam surelnya, dan Duplex akan mengungkapkan bahwa dia adalah mesin atau menyambungkan telponmu ke manusia.

“Duplex bisa terdengar natural saat ngobrol di area spesifik, seperti layanan pelanggan untuk perusahaan TV kabel,” ujar Gunkel. “Tapi kalau kamu bertanya ke sistem yang sama apakah dia lebih senang jus jeruk atau lobster, atau apakah dia suka suhu panas yang sedang kita alami, bakal kentara bahwa kamu sedang ngobrol dengan program.”

Obrolan kecil yang dibenci banyak orang bisa mengungkapkan si robot dengan cepat. Kalau sebuah obrolan memanas, Google bilang seorang manusia akan mengambil alih pembicaraan tersebut. Kalau saya berulang kali bertanya pada Duplex, “Gimana cuaca di sana?” dan sistem tersebut belum menyediakan jawaban, teorinya sih saya sedang dioper ke manusia.

Akademisi AI dan masyarakat umum khawatir soal konsen untuk panggilan telepon pertambangan dan menggantikan nuansa hubungan manusia dengan robot, tapi ini adalah sebuah evolusi yang sudah diprediksi, dan kita sudah pernah berpartisipasi dalam interaksi dengan robot di telepon—ini adalah suatu hal yang telah kita biarkan perlahan-lahan, dari peringatan “Percakapan ini akan direkam untuk peningkatan kualitas” saat kita menelpon layanan pelanggan.

“Dari titik tersebut, semua hal yang kamu katakan ke manusia ataupun operator AI direkam, dan datanya ditampung serta ditambang,” ujar Gunkel. “Ini tidak akan berubah saat Duplex yang berbicara.”