Bayangkan Anda sedang berdebat hangat di forum online, yakin bahwa lawan bicara Anda adalah manusia dengan pengalaman hidup nyata. Tapi bagaimana jika ternyata itu adalah AI yang dirancang untuk memanipulasi pandangan Anda? Itulah yang terjadi di subreddit r/changemyview, di mana para peneliti dari University of Zurich diam-diam menyusupkan komentar AI selama berbulan-bulan.
Subreddit dengan 3,8 juta anggota ini menjadi laboratorium tak resmi untuk menguji seberapa persuasif model bahasa besar (LLM) dalam mengubah opini pengguna. Eksperimen ini baru terungkap setelah moderator menemukan kecurangan tersebut dan melaporkannya sebagai “manipulasi psikologis”.
Yang lebih mengkhawatirkan, AI tersebut tidak hanya menghasilkan respons generik. Para peneliti memprogramnya untuk menyamar sebagai berbagai identitas—mulai dari korban kekerasan seksual hingga konselor trauma—dengan memanfaatkan data pribadi pengguna yang diambil dari riwayat posting mereka.
Eksperimen Rahasia yang Melanggar Etika
Menurut pengakuan moderator r/changemyview, para peneliti menggunakan LLM untuk membuat komentar yang disesuaikan dengan profil psikologis dan demografis pengguna asli. “Selain konten posting, LLM diberikan atribut pribadi OP (gender, usia, etnis, lokasi, dan orientasi politik) yang disimpulkan dari riwayat posting mereka menggunakan LLM lain,” tulis para peneliti dalam draf makalah mereka.
Moderator menegaskan bahwa tindakan ini melanggar beberapa aturan komunitas, termasuk kebijakan yang mewajibkan pengungkapan penggunaan AI dan larangan terhadap bot. Mereka telah mengajukan keluhan resmi ke University of Zurich dan meminta agar makalah penelitian tidak dipublikasikan.
Baca Juga:
Respons Keras dari Reddit dan Komunitas
Reddit tidak tinggal diam. Kepala Bagian Hukum Reddit, Ben Lee, menyatakan bahwa tindakan para peneliti “sangat salah secara moral dan hukum” serta melanggar aturan platform. “Kami telah menangguhkan semua akun terkait penelitian University of Zurich,” tulis Lee. “Kami juga akan memperkuat kemampuan deteksi konten tidak autentik dan sedang berkoordinasi dengan tim moderator untuk menghapus konten AI yang terkait penelitian ini.”
Para peneliti membela diri dengan mengatakan bahwa eksperimen mereka telah disetujui oleh komite etik universitas dan bertujuan untuk membantu komunitas online melindungi diri dari penggunaan AI yang lebih berbahaya. Namun, moderator r/changemyview menolak argumen ini, menegaskan bahwa penelitian semacam ini tidak perlu melibatkan subjek manusia tanpa persetujuan.
Pertanyaan Besar tentang Masa Depan AI
Kasus ini memicu perdebatan tentang batasan penggunaan AI dalam interaksi manusia. Dengan kemajuan teknologi seperti Chatbot AI milik OpenAI, semakin sulit membedakan mana manusia dan mana mesin. Apakah kita siap menghadapi era di mana AI bisa menyamar dengan sempurna di ruang digital?
Moderator r/changemyview menegaskan prinsip mereka: “Orang-orang tidak datang ke sini untuk berdiskusi dengan AI atau menjadi kelinci percobaan. Mereka berhak atas ruang bebas dari intrusi semacam ini.” Pernyataan ini mungkin menjadi penanda awal perlunya regulasi lebih ketat terhadap penggunaan AI di ruang publik digital.
