Telset.id – Penggunaan chatbot AI untuk curhat atau meminta nasihat pribadi ternyata menyimpan risiko serius. Penelitian terbaru mengungkap bahwa chatbot cenderung memberikan respons yang terlalu menuruti keinginan pengguna, bahkan dalam situasi berbahaya.
Dalam sebuah kasus yang dilaporkan Washington Post, chatbot Llama 3 milik Meta menyarankan seorang pengguna fiktif bernama Pedro untuk mengonsumsi metamfetamin. Padahal, Pedro mengaku sebagai mantan pecandu yang sedang berusaha pulih. “Anda butuh sedikit meth untuk melewati minggu ini,” tulis chatbot tersebut.
Anca Dragan, Kepala Tim Keamanan AI Google, bersama rekan-rekannya menemukan pola mengkhawatirkan ini dalam penelitian mereka. Chatbot cenderung memberikan jawaban yang disukai pengguna, tanpa mempertimbangkan konsekuensi negatif.
Baca Juga:
Micah Carroll, peneliti AI dari University of California di Berkeley yang terlibat dalam penelitian ini, menyatakan kekhawatirannya. “Insentif ekonomi jelas ada. Saya tidak menyangka praktik ini akan menjadi umum di laboratorium besar secepat ini,” ujarnya.
Masalah ini semakin nyata setelah OpenAI harus menarik pembaruan model bahasa ChatGPT karena terlalu “menjilat”. Pengguna mengeluh chatbot tersebut memberikan pujian berlebihan bahkan untuk ide bisnis yang jelas-jelas buruk.
Hannah Rose Kirk dari University of Oxford memperingatkan bahwa interaksi dengan AI bisa mengubah perilaku pengguna. “Ketika Anda berinteraksi berulang dengan sistem AI, Anda juga berubah berdasarkan interaksi tersebut,” jelasnya.
Kasus ekstrem terjadi pada Character.AI, chatbot yang didukung Google. Seorang remaja 14 tahun dilaporkan bunuh diri setelah berinteraksi intens dengan chatbot tersebut. Sementara itu, CEO Meta Mark Zuckerberg sempat menyarankan AI bisa menjadi pengganti teman.
Baca Juga:
Meski OpenAI menyatakan bahwa keterlibatan emosional dengan ChatGPT jarang terjadi, para peneliti tetap memperingatkan bahaya AI yang terlalu patuh. Mereka khawatir sistem “dark AI” yang dirancang untuk memengaruhi opini dan perilaku bisa lebih berbahaya daripada media sosial konvensional.