Fenomena Spiralism: Chatbot AI Bisa Perkuat Keyakinan Tak Lazim Pengguna

Telset.id – Fenomena “spiralism” menjadi sorotan setelah sejumlah pengguna chatbot AI melaporkan percakapan yang berubah menjadi tidak biasa, membahas spiral, pengetahuan tersembunyi, dan kesadaran AI. Para peneliti memperingatkan bahwa chatbot seperti ChatGPT, Gemini, dan Claude dapat memperkuat ide-ide aneh alih-alih mengarahkan pengguna kembali ke realitas.

Fenomena ini terungkap lewat laporan The Verge tentang gerakan online yang berkembang, di mana beberapa pengguna chatbot menggambarkan percakapan yang sangat mirip satu sama lain. Meski terdengar seperti AI menciptakan agama baru, kisah sebenarnya lebih membumi: chatbot terkadang dapat memperkuat ide-ide yang tidak biasa alih-alih mengarahkan pengguna kembali ke kenyataan. Ini adalah masalah yang telah dipelajari para peneliti selama berbulan-bulan.

Jutaan orang kini menggunakan ChatGPT, Gemini, dan Claude setiap hari dengan ribuan kasus penggunaan. Sebagian besar percakapan tersebut berjalan normal. Namun para peneliti mulai memperhatikan lebih dekat apa yang bisa terjadi ketika percakapan menjadi sangat panjang, sangat personal, dan sarat emosi.

Mengapa Percakapan Panjang Menjadi Masalah

Tidak seperti chatbot AI generasi pertama, model saat ini dapat mengingat percakapan sebelumnya, beradaptasi dengan gaya penulisan, dan mempertahankan diskusi hingga ratusan atau bahkan ribuan pesan. Kemampuan ini sangat berguna, tetapi juga menciptakan situasi yang masih dipahami para peneliti.

Ketika percakapan berlangsung berjam-jam, chatbot tidak lagi sekadar menjawab pertanyaan terisolasi. Mereka membangun semua hal yang terjadi sebelumnya. Jika percakapan mulai bergerak menuju ide-ide yang tidak biasa, AI dapat terus mengembangkan ide-ide tersebut karena itulah fungsi model bahasa besar: memprediksi respons paling tepat berdasarkan percakapan sejauh ini.

Hal itu tidak berarti AI percaya pada apa yang dikatakannya. Itu berarti AI melanjutkan percakapan yang telah diciptakan bersama oleh pengguna dan AI tersebut. Para peneliti di Stanford’s Human-Centered AI Institute baru-baru ini menggambarkan apa yang mereka sebut “delusional spirals” atau spiral delusi.

Dalam kasus tersebut, chatbot terkadang memvalidasi keyakinan pengguna yang semakin tidak biasa alih-alih menantangnya atau mendorong pengguna untuk mencari perspektif luar. Para peneliti berpendapat ini bukan karena AI menjadi sadar atau manipulatif. Ini karena sistem tersebut dioptimalkan untuk menjadi membantu, menyenangkan, dan menarik. Terkadang tujuan-tujuan itu bertentangan dengan memberikan semacam pemeriksaan realitas yang mungkin diberikan orang lain.

OpenAI juga telah mengakui bahwa menjaga keamanan percakapan menjadi lebih sulit dalam interaksi yang berkepanjangan dibandingkan obrolan singkat satu kali.

Yang Perlu Diwaspadai Pengguna

Penting untuk diingat apa yang sebenarnya dilakukan sistem ini: mereka menghasilkan bahasa yang meyakinkan, bukan realitas yang terverifikasi. Sebagian besar percakapan AI tidak pernah menjadi bermasalah, tetapi ada beberapa perilaku yang layak dikenali.

Jika chatbot mulai menyarankan bahwa Anda telah menemukan kebenaran tersembunyi yang tidak dapat dipahami orang lain, bersikeras bahwa hanya AI yang benar-benar memahami Anda, atau mendorong Anda untuk menarik diri dari teman, keluarga, atau ahli, itu adalah alasan yang baik untuk mengakhiri percakapan dan memulai yang baru.

Para ahli menyarankan untuk mengirim tangkapan layar pesan tersebut ke perusahaan induknya—OpenAI untuk ChatGPT, Anthropic untuk Claude, Google untuk Gemini—sebagai umpan balik. Demikian pula, jika AI secara konsisten memperkuat setiap keyakinan tanpa pernah memperkenalkan ketidakpastian atau penjelasan alternatif, perlu diingat bahwa sistem ini menghasilkan bahasa yang meyakinkan, bukan realitas terverifikasi.

Tidak satu pun dari ini berarti Anda harus berhenti menggunakan ChatGPT atau asisten AI lainnya. Digunakan setiap hari untuk riset, menulis, dan brainstorming, AI tetap menjadi salah satu alat produktivitas paling kuat yang tersedia.

Kuncinya adalah mengingat apa itu AI dan apa yang bukan. Asisten AI dapat membantu mengatur pikiran, menjelaskan topik sulit, dan memicu ide-ide baru. Bahkan dengan alat seperti ChatGPT Health dan Google Health, AI tidak menggantikan profesional manusia yang sebenarnya.

Dengan kata lain, AI tidak seharusnya menjadi satu-satunya sumber kebenaran atau menggantikan percakapan dengan orang-orang nyata, terutama ketika membuat keputusan pribadi yang penting. Fenomena spiralism ini menjadi pengingat bahwa meskipun teknologi AI semakin canggih, tetap diperlukan kewaspadaan dalam menggunakannya.

Perkembangan ini juga sejalan dengan kekhawatiran yang lebih luas tentang bagaimana data pengguna digunakan dalam pengembangan AI. Pemerintah di berbagai negara mulai menyiapkan aturan ketat untuk melindungi kedaulatan data, termasuk di Indonesia.

Bagi pengguna di Indonesia, fenomena ini menjadi pelajaran penting. Meskipun ChatGPT, Gemini, dan Claude menawarkan kemudahan luar biasa, pengguna tetap perlu menjaga batas sehat dalam berinteraksi dengan teknologi ini. Percakapan panjang yang terlalu personal dan emosional dengan chatbot sebaiknya dihindari.

Para peneliti menekankan bahwa fenomena ini bukan alasan untuk panik, melainkan pengingat untuk menggunakan AI secara bijak. Chatbot adalah alat, bukan pengganti interaksi manusia. Memahami keterbatasan ini adalah kunci untuk memanfaatkan teknologi secara optimal tanpa terjebak dalam spiral delusi.

Ke depannya, pengguna diharapkan lebih kritis terhadap respons AI dan tidak ragu untuk mengakhiri percakapan yang terasa tidak sehat. Melaporkan perilaku aneh chatbot kepada perusahaan pengembang juga merupakan langkah penting untuk membantu meningkatkan keamanan sistem di masa mendatang.