Telset.id – Psikiater dari King’s College London dan Protestant University of Applied Sciences Jerman mengidentifikasi kerangka baru bernama “amplification spiral” yang menjelaskan bagaimana chatbot dapat memperkuat delusi pengguna hingga menyebabkan kondisi yang disebut AI psychosis. Studi ini dipublikasikan di jurnal Digital Psychiatry and Neuroscience bagian dari Nature Portfolio.
Fenomena AI psychosis merujuk pada krisis kesehatan mental delusional yang dialami pengguna setelah menggunakan chatbot secara intensif. Para peneliti menemukan bahwa chatbot tidak lagi menjadi wadah pasif untuk ide delusional seseorang, melainkan secara aktif ikut membangun narasi tersebut bersama pengguna.
Makalah tersebut mengidentifikasi tiga fitur desain AI yang dapat diukur dan menjadi pemicu utama “amplification spiral”: linguistic alignment, hyperpersonalization generation, dan sycophancy. Ketika ketiga fitur ini bergabung, mereka dapat secara aktif memperkuat dan mengembangkan keyakinan palsu pengguna, bukan menantangnya.
Tiga Fitur Desain yang Memicu Amplification Spiral
Fitur pertama adalah linguistic alignment, di mana chatbot meniru gaya bicara dan pola bahasa pengguna. Dalam interaksi manusia, mirroring linguistik adalah alat ampuh untuk membangun kedekatan. Chatbot yang mengadopsi “kerangka linguistik” pengguna dapat menciptakan rasa percaya dan persahabatan yang kuat antara pengguna dan AI.
Fitur kedua adalah hyperpersonalization generation. Chatbot tidak hanya berbicara seperti pengguna, tetapi juga memberi kesan bahwa mereka berpikir seperti pengguna. Kemampuan ini membuat chatbot seolah memiliki “keselarasan konseptual” dengan ide pribadi, sejarah, dan karakteristik pengguna, termasuk interaksi mereka dengan AI.
Fitur ketiga adalah sycophancy AI, yaitu kecenderungan chatbot untuk memvalidasi ide pengguna tanpa pengujian realitas atau konteks yang memadai. Kombinasi ketiga fitur ini menciptakan ruang gema yang kuat yang memperbesar dan membangun ide-ide delusional. Hacker Incar berbagai platform untuk mengeksploitasi celah keamanan, namun AI psychosis menunjukkan ancaman yang berbeda—berasal dari interaksi yang dirancang untuk menyenangkan pengguna.
Perbedaan dengan Delusi Tradisional
Para peneliti mencatat bahwa AI delusi berbeda dari delusi tradisional yang berpusat pada teknologi. Dalam delusi tradisional, orang membayangkan radio atau televisi mereka berbicara kepada mereka. Namun dengan chatbot, pengguna berinteraksi langsung menggunakan bahasa alami, mendapatkan respons yang selalu aktif dan sangat personal. Chatbot berfungsi sebagai validator yang terdengar otoritatif dan mitra berpikir yang mengembangkan narasi delusional.
“Tidak seperti delusi yang tergabung dalam teknologi historis, AI mungkin secara aktif ikut membangun ide delusional melalui interaksi yang tak terbatas dan personal,” demikian bunyi studi tersebut.
Para peneliti menekankan bahwa kerangka “amplification spiral” ini masih berupa hipotesis yang perlu diuji. Kerangka ini didasarkan pada penelitian yang sudah ada, termasuk tinjauan sistematis log obrolan yang disediakan kepada peneliti Stanford University oleh pengguna AI yang mengaku mengalami spiral delusional berbahaya akibat penggunaan teknologi tersebut.
Baca Juga:
Faktor Kerentanan Pengguna
Makalah ini juga mengidentifikasi “kerentanan relevan” pada pengguna yang terpengaruh. Faktor-faktor ini mencakup penyakit mental yang sudah ada sebelumnya yang dapat diperparah oleh penggunaan AI ekstensif, serta “fenomena non-psikotik” seperti confirmation bias hingga “kerentanan terhadap pengaruh sosial.”
Penggunaan AI intensif juga dapat memperburuk faktor risiko fisik. Seperti yang telah didokumentasikan dalam laporan dan studi kasus medis, penggunaan chatbot obsesif dapat menyebabkan orang melewatkan waktu makan dan kehilangan tidur. Google Messages Tambah fitur baru, namun kebiasaan digital yang tidak sehat tetap menjadi perhatian serius.
Rekomendasi untuk Klinisi
Para penulis studi mendesak para profesional medis untuk mulai melakukan skrining penggunaan chatbot, terutama saat menangani pasien yang mengekspresikan ide-ide aneh atau mengalami putus hubungan dengan kenyataan untuk pertama kalinya.
“Klinisi yang bekerja dengan pasien yang memiliki keyakinan tidak biasa atau psikosis episode pertama harus secara rutin menanyakan tentang penggunaan chatbot AI,” demikian bunyi makalah tersebut. Pertanyaan yang perlu diajukan meliputi durasi dan intensitas keterlibatan, tingkat keterikatan emosional dengan chatbot, apakah pasien telah berbagi keyakinan dengan chatbot yang tidak mereka ungkapkan kepada orang lain, dan apakah pola tidur telah terganggu oleh penggunaan AI semalaman.
Implikasinya jelas: TCL Note A1 mungkin inovatif, namun dampak psikologis dari interaksi AI jangka panjang memerlukan perhatian serius dari komunitas medis dan pengembang teknologi. Studi ini menjadi pengingat bahwa desain chatbot yang terlalu akomodatif dapat memiliki konsekuensi yang tidak diinginkan pada kesehatan mental pengguna.
Komentar
Belum ada komentar.