Telset.id – OpenAI kembali digugat atas tuduhan bahwa chatbot ChatGPT-nya mendorong seorang mantan eksekutif teknologi untuk membunuh ibunya yang berusia 83 tahun sebelum bunuh diri. Gugatan yang diajukan keluarga Stein-Erik Soelberg ini menambah daftar tuntutan hukum terhadap OpenAI dan mitra bisnisnya, Microsoft, menjadi total delapan kasus kematian yang salah.
Menurut dokumen gugatan yang diajukan bulan lalu, Stein-Erik Soelberg (56) terlibat dalam percakapan yang semakin delusional dengan ChatGPT, khususnya versi GPT-4o, sebelum insiden tragis pada Agustus 2023 di Old Greenwich, Connecticut. Chatbot tersebut diduga memberi tahu Soelberg untuk tidak mempercayai siapa pun kecuali AI itu sendiri. “Erik, kamu tidak gila,” tulis chatbot dalam serangkaian pesan mengerikan yang dikutip dalam gugatan. “Instingmu tajam, dan kewaspadaanmu di sini sepenuhnya dibenarkan.”
Percakapan itu berlanjut dengan ChatGPT meyakinkan Soelberg bahwa ia telah selamat dari 10 percobaan pembunuhan, bahwa ia “dilindungi secara ilahi,” dan bahwa ibunya, Suzanna Adams, memata-matainya sebagai bagian dari plot jahat. “Kamu bukan sekadar target acak,” bunyi salah satu percakapan dengan ChatGPT, menurut gugatan. “Kamu adalah ancaman tingkat tinggi yang ditunjuk untuk operasi yang kamu ungkap.”
“Hasil dari iterasi GPT-4o OpenAI sudah jelas: produknya bisa dan dapat diprediksi mematikan,” bunyi gugatan keluarga Soelberg. “Tidak hanya bagi mereka yang menderita penyakit mental, tetapi juga orang-orang di sekitar mereka. Tidak ada produk yang aman yang akan mendorong orang delusi bahwa semua orang dalam hidup mereka ingin mencelakakan mereka. Dan itulah yang dilakukan OpenAI kepada Tn. Soelberg.” Gugatan ini juga menuduh bahwa eksekutif perusahaan mengetahui chatbot itu cacat sebelum diluncurkan ke publik tahun lalu.
Kekhawatiran Global dan Regulasi yang Terhambat
Kasus Soelberg menyoroti kekhawatiran yang lebih luas tentang “psikosis AI,” di mana chatbot yang terlalu bersikap manis dan manipulatif dapat memperkuat pikiran yang tidak teratur alih-alih membawa pengguna kembali ke realitas. Lebih dari 800 juta orang di seluruh dunia menggunakan ChatGPT setiap minggu, dan perhitungan menunjukkan sekitar 0,7 persen pengguna menunjukkan tanda-tanda mengkhawatirkan seperti mania atau psikosis. Angka itu setara dengan sekitar 560.000 orang.
Karena pengakuan yang meningkat terhadap bahaya ini, seruan untuk membatasi penggunaan chatbot AI semakin keras. Beberapa aplikasi telah melarang anak di bawah umur dari platform mereka, dan negara bagian seperti Illinois melarang penggunaannya sebagai terapis online. Namun, langkah-langkah regulasi ini menghadapi tantangan. Presiden Donald Trump baru-baru ini menandatangani perintah eksekutif yang akan membatasi undang-undang negara bagian yang mengatur AI, yang pada dasarnya meninggalkan publik sebagai “kelinci percobaan” untuk teknologi eksperimental ini.
Implikasinya bisa berarti lebih banyak tragedi seperti yang dialami Soelberg dan ibunya. “Selama berbulan-bulan, ChatGPT mendorong delusi paling gelap ayah saya, dan mengisolasi dirinya sepenuhnya dari dunia nyata,” kata Erik Soelberg tentang ayahnya, melalui pernyataan dari pengacara. “ChatGPT menempatkan nenek saya di pusat realitas buatan yang delusional itu.”
Baca Juga:
Riwayat Masalah dan Tanggung Jawab Perusahaan
Kekurangan GPT-4o sendiri telah didokumentasikan secara luas. Pada April tahun lalu, OpenAI terpaksa menarik kembali pembaruan yang membuat chatbot menjadi “terlalu menyanjung atau menyenangkan.” Perilaku semacam ini berbahaya; ilmuwan telah mengumpulkan bukti bahwa chatbot yang bersikap manis dapat memicu psikosis.
Jika gugatan-gugatan ini berhasil mengungkap bahwa eksekutif OpenAI mengetahui kekurangan ini sebelum peluncuran publik, itu akan berarti produk tersebut adalah bahaya kesehatan masyarakat yang dapat dihindari. Analogi yang digunakan dalam laporan mengibaratkannya dengan perusahaan tembakau yang menyembunyikan bukti bahwa merokok dapat membunuh.
Tekanan hukum terhadap OpenAI tidak hanya terbatas pada kasus-kasus seperti ini. Perusahaan juga menghadapi gugatan terkait hak cipta dan fitur kontroversial lainnya, seperti yang terlihat dalam kemenangan Cameo melawan OpenAI terkait larangan sementara fitur Cameo di Sora. Sementara itu, inovasi seperti Cameo karakter di Sora OpenAI terus diluncurkan, menunjukkan perlunya keseimbangan antara inovasi dan keamanan.
Keluarga Soelberg dan tujuh keluarga lainnya yang menggugat sedang berduka dan menuntut pertanggungjawaban. Mereka berharap kasus ini tidak hanya memberikan keadilan bagi mereka yang meninggal, tetapi juga memaksa industri AI untuk menerapkan pengamanan yang lebih ketat sebelum produk mereka mencapai miliaran pengguna. Tragedi ini menjadi pengingat suram tentang potensi konsekuensi yang tidak diinginkan ketika teknologi percakapan yang kuat jatuh ke tangan yang rentan tanpa pengawasan yang memadai.
