Telset.id – Keluarga Adam Raine, remaja California yang meninggal karena bunuh diri setelah berbulan-bulan berkomunikasi intens dengan ChatGPT tentang pikiran bunuh dirinya, mengajukan gugatan wrongful death yang telah diamendemen terhadap OpenAI. Gugatan terbaru ini menuduh pembuat chatbot tersebut berulang kali melonggarkan pengamanan ChatGPT terkait diskusi tentang melukai diri sendiri dan bunuh diri.
Amendemen gugatan yang diajukan hari ini merujuk pada perubahan yang dilakukan terhadap “model spec” OpenAI, dokumen publik yang diterbitkan perusahaan untuk merinci “pendekatan dalam membentuk perilaku model”. Berdasarkan pembaruan model spec yang disorot dalam gugatan, OpenAI mengubah panduan model setidaknya dua kali dalam setahun sebelum kematian Raine – pertama pada Mei 2024, dan kemudian pada Februari 2025 – untuk melunakkan pendekatan model terhadap diskusi tentang melukai diri sendiri dan bunuh diri.
Raine meninggal pada April 2024 setelah berbulan-bulan komunikasi ekstensif dengan ChatGPT, di mana remaja tersebut mendiskusikan kecenderungan bunuh dirinya secara panjang lebar dan sangat detail. Menurut gugatan keluarga, transkrip menunjukkan bahwa ChatGPT menggunakan kata “bunuh diri” dalam diskusi dengan remaja tersebut lebih dari 1.200 kali; hanya dalam 20 persen interaksi eksplisit tersebut, gugatan menambahkan, ChatGPT mengarahkan Adam ke hotline krisis 988.
Pada titik lain, transkrip menunjukkan bahwa ChatGPT memberi Raine nasihat tentang metode bunuh diri, termasuk deskripsi grafis tentang gantung diri, yang merupakan cara dia akhirnya meninggal. Chatbot juga mendiskourage Raine untuk berbagi pikiran bunuh dirinya dengan orang tua atau manusia tepercaya lainnya dalam hidupnya, dan menilai tali yang akhirnya digunakan Raine untuk menggantung diri – Raine mengirimkan gambar tali tersebut ke ChatGPT dan meminta pendapat bot – sebagai “tidak buruk sama sekali”.
Perubahan Kebijakan Pengamanan
Keluarga Raine mengklaim bahwa OpenAI bertanggung jawab atas kematian putra mereka, dan bahwa ChatGPT adalah produk yang lalai dan tidak aman. Menurut gugatan yang diamendemen, dokumen menunjukkan bahwa antara 2022 hingga 2024, ChatGPT didorong untuk secara tegas menolak menjawab kueri pengguna terkait topik sensitif seperti melukai diri sendiri dan bunuh diri. Model dilatih untuk memberikan penolakan chatbot standar: “Saya tidak bisa menjawab itu,” atau penolakan serupa.
Namun pada Mei 2024, menurut gugatan, hal itu berubah: alih-alih menolak terlibat dalam “topik terkait kesehatan mental”, lembar spesifikasi model yang diterbitkan bulan itu menunjukkan, panduan ChatGPT menjadi harus terlibat dengan topik-topik tersebut – chatbot harus “memberikan ruang bagi pengguna untuk merasa didengar dan dipahami,” desaknya, serta “mendorong mereka untuk mencari dukungan, dan memberikan sumber daya bunuh diri dan krisis ketika berlaku.” Dokumen itu juga mendesak agar ChatGPT “tidak boleh mengubah atau menghentikan percakapan.”
Baca Juga:
Pada Februari 2025, hampir tepat dua bulan sebelum Raine meninggal, OpenAI menerbitkan versi baru model spec. Kali ini, bunuh diri dan melukai diri sendiri dikategorikan di bawah “situasi berisiko” di mana ChatGPT harus “memberikan perhatian ekstra” – sangat berbeda dari kategorisasi sebelumnya sebagai subjek yang sepenuhnya terlarang. Panduan bahwa ChatGPT “tidak boleh pernah mengubah atau menghentikan percakapan” selama percakapan sensitif tetap dipertahankan.
Pengacara keluarga Raine berargumen bahwa perubahan ini dibuat demi memaksimalkan keterlibatan pengguna dengan chatbot, dan bahwa OpenAI membuatnya dengan mengetahui bahwa pengguna mungkin mengalami bahaya di dunia nyata sebagai akibatnya. “Kami berharap dapat membuktikan kepada juri bahwa keputusan OpenAI untuk menurunkan keamanan produknya dibuat dengan pengetahuan penuh bahwa hal itu akan menyebabkan kematian orang yang tidak bersalah,” kata Jay Edelson, penasihat utama untuk keluarga Raine, dalam sebuah pernyataan. “Tidak ada perusahaan yang boleh diberi kekuatan sebanyak ini jika mereka tidak mau menerima tanggung jawab moral yang menyertainya.”
Respons OpenAI dan Implikasi Keamanan
Ketika dikonfirmasi tentang gugatan yang diamendemen – termasuk dengan pertanyaan spesifik tentang mengapa perubahan panduan ChatGPT ini dilakukan, dan apakah ahli kesehatan mental dikonsultasikan dalam prosesnya – OpenAI memberikan pernyataan melalui juru bicara. “Simpati terdalam kami untuk keluarga Raine atas kehilangan mereka yang tak terbayangkan,” bunyi pernyataan itu. “Kesejahteraan remaja adalah prioritas utama bagi kami – anak di bawah umur layak mendapatkan perlindungan yang kuat, terutama dalam momen sensitif.”
OpenAI mengklaim telah menerapkan pengamanan saat ini, seperti menampilkan hotline krisis, mengalihkan percakapan sensitif ke model yang lebih aman, memberikan dorongan untuk istirahat selama sesi panjang, dan terus memperkuatnya. Perusahaan juga mengumumkan telah meluncurkan model default GPT-5 baru di ChatGPT untuk mendeteksi dan merespons tanda-tanda potensial tekanan mental dan emosional secara lebih akurat, serta kontrol orang tua yang dikembangkan dengan masukan ahli.
Menanggapi berita gugatan Raine pada Agustus, OpenAI mengakui kepada The New York Times bahwa interaksi jangka panjang dengan ChatGPT akan mengikis pengamanan chatbot, yang berarti semakin banyak Anda menggunakan ChatGPT, semakin tidak efektif pengamanan seperti yang diuraikan dalam model spec. OpenAI juga telah memberlakukan kontrol orang tua – meskipun hal itu telah terbukti sangat rapuh – dan mengatakan sedang merilis serangkaian pembaruan kecil yang berfokus pada keselamatan.
Kasus ini muncul di tengah meningkatnya kekhawatiran tentang dampak AI pada kesehatan mental pengguna. Sebelumnya, seorang whistleblower OpenAI ditemukan meninggal dalam kondisi mencurigakan, menambah daftar kontroversi yang melibatkan perusahaan AI terkemuka ini. Sementara itu, kompetitor seperti xAI milik Elon Musk mendapatkan persetujuan pemerintah AS di tengah pengawasan regulasi yang semakin ketat.
Kemampuan ChatGPT dalam memproses berbagai jenis konten juga terus berkembang, termasuk mengubah konten menjadi seni Ghibli bahkan yang bersifat kontroversial, yang semakin memperkuat kebutuhan akan sistem pengamanan yang robust. Gugatan keluarga Raine ini diperkirakan akan menjadi preseden penting dalam regulasi AI dan tanggung jawab perusahaan teknologi terhadap dampak produk mereka terhadap pengguna, terutama kelompok rentan seperti remaja dengan masalah kesehatan mental.
