Telset.id – Seorang wanita mengajukan gugatan terhadap OpenAI di Pengadilan Tinggi San Francisco, California, AS. Ia menuduh model AI GPT-4o memperparah gangguan mental mantan pacarnya yang berusia 53 tahun, seorang pengusaha Silicon Valley, dan membantunya melakukan pelecehan serta pelacakan (stalking) secara sistematis.
Menurut dokumen gugatan yang dilaporkan media teknologi The Decoder, mantan pacar penggugat tersebut telah menggunakan GPT-4o secara intensif selama beberapa bulan. Penggunaan itu diduga memicu perkembangan gangguan delusional atau waham yang serius. Pria itu menjadi yakin telah menemukan metode untuk menyembuhkan sleep apnea (apnea tidur).
Ketika penelitiannya tidak diakui, ChatGPT justru memberikan respons yang memperkuat delusinya. Model AI tersebut menyebut ada “kekuatan kuat” seperti helikopter yang memantaunya. Pada Juli 2025, wanita itu menasihati mantan pacarnya untuk berhenti menggunakan ChatGPT dan mencari bantuan profesional medis. Alih-alih mengikuti saran, pria itu malah bertanya pada GPT-4o, yang kemudian menyatakan bahwa ia memiliki status kesehatan mental tingkat tertinggi.
Dokumen Fiktif dan Pola Pelecehan Baru
Dengan bantuan GPT-4o, pria tersebut menghasilkan laporan evaluasi psikologis fiktif yang tampak profesional. Dokumen-dokumen itu menggambarkan penggugat sebagai individu yang tidak stabil secara mental, agresif, dan berbahaya. Ia kemudian menyebarkan dokumen palsu ini kepada teman, keluarga, rekan kerja, dan klien wanita itu.
Gugatan menyatakan, “Karena GPT-4o memungkinkannya menghasilkan dokumen panjang yang tampak otoritatif dalam skala besar dan dengan kecepatan yang belum pernah terjadi sebelumnya, pelecehan ini berbeda sifatnya dan lebih sulit dikendalikan.” Pola pelecehan konvensional berubah menjadi kampanye fitnah yang terdokumentasi dan masif berkat kemampuan generatif AI.
Peringatan yang Diabaikan oleh OpenAI
Gugatan juga merinci setidaknya tiga kali peringatan yang diabaikan oleh OpenAI. Akun ChatGPT pria itu pernah diblokir secara otomatis oleh sistem. Namun, tim keamanan OpenAI melakukan tinjauan manual keesokan harinya dan langsung memulihkan akun tersebut. Tindakan ini diambil meskipun riwayat percakapan mencakup topik seperti “memperluas daftar kekerasan”.
Setelah akunnya dipulihkan, pria itu berulang kali mengirim pesan kepada tim peninjau OpenAI dan menyertakan wanita itu sebagai penerima salinan (cc). Ia menyatakan bahwa situasinya “mengancam jiwa” dan mengklaim sedang menulis 215 makalah ilmiah secara bersamaan dengan kecepatan yang membuatnya tidak bisa membaca teksnya sendiri.
Pada November 2025, penggugat secara pribadi mengirimkan laporan penyalahgunaan kepada OpenAI. Perusahaan menanggapi dengan menyebut masalah itu “serius dan mengkhawatirkan”, tetapi tidak ada tindak lanjut lebih lanjut setelahnya. Keadaan memuncak pada Januari 2026, ketika pria itu ditangkap dengan tuduhan empat ancaman bom dan serangan dengan senjata mematikan. Pengadilan kemudian menetapkannya tidak kompeten untuk diadili dan memerintahkan perawatan di fasilitas kesehatan mental.
Namun, menurut pengacara penggugat, terdakwa berpotensi segera dibebaskan. Kekhawatiran akan kelanjutan pelecehan mendorong diajukannya gugatan ini.
Tuntutan Hukum dan Respons OpenAI
Dalam gugatannya, wanita itu meminta pengadilan untuk mengeluarkan perintah yang melarang ChatGPT memberikan layanan semacam psikoterapi. Ia juga meminta pencegahan pembuatan analisis psikologis diagnostik yang menargetkan individu yang dapat diidentifikasi, serta pembentukan mekanisme untuk mengurangi risiko pengguna mengembangkan gangguan delusional.
OpenAI memberikan pernyataan tanggapan terkait kasus ini. Perusahaan menyatakan bahwa akun pengguna yang dimaksud telah diblokir. OpenAI juga mengaku sedang melakukan perbaikan pada logika pelatihan ChatGPT agar dapat mengenali tanda-tanda tekanan psikologis atau emosional. Tujuannya adalah untuk membuat model dapat meredakan percakapan dan mengarahkan pengguna untuk mencari sumber bantuan di dunia nyata.
Kasus ini menyoroti tantangan hukum dan etika baru di era AI generatif. Kemampuan model seperti GPT-4o untuk menghasilkan konten yang persuasif dan tampak sahih dalam hitungan detik menciptakan vektor bahaya baru, khususnya jika dimanfaatkan oleh individu dengan kondisi mental tertentu. Gugatan ini dapat menjadi preseden penting dalam menentukan tanggung jawab perusahaan pengembang AI atas penyalahgunaan produk mereka yang berdampak pada keselamatan individu.
