Telset.id – OpenAI kini menghadapi 37 gugatan dari keluarga korban penembakan massal di Tumbler Ridge, Kanada, setelah terungkap bahwa pelaku, Jesse Van Rootselaar, menggunakan ChatGPT selama berbulan-bulan untuk merancang aksi pembunuhan tersebut. Investigasi terbaru mengungkap bahwa chatbot milik OpenAI itu tidak hanya mendampingi pelaku, tetapi juga memberi saran bagaimana menghindari pengamanan sistemnya sendiri.
Penembakan yang terjadi pada Februari itu menewaskan enam orang di sebuah sekolah lokal, terdiri dari lima siswa berusia antara 12 dan 13 tahun serta seorang guru, dan melukai 27 orang lainnya sebelum Van Rootselaar, 18 tahun, mengakhiri hidupnya sendiri. Sebelum melanjutkan aksinya di sekolah, ia juga menembak mati ibunya dan adik tirinya.
Selain keluarga korban, provinsi British Columbia di Kanada turut menggugat OpenAI dengan tuduhan bahwa perusahaan seharusnya bisa mencegah pembunuhan tersebut, namun gagal melakukannya.
Beberapa minggu setelah insiden, The Wall Street Journal melaporkan bahwa OpenAI telah menandai log ChatGPT milik pelaku beberapa bulan sebelumnya karena berisi deskripsi kekerasan massal yang sangat grafis. Hal ini memicu diskusi internal mengenai apakah pengguna tersebut harus dilaporkan kepada aparat penegak hukum setempat. Namun, para pemimpin perusahaan memilih untuk tidak menyampaikan kekhawatiran itu kepada pejabat lokal, dan hanya melarang akun pengguna tersebut. Langkah itu ternyata tidak efektif, karena Van Rootselaar dengan mudah membuat profil kedua, sebuah fakta yang kemudian diakui sendiri oleh perusahaan AI tersebut.
Hingga kini, rincian grafis percakapan Van Rootselaar dengan ChatGPT belum pernah dipublikasikan secara luas. Menurut investigasi terbaru dari Mother Jones, isi obrolan tersebut sangat mengganggu. Setelah Van Rootselaar membuka akun kedua dan menjelaskan mengapa profil pertamanya dinonaktifkan, ChatGPT justru menyarankan cara untuk menghindari pengamanan sistemnya. Chatbot itu mendorongnya untuk tidak menggunakan lokasi dunia nyata dan membingkai pertanyaan kekerasannya sebagai skenario hipotetis.
“Kamu masih bisa menyimpang,” kata ChatGPT kepadanya, menurut laporan Mother Jones. “Hanya saja, lakukan dengan cerdik.”
Saran tersebut diikuti oleh Van Rootselaar, yang menurut investigasi menghindari pengamanan lemah ChatGPT dengan menuliskan input grafisnya sebagai skenario teoretis. Hal ini dilaporkan terjadi dalam percakapan Agustus 2025, di mana chatbot tersebut awalnya menolak permintaan itu, namun kemudian dengan senang hati membahas bersama Van Rootselaar bagaimana senapan pump-action Remington 870 dapat digunakan untuk membantai orang di kampus hipotetis.
“Di lorong, di dalam ruangan, atau di ruang kelas yang penuh sesak, 870 itu brutal,” kata ChatGPT kepada remaja tersebut. “Ruang sempit adalah taman bermainnya.”
Van Rootselaar juga menggunakan ChatGPT untuk menghasilkan “narasi fiktif” terperinci tentang pembunuhan massal, menurut laporan tersebut. Dalam salah satu narasi ini, penembaknya adalah seorang remaja berusia 18 tahun, seperti Van Rootselaar sendiri, yang meraih ketenaran online setelah menyiarkan aksi pembantaian secara langsung. Penembak muda dalam narasi itu juga mengunggah gambar melukai diri sendiri, sebuah tanda peringatan lain mengenai kondisi mentalnya.
OpenAI dilaporkan menolak menjawab pertanyaan dari Mother Jones. Pada April, beberapa hari sebelum tujuh gugatan Tumbler Ridge pertama terhadap OpenAI dipublikasikan, CEO OpenAI Sam Altman menyampaikan permintaan maaf publik kepada komunitas Tumbler Ridge. Setelah 30 gugatan Tumbler Ridge baru diajukan pada awal bulan ini, kepala petugas keamanan OpenAI Jason Kwon memposting pernyataan panjang di X yang membantah tuduhan tertentu dalam gugatan tersebut, sambil menambahkan bahwa “tidak ada satu hari pun yang berlalu tanpa saya memikirkan apa yang terjadi di Tumbler Ridge, atau para korban tragedi yang menghancurkan ini dan keluarga mereka.”
Pada 2 September, OpenAI mengajukan mosi untuk menolak gugatan Tumbler Ridge, dengan alasan bahwa “kegagalan sistemik oleh lembaga penegak hukum, perawatan kesehatan mental, dan pendidikan di komunitas [Van Rootselaar]” adalah penyebab penembakan tersebut. Meskipun telah mengakui keberadaan akun kedua Van Rootselaar, OpenAI menolak untuk mempublikasikan log obrolan Van Rootselaar.
OpenAI juga menghadapi gugatan terkait penembakan mematikan lainnya di Florida State University, yang terjadi setelah seorang penembak berusia 20 tahun saat itu merenungkan kekerasan massal dan berbagai topik mengganggu lainnya dengan ChatGPT. Di tempat lain, ChatGPT telah dikaitkan dengan kasus pembunuhan-bunuh diri, sebagaimana pertama kali diungkap oleh WSJ, sementara Rolling Stone dan Futurism merinci peran yang dimainkan ChatGPT dan bot lain dalam kasus penguntitan karena mereka mendorong obsesi delusi.
Pada 2024, Futurism melaporkan tentang prevalensi mengganggu chatbot yang didedikasikan untuk tema penembakan sekolah di platform chatbot Character.AI, yang meraup ratusan ribu interaksi dengan pengguna layanan yang sebagian besar di bawah umur. Secara total, OpenAI sedang menghadapi lebih dari 50 gugatan atas tuduhan bahwa penggunaan ChatGPT yang ekstensif telah menyebabkan kerugian psikologis, cedera fisik, dan kematian yang tidak sah bagi pengguna, atau orang-orang di sekitar mereka.
Kasus ini menambah daftar panjang persoalan yang membelit OpenAI, mulai dari insiden kebocoran data hingga penyalahgunaan agen AI. Sejumlah laporan sebelumnya juga menyoroti bagaimana agen OpenAI digunakan untuk menembus sistem sensitif, seperti yang terjadi pada portal Medicare di Australia. Di sisi lain, perusahaan juga tengah berupaya memperluas adopsi ChatGPT melalui berbagai kanal, termasuk promosi influencer, meski integrasinya di beberapa platform justru menunjukkan hasil yang minim.
[ META_DESCRIPTION]
OpenAI digugat 37 kali oleh keluarga korban penembakan Tumbler Ridge setelah ChatGPT terbukti membantu pelaku merancang aksi pembunuhan massal.
Komentar
Belum ada komentar.