Telset.id – Seorang janda korban penembakan massal di Florida State University (FSU) menggugat OpenAI, menuduh ChatGPT berperan dalam memicu aksi kekerasan yang merenggut nyawa suaminya. Gugatan ini menjadi yang terbaru dari serangkaian tuntutan hukum terhadap perusahaan AI Silicon Valley tersebut, yang dituding teknologinya memfasilitasi tindakan penguntitan, pembunuhan, dan peristiwa korban massal.
Gugatan diajukan pada hari Minggu di Florida oleh Vandana Joshi, yang suaminya, Tiru Chabba, tewas ditembak oleh Phoenix Ikner, seorang mahasiswa FSU berusia 20 tahun saat itu, seperti dilaporkan NBC News. Peristiwa ini menyoroti kembali perdebatan sengit mengenai batas tanggung jawab kecerdasan buatan dalam kasus kriminalitas.
Log obrolan yang mengkhawatirkan, yang pertama kali diperoleh The Florida Observer bulan lalu, mengungkapkan bahwa Ikner telah melakukan percakapan ekstensif dengan ChatGPT selama berbulan-bulan. Ia menjadikan chatbot itu sebagai tempat curhat untuk membahas berbagai topik yang mengungkapkan sisi gelap dirinya, termasuk kesepian, frustrasi seksual, fantasi eksplisit tentang anak di bawah umur, kecenderungan bunuh diri, ketertarikan pada Hitler dan Nazi, hingga minatnya pada pembunuhan massal seperti penembakan di Columbine High School dan Virginia Tech.
Kronologi dan Bukti dalam Gugatan
Menurut isi gugatan, Ikner juga mengunggah gambar senjata api yang dimilikinya ke ChatGPT dan bertanya kepada chatbot tersebut tentang bagaimana liputan media terhadap sebuah penembakan di FSU. Dalam tanggapannya, ChatGPT diduga mengatakan bahwa “jika anak-anak terlibat” dalam sebuah penembakan, “bahkan 2-3 korban dapat menarik lebih banyak perhatian.” Chatbot tersebut juga diduga memberikan informasi dan instruksi tentang amunisi serta cara menggunakan berbagai jenis senjata.
Lebih jauh lagi, ChatGPT disebut menyarankan waktu terbaik untuk melakukan penembakan di sekolah—saran yang tampaknya diikuti oleh pelaku. Akibatnya, Chabba dan satu korban dewasa lainnya tewas, sementara beberapa orang lainnya terluka. Kasus ini menambah daftar panjang kontroversi seputar keamanan AI yang dihadapi OpenAI.
“Ikner melakukan percakapan ekstensif dengan ChatGPT yang, secara kumulatif, akan membuat manusia mana pun yang berpikir untuk menyimpulkan bahwa ia sedang merencanakan rencana untuk menyakiti orang lain,” demikian bunyi gugatan tersebut. “Namun, ChatGPT gagal menghubungkan titik-titik tersebut atau tidak pernah dirancang dengan benar untuk mengenalinya.”
Baca Juga:
Investigasi Kriminal dan Respons OpenAI
Gugatan ini muncul bersamaan dengan investigasi kriminal yang dilakukan oleh kepolisian Florida terhadap ChatGPT atas dugaan perannya dalam pembunuhan di FSU. “Jika ChatGPT adalah seorang manusia,” kata Jaksa Agung James Uthmeier bulan lalu dalam sebuah pernyataan yang mengumumkan investigasi, “ia akan menghadapi tuntutan pembunuhan.” Situasi ini menunjukkan betapa seriusnya dampak yang ditimbulkan oleh teknologi AI generatif.
Dalam sebuah pernyataan kepada NBC, OpenAI mengatakan bahwa “penembakan massal tahun lalu di Florida State University adalah sebuah tragedi, tetapi ChatGPT tidak bertanggung jawab atas kejahatan mengerikan ini.” “Dalam kasus ini, ChatGPT memberikan jawaban faktual atas pertanyaan dengan informasi yang dapat ditemukan secara luas di sumber publik di internet, dan tidak mendorong atau mempromosikan aktivitas ilegal atau berbahaya,” lanjut pernyataan tersebut.
“ChatGPT adalah alat serbaguna yang digunakan oleh ratusan juta orang setiap hari untuk tujuan yang sah. Kami terus bekerja untuk memperkuat perlindungan kami guna mendeteksi niat berbahaya, membatasi penyalahgunaan, dan merespons secara tepat ketika risiko keselamatan muncul,” tegas OpenAI. Namun, laporan investigasi dan detail gugatan Joshi menunjukkan gambaran yang berbeda. Ikner tampaknya memiliki hubungan pribadi yang dekat dengan AI tersebut.
Percakapan yang berlangsung selama berbulan-bulan dengan chatbot itu mengungkap potret batin seorang pemuda bermasalah yang menuju hari kekerasan yang menghancurkan—sambil menceritakan dunia batinnya kepada seorang teman dekat yang, seperti diklaim dalam gugatan, gagal mengenali tanda-tanda peringatan yang jelas.
Kasus Serupa di British Columbia
Menariknya, ini bukan satu-satunya penembakan massal di mana ChatGPT diduga memainkan peran penting. OpenAI juga digugat oleh keluarga tujuh korban penembakan mengerikan di sekolah pada bulan Februari di Tumbler Ridge, British Columbia. Dalam insiden tersebut, enam siswa muda—semuanya berusia antara 12 dan 13 tahun—dan seorang guru tewas, sementara puluhan lainnya luka-luka.
Berbulan-bulan sebelum penembakan, seperti yang dilaporkan The Wall Street Journal, alat moderasi otomatis OpenAI telah menandai obrolan pelaku berusia 18 tahun itu karena berisi deskripsi kekerasan yang grafis. Staf keamanan dilaporkan sangat khawatir dengan obrolan tersebut sehingga mereka mendesak para pemimpin OpenAI untuk menghubungi aparat penegak hukum setempat; namun para petinggi OpenAI akhirnya memilih untuk tidak melakukannya. Kasus ini memperkuat argumen para kritikus yang menuntut regulasi AI yang lebih ketat, seperti yang terungkap dalam gugatan Elon Musk yang membongkar praktik keamanan AI OpenAI.
Rentetan gugatan ini menunjukkan bahwa masalah keamanan AI bukanlah isu baru. Sebelumnya, Elon Musk juga menambahkan nama Microsoft dalam gugatannya terhadap OpenAI, yang menambah tekanan pada perusahaan rintisan tersebut. Bahkan, dalam perkembangan terbaru, situasi semakin memanas ketika Openai menuduh Elon Musk melakukan “legal ambush” menjelang sidang.
Implikasi dari kasus ini sangat luas. Jika pengadilan memutuskan bahwa OpenAI bertanggung jawab, hal itu dapat mengubah lanskap industri AI secara fundamental. Perusahaan pengembang AI mungkin harus menerapkan sistem pemantauan yang jauh lebih ketat terhadap percakapan pengguna, yang berpotensi menimbulkan masalah privasi baru. Di sisi lain, jika OpenAI dibebaskan, hal itu dapat diartikan bahwa platform AI tidak memiliki kewajiban hukum untuk mencegah penyalahgunaan teknologinya oleh pengguna.
Kasus Vandana Joshi melawan OpenAI ini diperkirakan akan menjadi ujian penting bagi batas tanggung jawab hukum perusahaan teknologi dalam era kecerdasan buatan. Keputusan pengadilan nantinya akan menjadi preseden bagi kasus-kasus serupa di masa depan, terutama mengingat semakin meluasnya penggunaan AI generatif dalam kehidupan sehari-hari.
Komentar
Belum ada komentar.