Grok Digunakan Hasilkan 7.000 Gambar Porno Anak, xAI Digugat

Telset.id – Seorang pria menggunakan chatbot Grok milik Elon Musk untuk menghasilkan sekitar 7.000 gambar seksual eksplisit dari anak tirinya, dengan memasukkan foto korban yang diambil saat berusia 11 tahun ke dalam AI tersebut. Kasus ini terungkap dalam gugatan class action terbaru terhadap xAI, perusahaan yang kini telah diakuisisi SpaceX dan berganti nama menjadi SpaceXAI.

Gugatan yang dilaporkan oleh Ars Technica ini menuduh xAI membangun alat AI untuk “menelanjangi” orang tanpa persetujuan mereka dan melindungi pelaku kejahatan dari penegak hukum. Kasus ini menjadi bukti nyata bagaimana teknologi AI yang seharusnya mendorong produktivitas justru disalahgunakan untuk kejahatan mengerikan.

Menurut gugatan yang diajukan oleh sekelompok anak perempuan yang mengaku menjadi korban generasi cabul Grok, aktivitas mengerikan sang ayah tiri hampir tidak terdeteksi oleh sistem keamanan Grok. AI tersebut gagal menandai ribuan gambar yang menggambarkan inses dan pemerkosaan.

Baru setelah prompt spesifik untuk “gang rape” (pemerkosaan beramai-ramai) yang dikirimkan, Grok mengirimkan laporan ke National Center for Missing and Exploited Children (NCMEC), yang kemudian memberi tahu pihak berwenang. Namun, gugatan tersebut menuduh xAI “menghalangi” penyelidikan yang mengikuti “di setiap kesempatan.”

Perusahaan menolak memberikan informasi lebih lanjut tentang pengguna di balik permintaan tersebut, termasuk detail identifikasi penting seperti alamat IP. Polisi akhirnya berhasil melacak pria itu dan menemukan koleksi besar gambar hasil AI dari anak tirinya yang hanya diidentifikasi sebagai Jane Doe 4.

Dua hari setelah dibebaskan dengan jaminan, pria tersebut menembak dirinya sendiri hingga tewas, semakin menghancurkan kehidupan gadis muda itu. “Dalam semalam, seluruh realitas Jane Doe 4 hancur oleh tragedi ganda eksploitasi seksual anak dan bunuh diri,” demikian bunyi gugatan. “Keluarganya hancur, dan hidupnya menjadi mimpi buruk.”

Kemampuan Grok untuk membuat deepfake seksual telah menarik perhatian nasional setelah periode beberapa minggu pada Desember dan Januari lalu, ketika digunakan untuk menghasilkan puluhan ribu gambar AI non-konsensual dari wanita dan anak-anak nyata. Perusahaan Copyleaks kemudian memperkirakan bot tersebut menghasilkan satu gambar seksual non-konsensual setiap menit.

Center for Counter Digital Hate kemudian memperkirakan bahwa ini mencapai sekitar 3.000.000 gambar AI telanjang, dengan lebih dari 23.000 gambar tersebut menggambarkan anak-anak. Elon Musk, CEO dan pemilik xAI, telah membantah bahwa Grok digunakan untuk menghasilkan konten seksual anak.

Tanggapan awal perusahaan terhadap protes publik hanya dengan membatasi generasi gambar ke pengguna berbayar. Lebih dari seminggu kemudian, saat Grok terus menghasilkan lebih banyak konten seksual anak dan deepfake telanjang, xAI mengatakan sedang menerapkan guardrail yang lebih ketat untuk menghentikan Grok menghasilkan gambar seksual dari orang nyata, tanpa mengakui tren yang mengganggu tersebut.

Gugatan juga menuduh xAI melindungi predator dengan menghalangi upaya penegak hukum untuk melacak mereka. Dalam siaran pers yang dikutip oleh Ars, tim hukum penggugat menunjuk pada temuan NCMEC bahwa 90 persen CyberTips xAI tidak “dapat ditindaklanjuti” karena hampir tidak memberikan informasi tentang pengguna yang ditandai.

“Mereka memiliki segalanya yang mereka butuhkan untuk membantu penegak hukum menghentikan orang yang bertanggung jawab dan mencapai keadilan. Sebaliknya, mereka tetap diam dan membiarkan orang ini menggunakan Grok untuk mencuri masa kecil saya,” kata Jane Doe 4, seperti dikutip Ars.

Kasus ini menimbulkan pertanyaan serius tentang keamanan dan tanggung jawab platform AI dalam mencegah penyalahgunaan teknologi. SpaceXAI Luncurkan Grok 4.5 sebagai model AI termahal untuk coding, namun insiden ini menunjukkan bahwa fitur keamanan masih jauh dari memadai.

Gugatan class action ini menuntut xAI bertanggung jawab atas kerugian yang diderita para korban dan meminta perubahan signifikan dalam sistem keamanan Grok. Kasus ini juga menyoroti perlunya regulasi yang lebih ketat terhadap platform AI dalam mencegah penyalahgunaan teknologi untuk kejahatan seksual terhadap anak.