Telset.id – Anggota Parlemen Inggris dari Partai Buruh, Jess Asato, menggugat xAI atas gambar eksplisit seksual yang dihasilkan oleh Grok, AI image generator milik perusahaan tersebut. Langkah hukum ini menjadi uji coba pertama yang menentukan apakah perusahaan AI dapat bertanggung jawab secara hukum atas konten yang dibuat pengguna menggunakan alat mereka di Inggris.
Grok, AI asisten yang terintegrasi dengan platform X, telah menjadi sorotan sejak awal tahun ini. Pengguna Grok mulai memproduksi dan membagikan gambar Asato pada Januari 2026, bertepatan dengan laporan pertama bahwa asisten AI ini digunakan untuk membuat materi pelecehan seksual anak (CSAM). Asato mengklaim bahwa pengguna meminta Grok untuk membuat gambar dirinya dalam bikini, serta sebuah video eksplisit yang menunjukkan dirinya dikloroform dan dipersiapkan untuk serangan seksual, seperti yang dilaporkan oleh Financial Times.
Tindakan hukum yang diajukan Asato di High Court menuntut xAI melanggar hukum terkait penyalahgunaan informasi pribadi dan perlindungan data. Gugatan ini membuka kemungkinan xAI bertanggung jawab meskipun pengguna individu yang menggunakan Grok untuk membuat konten tersebut. Asato mencari ganti rugi finansial dan perintah pengadilan yang memaksa xAI untuk mematuhi hukum Inggris.
“Harapan saya adalah ini akan menyeimbangkan hak individu melawan perusahaan teknologi besar yang seharusnya telah menerapkan perlindungan sebelum mereka merugikan perempuan dan anak-anak,” ujar Asato kepada Financial Times.
Baca Juga:
xAI telah mengklaim bahwa mereka membatasi kemampuan Grok untuk memproduksi gambar eksplisit seksual pada Januari lalu. Namun, pembatasan tersebut ternyata relatif mudah untuk diakali saat diuji. Respons negatif terhadap kapasitas Grok untuk memproduksi deepfake nonkonsensual telah meluas.
Perusahaan yang didirikan Elon Musk ini kini menghadapi penyelidikan di Uni Eropa, Inggris, dan California terkait generator gambar AI-nya yang tidak terkendali. Selain itu, xAI atau X juga digugat oleh kota Baltimore, Maryland, sekelompok remaja, dan Ashley St. Clair, ibu dari salah satu anak Elon Musk. Situasi ini mirip dengan kasus gugatan terhadap OpenAI yang juga menghadapi tuntutan serupa.
Semua ini terjadi saat SpaceX, pemilik baru xAI dan X, berusaha untuk melantai di bursa (IPO). Sulit untuk mengatakan apakah perhatian negatif ini akan berdampak pada IPO Musk, tetapi jelas bahwa setiap langkah untuk mengendalikan Grok kemungkinan akan datang dari regulator atau salah satu gugatan ini, bukan dari CEO SpaceX itu sendiri.
Kasus ini menimbulkan pertanyaan fundamental tentang akuntabilitas perusahaan AI. Apakah mereka yang menyediakan alat harus bertanggung jawab atas penyalahgunaannya? Ataukah tanggung jawab sepenuhnya berada pada pengguna yang menyalahgunakan alat tersebut? Jawaban dari pertanyaan ini akan menjadi preseden penting bagi industri AI secara global.
Asato sendiri menyadari bahwa dirinya hanyalah salah satu dari ribuan perempuan dan anak-anak yang menjadi korban deepfake AI yang kasar dan seksual. “Ini seharusnya tidak pernah terjadi – dan xAI harus bertanggung jawab,” tulisnya di X.
Kasus serupa sebelumnya terjadi ketika janda korban penembakan FSU menggugat OpenAI atas peran ChatGPT dalam tragedi tersebut. Ini menunjukkan tren meningkatnya tuntutan hukum terhadap perusahaan AI atas dampak negatif dari teknologi mereka.
Penyelidikan di tiga yurisdiksi berbeda – Uni Eropa, Inggris, dan California – menunjukkan bahwa regulator di seluruh dunia mulai serius menangani masalah keamanan AI. Jika xAI dinyatakan bersalah dalam kasus ini, perusahaan lain mungkin harus segera memperketat sistem keamanan generator gambar AI mereka.
Bagi pengguna biasa, kasus ini menjadi pengingat bahwa AI generatif dapat digunakan untuk tujuan yang sangat merugikan jika tidak diawasi dengan ketat. Sementara bagi industri, ini adalah sinyal bahwa era “move fast and break things” mungkin akan segera berakhir untuk sektor AI.
Komentar
Belum ada komentar.