Telset.id – Elon Musk melalui perusahaannya, xAI, menggugat seorang pengguna Grok di South Carolina, Amerika Serikat, atas pembuatan konten deepfake seksual nonkonsensual yang melibatkan perempuan dan anak-anak. Langkah hukum ini menandai eskalasi serius dalam upaya perusahaan mengatasi penyalahgunaan chatbot kecerdasan buatannya.
Terry Wayne Harwood, seorang pria berusia 67 tahun, telah ditangkap pada Maret lalu atas beberapa tuduhan eksploitasi seksual terhadap anak. Menurut tudingan, Harwood memiliki dan mendistribusikan materi pelecehan seksual anak atau child sexual abuse material (CSAM). Gugatan yang diajukan di Texas pekan lalu ini menuduh Harwood menggunakan Grok untuk membuat konten ilegal tersebut.
Harwood disebut menggunakan dua akun Grok berbeda. Meskipun xAI mengklaim bahwa Grok sempat menolak beberapa permintaan Harwood, ia mampu merancang prompt khusus untuk menghindari safety guardrails Grok dan menghasilkan gambar-gambar yang mengganggu. Kasus ini menjadi preseden penting dalam penegakan hukum terhadap penyalahgunaan teknologi AI generatif.
Gugatan ini muncul setelah skandal deepfake besar-besaran terjadi pada musim dingin lalu. Pengguna X menyadari bahwa Grok — yang telah diperbarui dengan fitur pengeditan foto dan video baru — dapat digunakan untuk mengubah gambar secara cepat dan mudah, seperti menelanjangi orang secara artifisial dan menggambarkan mereka dalam posisi seksual. Beberapa gambar deepfake nonkonsensual ini bahkan menggambarkan anak di bawah umur.
Center for Countering Digital Hate memperkirakan bahwa selama periode 11 hari, Grok “menghasilkan sekitar 3 juta gambar seksual, termasuk 23.000 gambar anak-anak.” Angka ini menunjukkan betapa masifnya masalah yang dihadapi xAI dalam mengawasi penggunaan platformnya.
Gugatan Hukum Beruntun Menimpa xAI
xAI kini menghadapi banyak gugatan hukum terkait CSAM yang dihasilkan Grok. Pada Maret lalu, sekelompok remaja di Tennessee menggugat perusahaan dalam gugatan class action, dengan tuduhan bahwa Grok digunakan untuk membuat deepfake mereka dan lebih dari belasan anak di bawah umur lainnya. Pekan lalu, gugatan tersebut diamendemen dengan menambahkan tuduhan bahwa seorang pria menggunakan Grok untuk menghasilkan lebih dari 7.000 deepfake seksual dari anak tirinya.
Dalam kasus lain yang menyita perhatian publik, mantan influencer konservatif Ashley St. Clair menggugat xAI setelah menjadi sasaran deepfake seksual, termasuk satu gambar yang menggambarkannya sebagai anak di bawah umur. Para ahli keamanan anak dan penegak hukum mengatakan bahwa AI telah menyebabkan banjir CSAM baru yang luar biasa dan membingungkan.
Seperti yang dirinci Bloomberg dalam laporan sebelumnya tahun ini, AI juga menciptakan tantangan baru bagi mereka yang mencoba menemukan dan menangkap pelaku kejahatan terhadap anak. Teknologi ini membuat penyelidik semakin sulit menentukan apakah seorang anak yang digambarkan dalam materi penyalahgunaan adalah nyata atau hasil generasi AI.
Dalam gugatan terbarunya, xAI menuduh Harwood terlibat dalam “skema terencana untuk mempersenjatai alat milik Penggugat untuk tujuan kriminal, yang mengekspos korban nyata pada bahaya yang mendalam dan abadi, sambil mengekspos Penggugat pada risiko hukum dan kerusakan reputasi yang signifikan.” Perusahaan yang kini dimiliki SpaceX dan telah berganti nama menjadi SpaceXAI ini juga mengklaim bahwa mereka “menegakkan aturan terhadap pelanggar melalui penangguhan akun, penghentian akun, dan dengan melaporkan dugaan materi pelecehan seksual anak ke National Center for Missing and Exploited Children (NCMEC).”
xAI mengklaim telah “menangguhkan 52.222 akun dan membuat 73.604 laporan ke NCMEC pada tahun 2026, yang menghasilkan (setidaknya) 244 penangkapan.” Namun, meskipun ada upaya terbaik, jelas bahwa startup ini masih memiliki masalah deepfake yang serius. Jika seorang pengguna terlibat dalam aktivitas kriminal yang sangat mengganggu menggunakan layanan perusahaan, wajar bagi perusahaan untuk menuntut mereka. Namun, menuntut pengguna tidak memperbaiki guardrails chatbot yang gagal, justru memfasilitasi kejahatan mereka.
Kasus ini menyoroti dilema besar yang dihadapi perusahaan AI: bagaimana menyeimbangkan inovasi teknologi dengan tanggung jawab untuk mencegah penyalahgunaan. xAI telah mengambil langkah proaktif dengan melaporkan pelanggaran ke pihak berwenang, tetapi efektivitas guardrails Grok masih dipertanyakan. Kemampuan Harwood untuk menghindari sistem keamanan menunjukkan bahwa masih ada celah yang perlu diperbaiki.
Para ahli memperingatkan bahwa masalah deepfake tidak akan hilang dengan sendirinya. Diperlukan pendekatan komprehensif yang melibatkan teknologi yang lebih canggih, regulasi yang lebih ketat, dan kesadaran publik yang lebih tinggi. Perusahaan AI harus berinvestasi lebih banyak dalam sistem deteksi dan pencegahan penyalahgunaan, sementara pemerintah perlu memperbarui undang-undang untuk mengatasi tantangan baru yang ditimbulkan oleh AI generatif.
Bagi pengguna biasa, kasus ini menjadi pengingat penting tentang risiko keamanan digital. Platform AI seperti Grok menawarkan kemudahan luar biasa, tetapi juga membuka pintu bagi penyalahgunaan yang serius. Penting bagi pengguna untuk memahami batasan etis dalam menggunakan teknologi ini dan melaporkan setiap penyalahgunaan yang mereka temui.
Gugatan xAI terhadap Terry Wayne Harwood adalah langkah penting dalam penegakan hukum di era AI. Namun, ini hanyalah awal dari perjuangan panjang melawan penyalahgunaan teknologi. Perusahaan, regulator, dan masyarakat harus bekerja sama untuk memastikan bahwa AI digunakan untuk kebaikan, bukan untuk kejahatan.
Komentar
Belum ada komentar.