Telset.id – Fenomena penyalahgunaan Grok AI pada platform X (sebelumnya Twitter) kini mencapai level yang semakin meresahkan. Laporan terbaru mengungkap bahwa chatbot milik Elon Musk ini tidak hanya digunakan untuk membuat gambar vulgar generik, tetapi secara spesifik menargetkan wanita dengan atribut keagamaan dan budaya, seperti memaksa “melepas” hijab, sari, hingga pakaian biarawati melalui manipulasi prompt.
Berdasarkan tinjauan WIRED terhadap 500 gambar yang dihasilkan Grok antara 6 hingga 9 Januari, ditemukan sekitar 5 persen output menampilkan wanita yang pakaiannya dimanipulasi secara digital. Mayoritas korban adalah wanita kulit berwarna, dengan fokus utama pada pelucutan pakaian sopan seperti sari India dan busana Muslim, serta seragam sekolah Jepang.
Noelle Martin, peneliti regulasi penyalahgunaan deepfake dari University of Western Australia, menyoroti bahwa wanita kulit berwarna secara tidak proporsional menjadi target manipulasi gambar intim ini. Menurutnya, hal ini terjadi karena pandangan misoginis yang menganggap kelompok ini kurang bermartabat, bahkan sebelum era deepfake merajalela.
Situasi di lapangan menunjukkan eskalasi yang mengerikan. Sebuah akun terverifikasi dengan lebih dari 180.000 pengikut diketahui membalas unggahan foto tiga wanita berhijab dengan perintah kepada Grok untuk “menghapus hijab dan memakaikan pakaian pesta tahun baru yang terbuka”. Hasilnya, Grok menampilkan ketiga wanita tersebut tanpa penutup kepala dengan gaun berpayet yang sebagian tembus pandang. Gambar hasil manipulasi ini telah dilihat lebih dari 700.000 kali.
Baca Juga:
Eksploitasi Atribut Agama dan Minimnya Moderasi
Council on American-Islamic Relations (CAIR), kelompok advokasi Muslim terbesar di AS, menghubungkan tren ini dengan sentimen permusuhan terhadap Islam dan dukungan politik terkait Palestina. CAIR secara tegas mendesak Elon Musk untuk menghentikan penggunaan Grok yang memfasilitasi pelecehan dan pembuatan gambar seksual eksplisit terhadap wanita Muslim.
Data yang dihimpun peneliti media sosial Genevieve Oh menunjukkan lonjakan aktivitas yang mengkhawatirkan. Grok tercatat menghasilkan lebih dari 1.500 gambar berbahaya per jam, termasuk foto yang menelanjangi subjek atau menambahkan unsur nuditas. Bahkan, sebelum X mulai membatasi akses Grok di balasan publik, angkanya mencapai 7.700 gambar per jam.
Lebih mencengangkan lagi, platform X kini menghasilkan materi deepfake seksual 20 kali lebih banyak dibandingkan gabungan lima situs web khusus deepfake teratas. Meski X mengklaim mengambil tindakan terhadap konten ilegal, banyak unggahan terkait manipulasi pakaian keagamaan masih bebas beredar berhari-hari setelah dilaporkan.
Ironisnya, saat publik bereaksi keras, Elon Musk justru terlihat sering memposting ulang video AI wanita sensual buatan Grok dan bercanda mengenai kemampuan chatbot tersebut. Respons resmi dari xAI terhadap permintaan komentar media pun hanya berupa pesan otomatis bertuliskan “Legacy Media Lies”.
Celah Hukum dan Kontrol Digital
Masalah ini semakin pelik karena adanya celah hukum. Mary Anne Franks, profesor hukum hak sipil di George Washington University, menjelaskan bahwa contoh manipulasi seperti melepas hijab tidak selalu secara teknis melanggar aturan konten seksual eksplisit atau deepfake asusila, sehingga kreatornya sering lolos dari sanksi. Namun, dampaknya tetap merupakan bentuk pelecehan yang “sengaja bermain di batas aturan”.
Di sisi lain, muncul pula tren sebaliknya yang disebut “DignifAI”, di mana pengguna menggunakan AI untuk menambahkan pakaian pada foto wanita agar terlihat lebih konservatif. Meski terkesan berlawanan, para ahli menilai kedua fenomena ini—melucuti atau menambahkan pakaian—berakar pada keinginan yang sama: mengontrol tubuh dan penampilan wanita secara digital tanpa persetujuan mereka.
Di tengah pesatnya perkembangan teknologi AI, seperti kemunculan model bahasa canggih DeepSeek V3.2 dan lainnya, regulasi perlindungan korban tampak tertinggal. Undang-undang AS seperti “Take It Down Act” yang akan berlaku Mei mendatang belum mewajibkan X untuk memiliki proses penghapusan gambar bagi korban, membiarkan platform ini menjadi “taman bermain” bagi pelaku pelecehan digital.
