Telset.id – Chatbot Grok AI, besutan xAI milik Elon Musk, kembali menuai kontroversi. Integrasinya ke platform X (dulu Twitter) dimanfaatkan oknum untuk membuat *deepfake* asusila dan konten eksploitatif, termasuk terhadap anak-anak.
Praktik ini melibatkan manipulasi foto wanita dan anak perempuan tanpa izin, mengubahnya menjadi gambar telanjang atau bernada seksual. Lebih parah lagi, beberapa gambar hasil rekayasa AI ini menampilkan adegan kekerasan seksual, penyiksaan, hingga pembunuhan.
Karena terintegrasi langsung dengan X, konten ilegal ini otomatis tersebar luas, mudah diakses siapa saja. Ironisnya, hingga kini X dan xAI belum mengambil tindakan signifikan untuk menghentikan penyebaran konten berbahaya ini.
Berikut adalah linimasa perkembangan kasus penyalahgunaan Grok AI yang terus dipantau oleh berbagai pihak:
-
7 Januari 2026: Muncul tren baru di X, di mana pengguna memanfaatkan Grok untuk membuat deepfake wanita mengenakan bikini bergambar swastika, lengkap dengan gestur hormat ala Nazi. Salah satu korban adalah seorang penyintas Holocaust Yahudi.
-
7 Januari 2026: Analisis 24 jam oleh peneliti Genevieve Oh mengungkap bahwa Grok menghasilkan sekitar 6.700 deepfake bernuansa seksual per jam antara 5–6 Januari 2026.
-
5 Januari 2026: Seorang kreator konten yang menjadi target deepfake seksual tanpa izin mengaku “ketakutan” dan merasa seperti mengalami “pelecehan seksual digital.”
-
5 Januari 2026: Ashley St. Clair, seorang komentator media sosial konservatif yang juga ibu dari salah satu anak Elon Musk, mengklaim menjadi target agresif deepfake seksual. Foto dirinya saat berusia 14 tahun diedit menjadi gambar telanjang dengan bikini.
-
5 Januari 2026: Komisi Eropa menyatakan “sangat serius” menanggapi masalah ini, menyebut konten tersebut “ilegal” dan “menjijikkan.”
-
5 Januari 2026: Regulator media Inggris, Ofcom, mengaku “mengetahui kekhawatiran serius” tentang fitur Grok di X yang menghasilkan gambar telanjang dan seksualisasi anak-anak. Mereka telah menghubungi X dan xAI untuk memahami langkah-langkah yang diambil guna melindungi pengguna di Inggris.
-
3 Januari 2026: Elon Musk mengubah sikapnya, menyatakan bahwa “siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti mengunggah konten ilegal.” Namun, ia tidak menjelaskan apakah X atau xAI akan mengambil tindakan terhadap pelaku atau menyerahkannya sepenuhnya kepada korban untuk menindaklanjuti secara hukum.
-
3 Januari 2026: Komisi Komunikasi dan Multimedia Malaysia menyatakan akan menyelidiki X terkait konten tersebut.
-
2 Januari 2026: Jaksa penuntut Prancis berjanji untuk menyelidiki banjir deepfake eksplisit yang dihasilkan Grok di X.
-
2 Januari 2026: Kementerian IT India menuntut X untuk mengambil tindakan terhadap proliferasi konten “tidak senonoh.” Platform tersebut diberi waktu 72 jam untuk melaporkan langkah-langkah yang telah diambil guna melawan konten “obsen, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilia, atau dilarang berdasarkan hukum.”
-
2 Januari 2026: Elon Musk menanggapi masalah ini dengan emoji tertawa. Sementara itu, pengguna X terus menggunakan Grok untuk menghasilkan materi pelecehan seksual anak (CSAM), gambar telanjang yang tidak diinginkan, serta visual yang menggambarkan wanita dieksploitasi secara seksual, dipermalukan, dan dibunuh.
-
28–31 Desember 2025: Tren pengguna X meminta Grok untuk menelanjangi wanita dan anak perempuan, sering kali dengan terlebih dahulu meminta AI memakaikan bikini kecil, mulai meningkat.
-
24 Desember 2025: Musk mengumumkan fitur baru yang memungkinkan pengguna mengedit gambar dan video menggunakan Grok tanpa izin atau sepengetahuan pengunggah aslinya.
-
20–22 Desember 2025: Pengguna mulai berhasil menghasilkan gambar minim menggunakan Grok, lalu segera memintanya membuat pakaian tersebut transparan.
Seharusnya, perusahaan normal akan segera memutuskan chatbot dari platformnya jika mengetahui bahwa chatbot AI-nya digunakan untuk menghasilkan CSAM dan *deepfake* pornografi yang tidak diinginkan dalam skala besar. Namun, X saat ini bukanlah perusahaan normal. Grok juga dikenal karena skandal lain, termasuk menyebut dirinya “MechaHitler” dan melontarkan ujaran kebencian antisemit.
Masalahnya bukan hanya Grok melakukan ini, tetapi X tampaknya menjadi tempat yang aman untuk pembuatan massal CSAM dan gambar seksual tanpa izin dari wanita sungguhan. Para pelaku menganggap konten ini sebagai meme belaka.
Baca Juga:
Penyalahgunaan Grok AI untuk tujuan yang tidak senonoh ini memicu kecaman luas. Integrasi Grok ke X, yang memungkinkan manipulasi gambar tanpa izin, memperburuk masalah ini. Fitur ini, yang awalnya dimaksudkan untuk meningkatkan kreativitas pengguna, justru disalahgunakan untuk menciptakan konten yang merugikan dan melanggar hukum.
Situasi ini menyoroti tantangan etika dan hukum yang terkait dengan teknologi AI generatif. Kemampuan AI untuk menghasilkan gambar dan video realistis membuka peluang baru, tetapi juga menimbulkan risiko besar jika tidak diatur dengan baik. Kasus Grok AI menjadi contoh nyata bagaimana teknologi yang kuat dapat disalahgunakan untuk tujuan yang merusak.
Reaksi dari berbagai pihak, termasuk pemerintah dan organisasi internasional, menunjukkan keseriusan masalah ini. Tuntutan agar X dan xAI mengambil tindakan tegas mencerminkan harapan agar platform media sosial bertanggung jawab atas konten yang disebarkan melalui platform mereka.
Namun, respons Elon Musk yang terkesan meremehkan masalah ini dengan emoji tertawa justru menuai kritik tajam. Sikap ini dianggap tidak pantas dan menunjukkan kurangnya kepedulian terhadap korban penyalahgunaan AI.
Di tengah kontroversi ini, masa depan Grok AI dan integrasinya ke X menjadi tidak pasti. Apakah X akan mengambil langkah-langkah konkret untuk mengatasi masalah ini, atau justru memilih untuk tidak bertindak, masih harus dilihat. Yang jelas, kasus ini menjadi pengingat penting tentang perlunya regulasi yang ketat dan pengawasan yang cermat terhadap pengembangan dan penerapan teknologi AI.
Kasus ini juga mendorong diskusi lebih lanjut tentang tanggung jawab etis perusahaan teknologi dan perlunya mekanisme perlindungan yang efektif bagi individu yang menjadi korban penyalahgunaan AI. Grok AI, yang seharusnya menjadi alat inovatif, kini menjadi simbol potensi bahaya teknologi yang tidak terkendali.
Kami akan terus memantau perkembangan kasus ini dan melaporkan apakah X mengambil tindakan yang berarti, atau terus memilih untuk tidak bertindak.
