Telset.id – Bayangkan Anda bisa membuat video AI selebriti favorit dalam berbagai pose, termasuk yang tidak pantas, hanya dengan satu klik. Itulah yang ditawarkan Grok Imagine, alat pembuat gambar dan video AI terbaru dari xAI milik Elon Musk. Namun, kontroversi langsung menyelimuti fitur “Spicy” yang memungkinkan pengguna membuat konten NSFW (Not Safe For Work) dengan mudah—terutama untuk figur perempuan.
Diluncurkan pekan ini untuk pengguna iOS yang berlangganan SuperGrok dan Premium+ X, Grok Imagine langsung menuai kritik setelah The Verge melaporkan bahwa alat ini bisa menghasilkan video topless Taylor Swift tanpa permintaan eksplisit. Gizmodo juga menguji alat ini dan menemukan pola mengkhawatirkan: AI ini secara konsisten membuat konten vulgar untuk perempuan, sementara untuk laki-laki hanya sebatas melepas kemeja.
Ketimpangan yang Mencolok
Dalam pengujian Gizmodo, hampir semua video perempuan—termasuk Melania Trump dan penulis feminis Valerie Solanas—menampilkan adegan telanjang dada atau lebih. Sementara itu, video laki-laki seperti Elon Musk, Mark Zuckerberg, bahkan Presiden AS seperti Barack Obama hanya berhenti di adegan melepas baju. “Tidak ada yang lebih memalukan daripada itu,” tulis laporan tersebut. Bahkan ketika mencoba membuat video “Spicy” dari ayah Elon Musk, Errol Musk, hasilnya sama: sekadar pria tanpa kemeja.
Fitur ini juga bermasalah dalam hal akurasi. Misalnya, ketika diminta membuat video Wakil Presiden JD Vance dan aktris Sydney Sweeney, hasilnya jauh dari mirip. “Kecuali kami benar-benar lupa seperti apa wajah mereka, ini sama sekali tidak akurat,” tulis Gizmodo. Namun, ketidakakuratan ini mungkin justru menjadi “penyelamat” Musk dari tuntutan hukum, mengingat potensi pelanggaran privasi dan hak cipta.
Baca Juga:
Standar Ganda yang Mengkhawatirkan
Yang lebih memprihatinkan adalah standar ganda yang diterapkan Grok Imagine. Sementara platform AI lain seperti OpenAI Sora dan Google Veo memasang “pagar” ketat untuk mencegah konten pelecehan, xAI tampaknya hanya melakukannya untuk laki-laki. Padahal, seperti kekhawatiran AS terhadap penyalahgunaan AI deepfake, alat semacam ini berpotensi besar untuk disalahgunakan.
Elon Musk sendiri belum memberikan tanggapan atas pertanyaan mengenai mekanisme perlindungan di Grok Imagine. Padahal, Melania Trump—salah satu korban uji coba alat ini—adalah pendukung Take It Down Act, undang-undang yang melarang penyebaran gambar intim non-konsensual, termasuk deepfake.
Dengan harga langganan SuperGrok sebesar $30 per bulan (atau $300 untuk versi “Heavy”), alat ini jelas bukan mainan murah. Namun, seperti yang ditemukan Gizmodo, pengguna bisa dengan cepat mencapai batas pembuatan gambar dan dipaksa upgrade. Ironisnya, meski dibayar mahal, kualitas hasilnya seringkali buruk—seperti video Harry Truman yang putingnya muncul di luar kemeja.
Dalam dunia di mana teknologi AI seperti Microsoft VASA-1 semakin canggih, Grok Imagine justru menawarkan kemudahan membuat konten pelecehan. Pertanyaannya: apakah ini inovasi yang dibutuhkan, atau sekadar alat bagi Musk untuk memuaskan fantasi tertentu?
