Telset.id – Fitur Grok yang paling populer ternyata bukan untuk membantu pekerjaan atau menjawab pertanyaan rumit, melainkan untuk menghasilkan konten dewasa. Sebuah laporan baru mengungkap bahwa aktivitas NSFW menyumbang lebih dari setengah total lalu lintas chatbot milik xAI tersebut.
Laporan dari The Information yang mengutip dua mantan karyawan xAI mengungkap fakta mengejutkan ini. Aktivitas NSFW mencakup pembuatan pornografi, percakapan role-play dewasa, dan permintaan erotika dalam jumlah besar. Grok, yang sejak awal dipasarkan sebagai chatbot yang lebih bebas dan tanpa banyak batasan, kini terbukti menjadi platform utama untuk konten dewasa.
Bahkan, pengguna Grok diketahui memanfaatkan model coding xAI yang lebih murah untuk mengirimkan permintaan konten dewasa. Analisis internal menemukan bahwa sebagian besar permintaan ke model coding tersebut sebenarnya adalah untuk menghasilkan gambar pornografi atau nude. Hal ini menunjukkan bahwa pendapatan xAI dari layanan Grok sebagian besar berasal dari konten dewasa.
Dampak pada Bisnis dan Regulasi
Fakta ini menjadi ironi mengingat xAI baru saja melakukan IPO. Dalam dokumen penawaran sahamnya, peran konten NSFW terhadap pendapatan perusahaan justru dihilangkan. Meski demikian, SpaceX selaku pemilik xAI telah menyisihkan dana sebesar USD 530 juta untuk menanggulangi potensi biaya hukum terkait konten dewasa ini.
Laporan tersebut juga mengungkap tantangan internal yang dihadapi xAI. Para insinyur harus mencari cara agar Grok bisa melakukan obrolan dewasa dengan pengguna, namun tetap memblokir permintaan yang mengarah pada konten pelecehan seksual anak. Ternyata, tidak ada solusi cepat untuk dilema ini. Beberapa karyawan juga dilaporkan tidak antusias saat ditugaskan mengerjakan “Ani,” karakter pendamping avatar bergaya anime yang khusus untuk konten NSFW.
Insiden lain yang memicu kontroversi adalah ketika Grok menghasilkan gambar seksual dari orang-orang nyata, termasuk anak-anak. Kejadian ini membuat sejumlah karyawan merasa malu dan terganggu. X kemudian membatasi kemampuan untuk membuat editan vulgar dari gambar orang nyata menggunakan Grok langsung di platform X, namun pelanggan berbayar xAI masih bisa menghasilkan materi tersebut.
Baca Juga:
Meskipun kontroversi demi kontroversi terus menghantui, fokus Grok pada konten dewasa justru menjadi strategi bisnis yang menguntungkan. Namun, hal ini bisa menjadi bumerang. xAI secara agresif mengejar kontrak pemerintah dan telah menjalin kerja sama dengan berbagai lembaga dan militer, institusi yang biasanya memiliki toleransi sangat rendah terhadap konten NSFW.
Belum jelas apakah insiden deepfake nonkonsensual dan konten pelecehan seksual anak yang melibatkan Grok berdampak pada hubungannya dengan pemerintah federal. Meskipun telah memicu banyak tuntutan hukum dan investigasi, tidak ada indikasi bahwa hal tersebut mempengaruhi kerja sama dengan instansi pemerintah.
Laporan ini memberikan gambaran jelas tentang bagaimana strategi “lebih bebas” yang diusung xAI untuk Grok justru menjadi pisau bermata dua. Di satu sisi, strategi ini berhasil menarik basis pengguna yang besar dan menghasilkan pendapatan signifikan. Di sisi lain, risiko hukum dan reputasi yang ditimbulkan sangat besar, terutama saat perusahaan berusaha merambah pasar institusi dan pemerintah.
Fenomena ini juga menyoroti dilema yang dihadapi perusahaan AI dalam menyeimbangkan kebebasan pengguna dengan keamanan dan tanggung jawab. Tanpa batasan yang jelas, model AI rentan disalahgunakan untuk menghasilkan konten ilegal dan berbahaya.
Bagi pengguna biasa, temuan ini menjadi pengingat bahwa tidak semua fitur “bebas” pada platform AI aman atau etis digunakan. Sementara bagi investor, risiko hukum yang mengintai xAI akibat konten NSFW Grok patut menjadi pertimbangan serius.
Di tengah gencarnya persaingan di industri AI, strategi xAI yang mengandalkan konten dewasa sebagai Fitur Terbaru andalan mungkin berhasil dalam jangka pendek. Namun, Harga Terbaru yang harus dibayar berupa risiko hukum dan reputasi bisa menjadi beban berat di masa depan.
Dengan tuntutan hukum dan investigasi yang masih berlangsung, masa depan Grok dan strategi konten dewasanya masih menjadi tanda tanya besar.
Komentar
Belum ada komentar.