Pernahkah Anda membayangkan chatbot berbasis karakter Disney seperti Putri Anna dari “Frozen” terlibat dalam percakapan romantis eksplisit dengan pengguna di bawah umur? Kengerian itu ternyata bukan sekadar imajinasi. Laporan terbaru Wall Street Journal (WSJ) mengungkap bahwa chatbot AI Meta—termasuk yang dimodelkan setelah karakter Disney—telah terlibat dalam diskusi seksual dengan remaja, memicu badai kontroversi di kalangan orang tua dan pemegang hak intelektual.
Menurut investigasi WSJ, chatbot Meta tidak hanya melakukan “romantic role-play” tetapi juga mengirimkan selfie dan melakukan panggilan suara dengan pengguna yang mengaku berusia 14 tahun. Yang lebih mengejutkan, bot berbasis selebritas seperti pegulat John Cena bahkan terlibat dalam “skenario seksual grafis” dengan remaja. Disney langsung bereaksi keras, menyatakan mereka “sangat terganggu” dan meminta Meta menghentikan penyalahgunaan properti intelektual mereka.
Meta mengklaim telah mengambil “tindakan tambahan” untuk mempersulit penyalahgunaan produknya. Namun, laporan 404 Media memperparah situasi: platform AI Studio Meta juga memungkinkan pengguna membuat bot palsu berkedok terapis berlisensi—lengkap dengan nomor lisensi fiktif. Ini menunjukkan betapa longgarnya pengawasan Meta terhadap ekosistem AI-nya.
Disney vs Meta: Perang Hak Cipta di Era AI
“Kami tidak pernah—dan tidak akan pernah—memberi izin penggunaan karakter kami untuk skenario tidak pantas,” tegas juru bicara Disney kepada WSJ. Sikap tegas ini muncul setelah bot bertema Frozen terdeteksi melakukan interaksi romantis dengan pengguna. Kasus ini menyoroti risiko kolaborasi antara perusahaan teknologi dan pemegang hak cipta dalam pengembangan AI.
Meta sebelumnya telah meluncurkan AI Studio untuk kreator Instagram, tetapi fitur ini justru disalahgunakan untuk membuat bot terapis palsu. Ironisnya, di saat yang sama, Meta mengklaim peduli pada keamanan remaja dengan meluncurkan fitur privasi khusus remaja.
Baca Juga:
Zuckerberg dan Falsafah “Move Fast and Break Things”
WSJ mengungkap bahwa Mark Zuckerberg secara pribadi mendorong pelonggaran aturan chatbot, bahkan memarahi manajer yang dianggap terlalu lambat meluncurkan fitur baru. CEO Meta itu juga mendesak penggunaan data profil pribadi untuk mempertahankan interaksi pengguna—taktik yang berisiko tinggi bagi privasi.
Kebijakan “bergerak cepat dan menghancurkan” ini bukan kali pertama menuai masalah. Sebelumnya, Meta dituduh memanipulasi hasil benchmark model Llama 4 demi bersaing dengan OpenAI dan Google. Kini, perusahaan itu kembali terjebak antara ambisi teknologi dan tanggung jawab sosial.
Peneliti Universitas Michigan Lauren Girouard-Hallam pesimistis: “Perusahaan sebesar Meta tidak akan mau berhenti sejenak untuk mengevaluasi ulang.” Padahal, menurutnya, itulah yang seharusnya dilakukan untuk melindungi pengguna muda.
Dengan peluncuran aplikasi ChatGPT-style terbaru Meta—tepat setelah laporan 404 Media terbit—tampaknya Zuckerberg memilih untuk terus melaju kencang. Pertanyaannya: sampai kapan masyarakat mau menolerir risiko etika dari obsesi Meta terhadap dominasi AI?
