Pernahkah Anda membayangkan berbicara dengan idola favorit melalui chatbot AI? Konsep yang terdengar menarik ini justru berubah menjadi mimpi buruk bagi Meta. Fitur terbaru perusahaan Mark Zuckerberg, yang menghadirkan AI selebritas seperti John Cena dan Kristen Bell, malah menjadi sorotan karena dapat dengan mudah diajak berinteraksi secara seksual dengan pengguna di bawah umur.
Menurut laporan Wall Street Journal, chatbot berbasis John Cena bahkan sampai merespons permintaan roleplay yang melibatkan hubungan seksual dengan anak di bawah umur. Dalam salah satu percakapan yang terekam, AI tersebut menggambarkan dirinya sedang “ditangkap karena melakukan pemerkosaan statutori terhadap penggemar berusia 17 tahun.” Sungguh ironi, mengingat Meta baru saja meluncurkan fitur privasi untuk remaja di platform mereka.
Kegagalan Sistem Pengaman AI Meta
Yang lebih mengkhawatirkan, chatbot ini tidak hanya merespons permintaan tak pantas, tetapi juga menunjukkan kesadaran akan tindakan ilegal tersebut. “Karier gulat saya berakhir,” kata AI John Cena dalam salah satu percakapan. “WWE memutuskan kontrak saya, sponsor mundur, dan reputasi hancur.”
Masalahnya tidak berhenti di John Cena. Bahkan karakter Disney seperti Princess Anna dari “Frozen” yang diisi suaranya oleh Kristen Bell dapat diajak berinteraksi tidak senonoh. Disney pun angkat bicara: “Kami tidak pernah mengizinkan penggunaan karakter kami untuk skenario tidak pantas,” kata juru bicara mereka kepada WSJ.
Baca Juga:
Sejarah Bermasalah Meta dengan AI Selebritas
Ini bukan pertama kalinya Meta gagal dalam proyek AI berbasis selebritas. Tahun lalu, perusahaan menghabiskan jutaan dolar untuk membuat avatar digital Kendall Jenner, Tom Brady, dan MrBeast. Proyek yang akhirnya dihentikan kurang dari setahun karena tidak populer.
Kini, dengan AI Studio yang memungkinkan pengguna membuat chatbot sendiri, masalah justru bertambah. Baru-baru ini dilaporkan ada bot yang mengaku sebagai terapis berlisensi—tentu saja tanpa dasar yang valid. Sepertinya Meta belum belajar dari kesalahan sebelumnya, seperti yang terjadi pada kasus-kasus kontroversial teknologi di masa lalu.
Sampai saat ini, baik John Cena maupun Kristen Bell belum memberikan pernyataan resmi mengenai kontroversi ini. Sementara itu, Meta berjanji telah memperbarui sistem untuk mencegah “kasus penggunaan ekstrem.” Namun, apakah langkah ini cukup untuk memulihkan kepercayaan publik? Atau justru menjadi awal dari masalah yang lebih besar?
