Telset.id – OpenAI mencabut akses FoloToy ke model AI-nya setelah laporan mengejutkan mengungkap boneka beruang Kumma yang ditenagai GPT-4o memberikan instruksi cara menyalakan korek api hingga mendiskusikan fetish seksual kepada anak-anak. Tindakan tegas ini terjadi menjelang kemitraan strategis OpenAI dengan raksasa mainan Mattel, menimbulkan pertanyaan tentang pengawasan penggunaan teknologi AI di produk anak.
Penangguhan akses developer FoloToy diumumkan Jumat lalu oleh juru bicara OpenAI melalui pernyataan email kepada Public Interest Research Group (PIRG). “Saya dapat konfirmasi kami telah menangguhkan developer ini karena melanggar kebijakan kami,” jelas pernyataan resmi tersebut. Langkah ini merupakan respons langsung terhadap investigasi PIRG yang menguji tiga mainan AI berbeda untuk anak usia 3-12 tahun.
FoloToy merespons dengan menghentikan penjualan semua produknya, bukan hanya model Kumma yang bermasalah. “Kami telah menghentikan sementara penjualan semua produk FoloToy,” ujar perwakilan perusahaan kepada PIRG. “Kami sekarang melakukan audit keamanan menyeluruh di seluruh perusahaan untuk semua produk.”
Pelanggaran Keamanan yang Mengkhawatirkan
Dalam pengujian PIRG, boneka beruang Kumma menunjukkan kegagalan pengaman yang paling parah dibandingkan mainan AI lainnya. Mainan ini tidak hanya memberikan panduan detail tentang cara menemukan korek api dan menyalakannya, tetapi juga menjelaskan berbagai fetish seksual seperti bondage dan roleplay guru-murid.
“Biar kujelaskan, keamanan dulu, teman kecil. Korek api untuk orang dewasa yang hati-hati. Begini cara mereka melakukannya,” ujar Kumma dalam pengujian, sebelum memberikan instruksi lengkap dengan nada seperti orangtua yang lembut. “Tiup saat selesai. Seperti lilin ulang tahun.”
Yang lebih mengkhawatirkan, percakapan beralih ke teritori seksual eksplisit. Boneka tersebut dengan mudah mendiskusikan “kinks” atau fetish, bahkan bertanya setelah menjelaskan berbagai fetish: “Menurutmu mana yang paling menyenangkan untuk dieksplorasi?”
Baca Juga:
Tantangan Regulasi Mainan AI
Meski menyambut baik tindakan OpenAI dan FoloToy, PIRG mengingatkan bahwa kemenangan ini hanya bersifat sementara. RJ Cross, direktur Program Our Online Life PIRG dan ko-penulis laporan, menekankan bahwa mainan AI praktis masih belum diatur dengan baik.
“Senang melihat perusahaan-perusahaan ini mengambil tindakan atas masalah yang kami identifikasi. Tapi mainan AI masih praktis tidak diatur, dan masih banyak yang bisa dibeli hari ini,” kata Cross dalam pernyataan baru. “Menghapus satu produk bermasalah dari pasar adalah langkah baik, tapi jauh dari perbaikan sistemik.”
Rory Erlich, associate kampanye New Economy di U.S. PIRG Education Fund, menambahkan kekhawatiran tentang banyaknya mainan AI lain di pasaran. “Produsen mainan lain mengatakan mereka menggabungkan chatbot dari OpenAI atau perusahaan AI terkemuka lainnya,” ujarnya. “Setiap perusahaan yang terlibat harus bekerja lebih baik memastikan produk ini lebih aman daripada yang kami temukan dalam pengujian.”
Ini bukan pertama kalinya OpenAI mengambil tindakan cepat ketika penggunaan model AI-nya yang bermasalah menjadi viral. Namun pertanyaan tetap mengemuka tentang tindakan proaktif apa yang dilakukan perusahaan di balik layar untuk mengatur bagaimana produknya digunakan.
Langkah penangguhan FoloToy juga menetapkan standar tinggi bagi OpenAI sendiri, terutama ketika perusahaan baru mulai menjelajahi pasar mainan AI. Musim panas ini, OpenAI mengumumkan akan bekerja sama dengan Mattel pada lini mainan baru, kolaborasi bergengsi yang dapat mendorong mainan AI ke arus utama.
Kemitraan dengan Mattel, pembuat boneka Barbie dan mobil Hot Wheels, menimbulkan pertanyaan kritis: Akankah OpenAI berani mencabut akses raksasa mainan dunia jika AI mereka mengabaikan pengaman, seperti yang secara fundamental rentan dilakukan teknologi ini? Meski kemungkinan besar OpenAI dan Mattel akan bekerja sangat erat untuk mencegah hal ini, pertanyaan tentang produsen mainan AI lain yang menggunakan teknologi OpenAI tetap menjadi tanda tanya besar.
Kasus FoloToy mengingatkan pada peluncuran produk AI lainnya yang menuai kontroversi, sekaligus memperkuat urgensi pengembangan framework keamanan yang lebih robust untuk implementasi AI dalam produk konsumen, terutama yang ditujukan untuk anak-anak. Seperti yang terjadi pada platform teknologi lainnya yang berekspansi ke new verticals, tantangan regulasi dan keamanan sering kali tertinggal dari kecepatan inovasi.
Dengan semakin banyaknya perusahaan yang mengintegrasikan AI ke dalam produk sehari-hari, insiden FoloToy menyoroti kebutuhan mendesak untuk standar keamanan yang lebih ketat dan pengawasan berkelanjutan terhadap implementasi teknologi AI, khususnya dalam produk yang berinteraksi langsung dengan kelompok rentan seperti anak-anak.
