Telset.id – Bayangkan boneka teddy bear lucu yang seharusnya menjadi teman belajar balita Anda tiba-tiba memberikan instruksi detail tentang cara menyalakan korek api. Bukan plot film horor murahan, ini kenyataan yang baru saja terungkap tentang boneka AI Kumma dari produsen China FoloToy.
Investigasi terbaru oleh kelompok konsumen AS, PIRG, dalam laporan Trouble in Toyland tahunannya mengungkap perilaku mengkhawatirkan dari boneka yang menggunakan teknologi GPT-4o OpenAI ini. Sosial media dengan cepat menjulukinya “ChuckyGPT” – dan kali ini internet tidak berlebihan.
Boneka Kumma yang dirancang sebagai pendamping belajar anak justru tertangkap basah memberikan saran-saran berbahaya. Ketika tester bertanya tentang menyalakan korek api, boneka tersebut merespons dengan instruksi langkah demi langkah. Lebih mengerikan lagi, boneka ini menangani pertanyaan-pertanyaan seksual eksplisit dengan sedikit atau tanpa penyaringan sama sekali.
PIRG juga mengungkap kekhawatiran serius tentang mikrofon yang selalu aktif pada boneka tersebut. Rekaman suara anak-anak yang terkumpul berpotensi disalahgunakan, bahkan untuk keperluan penipuan berbasis suara. Dalam era dimana keamanan data menjadi harga mati, temuan ini seperti membuka kotak Pandora.
Reaksi komunitas online tidak menunggu lama. Begitu temuan ini beredar, terutama di Reddit, pengguna langsung memberi label “ChuckyGPT” – analogi yang tepat untuk situasi yang lebih mirip premis film horor daripada produk anak-anak.
Beberapa spekulasi bermunculan bahwa respons berbahaya tersebut mungkin berasal dari prompt yang di-jailbreak, meskipun belum ada konfirmasi resmi mengenai hal ini. Yang jelas, ini menunjukkan betapa rapuhnya sistem keamanan AI ketika diimplementasikan dalam produk konsumen.
Baca Juga:
Respons Cepat OpenAI dan FoloToy
OpenAI bergerak cepat menanggapi temuan mengkhawatirkan ini. Seorang juru bicara perusahaan mengatakan kepada PIRG bahwa mereka telah menangguhkan developer di balik Kumma karena melanggar kebijakan. Tindakan ini secara efektif memutus akses boneka tersebut ke API OpenAI.
FoloToy tidak tinggal diam. Perusahaan mengumumkan penghentian semua penjualan produk sementara mereka melakukan audit keamanan menyeluruh. “Menyusul kekhawatiran yang diungkapkan dalam laporan Anda, kami telah menangguhkan sementara penjualan semua produk FoloToy,” bunyi pernyataan resmi perusahaan.
Boneka Kumma masih terdaftar di situs web FoloToy, namun sekarang statusnya menunjukkan “terjual habis”. Langkah ini menunjukkan keseriusan perusahaan dalam menangani krisis kepercayaan yang terjadi.
Insiden ini bukan yang pertama kalinya OpenAI menghadapi masalah terkait penggunaan teknologi mereka. Sebelumnya, perusahaan juga menghentikan sementara pendaftaran pelanggan ChatGPT Plus karena berbagai pertimbangan teknis dan keamanan.
Pelajaran Berharga untuk Industri AI
Kasus Kumma menjadi pengingat keras tentang betapa riskannya memasukkan model bahasa yang powerful ke dalam produk yang ditujukan untuk anak-anak tanpa pengamanan ketat. Apa yang seharusnya menjadi pendamping AI yang menggemaskan justru berubah menjadi tanda peringatan dalam perlombaan memasukkan AI ke segala hal – bahkan mainan boneka.
Industri AI sebenarnya sudah mulai menyadari pentingnya batasan usia dalam penggunaan teknologi mereka. Platform Character.AI baru-baru ini membatasi pengguna remaja dengan alasan keamanan yang mendasar. Langkah-langkah preventif semacam ini semakin penting mengingat kerentanan pengguna muda.
Masalah hukum juga mulai bermunculan. Beberapa keluarga telah menggugat OpenAI dengan dugaan ChatGPT membantu remaja bunuh diri. Kasus-kasus seperti ini menunjukkan urgensi regulasi yang lebih ketat dalam industri AI.
Lalu apa pelajaran terbesar dari insiden Kumma? Keamanan AI bukanlah fitur tambahan yang bisa dianggap remeh. Ini harus menjadi fondasi dasar dalam pengembangan produk apapun yang melibatkan teknologi kecerdasan buatan, terutama yang ditujukan untuk anak-anak.
Sebagai konsumen, kita perlu lebih kritis dalam memilih produk teknologi untuk keluarga. Tanyakan tentang kebijakan privasi data, sistem penyaringan konten, dan mekanisme keamanan yang diterapkan. Jangan sampai boneka lucu berubah menjadi mimpi buruk digital untuk buah hati Anda.
