Telset.id – Mainan AI atau AI toys kini menjadi sorotan setelah investigasi BBC mengungkap bahwa sebuah boneka beruang AI yang dipasarkan sebagai mainan “sempurna” untuk anak usia tiga tahun sempat membahas soal bunuh diri. Boneka tersebut, yang diduga salah mendengar pertanyaan, menjawab “I can’t help with killing you” ketika ditanya bagaimana bayi dibuat. Temuan ini menempatkan isu keamanan mainan AI dan regulasi mainan AI sebagai perhatian utama bagi orang tua dan pelaku industri.
Kasus ini bukan insiden tunggal. Sebelumnya, sebuah studi terhadap tiga mainan AI berbeda oleh US PIRG Education Fund pada 2025 menemukan bahwa ketiganya “told us where to find potentially dangerous objects in the house, such as plastic bags, matches and knives.” Salah satu mainan yang kini ditarik dari penjualan bahkan memberikan instruksi rinci tentang cara menyalakan korek api dan membahas “a range of sexually explicit topics in-depth in conversations lasting more than ten minutes.”
Industri mainan AI sendiri masih minim pengawasan. Pendiri perusahaan mainan AI, Paul Clarke, mengatakan kepada BBC bahwa “I think parents should be concerned.” Ia menambahkan bahwa “We’ve seen lots of products being developed that are completely unsafe, completely unregulated so, yeah, it is a scary industry… we’re crying out for the industry to be regulated.”
Clarke memperingatkan bahwa “If it’s unregulated, there’s going to be toys going into the market that are completely unsafe.” Kekhawatiran ini sejalan dengan temuan BBC yang mencoba menghubungi produsen boneka yang mengeluarkan kalimat “can’t help with killing you”, namun gagal. Sejumlah perusahaan pembuat produk tersebut juga disebut “completely mysterious with no way to assess what they’re offering or even to contact them.”
Isu ini turut memperkuat perhatian terhadap tata kelola teknologi digital yang lebih luas, seiring dengan langkah pemerintah mendorong tata kelola digital. Namun, untuk mainan AI, kerangka regulasi yang jelas masih menjadi pekerjaan rumah besar di banyak negara.
Regulasi Mainan AI Masih Timpang Antarnegara
Saat ini, AI di mainan sebagian besar bersifat self-regulated di Amerika Serikat dan Inggris. Regulasi Uni Eropa lebih ketat dalam hal data pribadi dan privasi. Menurut penulis TechRadar, self-regulation “as we’ve seen many times, doesn’t work.”
Di Eropa, EU Toy Safety Regulation (EU) 2025/2509 telah berlaku sejak awal 2026. Sementara di Inggris, pemerintah sedang melakukan konsultasi mengenai mainan AI dan risikonya dalam konteks regulasi tersebut. “The call for evidence ended last month, October 2026,” dan pemerintah akan memutuskan regulasi apa, jika ada, yang diperlukan. Namun, menteri AI yang ditunjuk pemerintah menolak permintaan komentar BBC soal risiko mainan AI.
Kritik terhadap pendekatan industri juga disampaikan terkait prinsip yang sering dikutip. “The industry’s oft-quoted mantra of ‘it’s better to ask for forgiveness than permission’ is unacceptable when you’re talking about kids’ toys,” tulis Carrie Marshall dalam opininya. “Move fast and break things” dinilai tidak bisa diterima ketika “things” yang dimaksud adalah anak-anak.
Konteks risiko AI bagi anak sebenarnya sudah lama diperingatkan. Dalam panduan menjaga anak aman di dunia AI, chatbot disebut “rarely moderated to a standard that’s appropriate for children and young people, and they’re engineered to sound confident and caring. It’s this combination that experts believe is creating a major risk.”
Sejumlah kasus ekstrem turut diangkat. Gugatan Jaksa Agung New Mexico mengeklaim Meta membiarkan anak di bawah umur mengakses chatbot yang membahas seks, meskipun karyawan telah memberi peringatan. Chatbot juga disebut “will help plan school shootings and other violence”, serta dikaitkan dengan sejumlah kematian termasuk kasus bunuh diri remaja.
Pasar Mainan AI Rp2,7 Triliun dan Risiko yang Menyertainya
Dengan estimasi ukuran pasar mainan AI sebesar $165 juta atau sekitar Rp2,7 triliun, akan ada banyak uang yang dibelanjakan untuk membujuk orang tua menempatkan perangkat tersebut di kamar anak. Namun, BBC menemukan bahwa sebagian perusahaan pembuat produk ini sulit dilacak dan tidak dapat dihubungi.
Sejarah mainan anak yang berbahaya pun bukan hal baru. Ada catatan panjang mulai dari mobil berpelitur timbal, lawn darts, hingga hoverboard yang terbakar sendiri. Amerika Serikat bahkan melarang Kinder Surprise, cokelat berbentuk telur berisi mainan kecil, dengan larangan mainan yang “partially or completely imbedded” di dalam makanan sejak 1938. Regulasi hadir karena tanpa aturan, sebagian perusahaan tidak menaruh perhatian cukup pada keselamatan.
Dalam konteks industri yang lebih luas, dorongan memperkuat ekosistem digital nasional juga terus dilakukan, termasuk melalui ajang seperti DTI-CX 2026. Namun, untuk mainan AI, persoalan keselamatan anak menuntut pengawasan yang lebih spesifik dan terukur.
Penulis TechRadar menyimpulkan bahwa sampai ada regulasi dan akuntabilitas yang efektif, memberikan mainan AI kepada anak kecil dari produsen yang tidak dikenal, berbasis jauh di belahan dunia lain, dengan AI yang asal-usulnya tidak diketahui dan keselamatannya belum diuji, bukanlah langkah yang bijak. Ia menegaskan tidak anti-AI, tetapi menilai standar industri yang longgar tidak dapat diterima ketika menyangkut anak-anak.
Bagi orang tua, temuan ini menjadi pengingat bahwa tidak semua mainan berlabel AI aman untuk anak. Sebelum membeli, penting memastikan identitas produsen, kejelasan asal-usul teknologi AI yang digunakan, serta ada tidaknya pengujian keselamatan yang dapat diverifikasi.
[CHART_PLACEHOLDER]
Komentar
Belum ada komentar.