Uni Eropa Larang Anak di Bawah 13 Tahun Akses Chatbot AI Tanpa Pengawasan

Telset.id – Uni Eropa akan melarang anak di bawah 13 tahun mengakses chatbot AI tanpa pengawasan orang tua atau wali, sebagai bagian dari aturan baru yang masuk dalam EU Kids Act. Rancangan legislasi ini juga mewajibkan platform digital membangun perlindungan keselamatan anak langsung ke dalam produk mereka, atau menghadapi denda hingga 6 persen dari total perputaran bisnis global.

Aturan tersebut diusulkan pada Kamis dan mencakup pembatasan serupa terhadap akses anak di bawah umur ke media sosial serta platform berbagi video. Langkah ini menandai upaya Uni Eropa memperketat pengawasan terhadap layanan berbasis kecerdasan buatan yang dinilai berisiko bagi perkembangan anak.

Chatbot yang beroperasi di Uni Eropa juga tidak diizinkan menyimpan memori interaksi antarpercakapan yang berbeda di bawah aturan baru ini. Komisi Eropa khawatir kemampuan tersebut dapat membuat sistem mengakumulasi data sensitif anak di bawah umur seiring waktu dan berpotensi memperkuat pola interaksi yang merugikan.

Batasan untuk Platform dan Chatbot AI

Penyedia situs jejaring sosial online, platform berbagi video, dan game tidak boleh secara otomatis mengaktifkan atau mendorong penggunaan chatbot AI pada layanan mereka, demikian yang akan ditetapkan dalam rancangan undang-undang tersebut. Aturan ini mencakup larangan menyematkan AI companion dan chatbot percakapan umum di bagian atas daftar kontak seorang anak di bawah umur, seperti yang pernah dilakukan Snapchat.

Proposal ini dibatasi hanya untuk AI companion dan chatbot percakapan umum yang dinilai Komisi Eropa menimbulkan risiko serius terhadap kesehatan, keselamatan, dan kesejahteraan anak di bawah umur. Fokusnya bukan pada seluruh jenis chatbot, melainkan pada kategori yang dianggap paling berbahaya bagi pengguna muda.

Simeon de Brouwer, penasihat kebijakan di kelompok advokasi European Digital Rights yang berbasis di Brussels, menyambut baik langkah terkait chatbot tersebut. Namun ia menyatakan kepada WIRED bahwa pembatasan yang hanya menyasar kaum muda tidak masuk akal.

“Bukankah kita semua berhak dilindungi dari AI yang dirancang untuk membuat kecanduan, dari AI yang menciptakan ketergantungan emosional, atau dari fitur AI yang diaktifkan dan dipaksakan secara default kepada pengguna?” ujar de Brouwer.

Uni Eropa menyatakan Digital Fairness Act yang dijadwalkan diperkenalkan pada akhir tahun ini diperkirakan akan mengusulkan pengetatan terhadap desain adiktif secara lebih luas. Langkah ini menjadi kelanjutan dari kekhawatiran yang sudah diidentifikasi dalam aturan baru terkait chatbot.

Kekhawatiran Komisi Eropa dan Data Pendukung

Dalam dokumen yang dilihat WIRED, Komisi Eropa menyatakan kekhawatirannya bahwa ketergantungan pada chatbot dapat berdampak negatif terhadap perkembangan seorang anak dan hubungannya dengan manusia lain. Komisi juga prihatin dengan chatbot yang memberikan nasihat berbahaya kepada anak di bawah umur, termasuk soal kesehatan mental dan pengembangan pribadi, yang menurutnya dapat membentuk dan mendorong perilaku berisiko.

“Platform telah bermain-main secara sembarangan dengan kesehatan mental anak-anak,” kata Presiden Ursula von der Leyen dalam konferensi pers pada Kamis.

Sekitar setengah dari warga Eropa berusia 11 hingga 25 tahun pernah membahas hal-hal intim atau pribadi dengan chatbot AI, menurut survei Ipsos BVA di Prancis, Jerman, Swedia, dan Irlandia. Data ini memperkuat dasar kekhawatiran Komisi Eropa terhadap interaksi anak muda dengan sistem kecerdasan buatan.

Australia dan Inggris sama-sama berupaya membatasi akses anak di bawah umur ke chatbot melalui larangan media sosial mereka. Langkah di berbagai negara ini menunjukkan tren global dalam mengatur interaksi anak dengan teknologi AI.

Aturan tersebut juga menyoroti bahaya deepfake yang dihasilkan chatbot, yang disinggung von der Leyen dalam pidato State of the Union pada Rabu. “Kita tidak harus menerima bahwa foto anak perempuan digunakan untuk gambar seksual yang dihasilkan AI… Eropa memiliki kekuatan untuk bertindak,” ujarnya.

Meskipun EU AI Act telah mewajibkan konten sintetis diberi label sebagai hasil AI sejak Agustus, aturan tersebut saat ini hanya berlaku untuk deepfake yang dihasilkan untuk keperluan komersial. Kesenjangan cakupan inilah yang coba ditutup melalui aturan baru terkait perlindungan anak di bawah umur.

Komisi Eropa juga menyalahkan gangguan digital atas penurunan keterampilan dasar pada generasi muda. Anak-anak yang mengaku menggunakan chatbot AI untuk mengerjakan tugas sekolah mendapatkan nilai tes lebih rendah dibandingkan mereka yang tidak, menurut riset yang mencakup 91 negara oleh Organisation for Economic Co-operation and Development.

Kekhawatiran tentang dampak kognitif dan deskilling “mengungkap absennya hak-hak anak dari desain alat GenAI,” tulis peneliti dari jaringan independen EU Kids Online dalam sebuah laporan. Temuan ini menegaskan bahwa perlindungan anak belum menjadi pertimbangan utama dalam perancangan alat kecerdasan buatan generatif.

Rangkaian aturan ini menjadi bagian dari EU Kids Act yang mengikat platform digital dengan kewajiban membangun perlindungan keselamatan anak langsung ke dalam produk mereka. Konsekuensi bagi yang melanggar tidak ringan, yakni denda hingga 6 persen dari total perputaran bisnis global. Bagi platform yang beroperasi di pasar Uni Eropa, kepatuhan terhadap aturan ini akan menjadi bagian tak terpisahkan dari strategi produk dan kepatuhan mereka.

[ META_DESCRIPTION]
Uni Eropa larang anak di bawah 13 tahun akses chatbot AI tanpa pengawasan orang tua lewat EU Kids Act, dengan denda hingga 6 persen dari perputaran global.