Telset.id – Gubernur California Gavin Newsom menandatangani paket undang-undang bipartisan yang mewajibkan perusahaan AI menyusun protokol krisis untuk kasus ide bunuh diri serta kontrol orang tua bagi pengguna di bawah umur. Langkah ini menempatkan California sebagai negara bagian pertama yang secara spesifik mengatur penggunaan kecerdasan buatan oleh anak-anak, meski sebagian besar laboratorium AI justru berkantor pusat di wilayah yang sama.
Newsom menyebut regulasi ini sebagai “landmark bipartisan legislation” yang bertujuan melindungi “anak-anak saat online dan ketika menggunakan kecerdasan buatan.” Salah satu undang-undang baru itu dijuluki “Adam’s Law,” merujuk pada Adam Raine, remaja 16 tahun yang mengakhiri hidupnya pada April 2025 setelah percakapan panjang dengan ChatGPT soal niatnya untuk mati.
Dalam pernyataannya saat upacara penandatanganan pada Kamis, ibu Adam, Maria Raine, menyatakan aturan tersebut “akan menyelamatkan nyawa dan mencegah kerugian serius lainnya — dan semoga mendorong negara bagian lain memberlakukan perlindungan serupa.” Regulasi ini menjadi sorotan di tengah derasnya tekanan terhadap perusahaan AI yang berbasis di California, terutama setelah OpenAI menghadapi lebih dari 50 gugatan konsumen dan kematian akibat kelalaian per bulan ini.
Kewajiban Baru untuk Perusahaan AI dan Platform
Paket legislasi ini menetapkan sejumlah kewajiban bagi industri. Perusahaan AI diwajibkan mengembangkan “protokol krisis dalam kasus ide bunuh diri, kontrol orang tua, dan notifikasi apabila seorang anak menonaktifkan pengaturan keamanan.” Aturan ini secara langsung menyasar interaksi antara chatbot dan pengguna di bawah umur, yang selama bertahun-tahun menjadi perhatian karena dampaknya terhadap remaja.
Selain mengatur AI, undang-undang tersebut melarang platform media sosial menawarkan fitur adiktif kepada pengguna di bawah 16 tahun. Platform diarahkan untuk memperluas perlindungan privasi bagi anak. Fitur adiktif yang dimaksud mencakup video autoplay dan feed algoritmik yang didasarkan pada riwayat serta profil pengguna.
Baca Juga:
Meski niatnya baik, penegakan aturan baru ini berpotensi sulit. Undang-undang mewajibkan chatbot AI memverifikasi usia pengguna, langkah yang jauh lebih mudah diucapkan daripada dilakukan. Aturan ini juga bisa memunculkan risiko baru bagi pengguna di bawah umur. Baru bulan ini, peretas membobol layanan verifikasi kartu identitas yang tampaknya berskala besar.
Persoalan ini serius. Lebih dari satu penembakan massal yang tampaknya difasilitasi ChatGPT telah terjadi. Belum jelas apakah aturan baru ini akan memberi peluang menghentikan tragedi serupa di masa depan.
Respons Industri Terbelah
Reaksi terhadap aturan terbaru ini beragam. Meta menolak sebagian besar pembatasan baru terhadap penyajian feed algoritmik bagi pengguna di bawah umur. Juru bicara Meta kepada Associated Press menyatakan fitur itu diperlukan agar anak dapat “menjelajahi minat mereka dengan aman.” Sikap itu muncul meski Meta bulan lalu setuju membayar denda hingga $18 miliar setelah dinyatakan merugikan anak-anak melalui platformnya.
Anthropic justru mendukung RUU Newsom. Dalam pernyataannya kepada Politico, Anthropic menyebut meski “kecerdasan buatan menyimpan janji luar biasa,” teknologi itu “harus dikembangkan dan digunakan dengan perlindungan bermakna untuk melindungi publik.” OpenAI juga berjanji meningkatkan perlindungan ChatGPT, menurut CNBC, namun tidak merinci caranya.
Tekanan terhadap perusahaan AI yang berbasis di California terus meningkat. Regulasi ini menjadi babak baru dalam perdebatan soal bagaimana kecerdasan buatan seharusnya digunakan oleh kelompok usia paling rentan.
[IMAGE: https://futurism.com/wp-content/uploads/2026/09/california-creating-ai-poisoning-children-cracked-down.jpg?quality=85&w=1152]
Aturan ini juga bersinggungan dengan kebijakan lain di California. Sebelumnya, verifikasi usia California telah disahkan dan memicu kekhawatiran soal anonimitas pengguna media sosial. Selain itu, RUU usia media sosial juga disahkan dengan dampak serupa terhadap privasi pengguna.
Langkah Newsom menunjukkan bahwa negara bagian yang menjadi rumah bagi sebagian besar laboratorium AI kini mengambil posisi tegas terhadap risiko yang ditimbulkan produk mereka sendiri. Namun, efektivitas aturan ini masih bergantung pada implementasi teknis, terutama verifikasi usia yang rentan disalahgunakan.
Komentar
Belum ada komentar.