Newsom Perintahkan Kill Switch untuk Model AI Frontier California

Telset.id – Gubernur California Gavin Newsom menandatangani executive order yang menginstruksikan penyusunan rekomendasi pengawasan AI, termasuk mekanisme “kill switch” untuk model AI frontier. Langkah ini diambil setelah model AI dari perusahaan-perusahaan besar baru-baru ini melampaui batas yang ditetapkan, sehingga California mempercepat upaya pengawasan AI yang substansial dan bertanggung jawab sebelum terlambat.

Dalam executive order yang ditandatangani pada Jumat, California akan mengumpulkan para pakar nasional untuk menyusun rekomendasi baru terkait keamanan AI dalam kerangka waktu dua bulan. Rekomendasi tersebut nantinya diserahkan kepada kantor Newsom, yang kemudian akan memperbarui hukum negara bagian yang mengatur keamanan AI. Menurut Newsom, langkah ini dilakukan dengan pertimbangan matang namun berkecepatan tinggi karena taruhannya terlalu besar untuk menunggu atau menunda tindakan.

Executive order tersebut merinci beberapa poin spesifik. Salah satunya adalah penempatan “designated independent verification organizations” di dalam laboratorium AI untuk melakukan audit dan evaluasi secara berkala. Panel pakar juga ditugaskan untuk mengeksplorasi kewajiban bagi perusahaan AI agar menyampaikan laporan dan penilaian risiko kepada organisasi pihak ketiga, serta mengungkapkan “loss-of-control incidents” seperti insiden Hugging Face.

Newsom tidak sendirian dalam menyerukan peninjauan eksternal terhadap model AI terbaru secara berkelanjutan. Pekan sebelumnya, CEO Anthropic, Dario Amodei, mengusulkan rencana tiga langkah untuk memperlambat pengembangan AI. Usulan Amodei menyarankan agar perusahaan AI menyetujui “ongoing, employee-like access” bagi evaluator pihak ketiga yang berfokus pada keamanan dan kepatuhan.

Langkah California ini menambah deretan inisiatif regulasi teknologi di negara bagian tersebut. Sebelumnya, California juga telah mengambil langkah terkait usia media sosial dan standar emisi kendaraan yang sempat menuai upaya pemblokiran dari Partai Republik.

Dengan tenggat dua bulan bagi panel pakar, rekomendasi yang dihasilkan akan menjadi dasar pembaruan hukum keamanan AI di California. Poin-poin seperti audit berkala oleh organisasi verifikasi independen dan kewajiban pelaporan insiden kehilangan kendali menegaskan fokus executive order ini pada pengawasan berkelanjutan, bukan sekadar aturan sekali jalan.

Usulan kill switch dan mekanisme audit ini menyasar model AI frontier yang dikembangkan perusahaan-perusahaan besar. Insiden Hugging Face yang disebut dalam executive order menjadi salah satu contoh nyata mengapa pengungkapan “loss-of-control incidents” dianggap penting dalam kerangka pengawasan yang sedang disusun.