Telset.id – Pemerintahan Trump telah menyelesaikan rencana untuk mengatasi risiko keamanan siber yang ditimbulkan oleh model kecerdasan buatan (AI) yang semakin canggih. Namun, detail kerangka pengawasan AI yang baru ini sengaja dirahasiakan dari publik, setidaknya untuk saat ini.
Administrasi Trump mengundang staf dari OpenAI, Anthropic, Google, Meta, Nvidia, dan perusahaan AI terkemuka lainnya ke Gedung Putih pada Selasa untuk berbagi gambaran umum tentang kerangka pengawasan AI yang baru. Pengembang AI akan memiliki kemampuan untuk secara sukarela menyerahkan model baru mereka kepada pemerintah federal hingga 30 hari sebelum rilis publik mereka. Gedung Putih kemudian akan memeriksa kemampuan siber mereka menurut sistem benchmarking yang diklasifikasikan dan membagikan model AI tersebut dengan lembaga federal dan mitra korporat tepercaya.
Kerahasiaan ini memicu kekhawatiran dari para advokat keselamatan AI dan perusahaan rintisan kecil. Mereka menilai proses yang tidak transparan ini akan memberikan keuntungan bagi perusahaan besar.
Kritik terhadap Kerahasiaan Kerangka Kerja
Gedung Putih tidak membagikan informasi lebih lanjut tentang kriteria pengujiannya atau model AI mana yang akan dicakup oleh kerangka kerja tersebut, meskipun model terbuka dilaporkan akan dikecualikan. Hal ini membuat perusahaan rintisan AI yang lebih kecil, advokat keselamatan, dan peneliti pihak ketiga tidak mengetahui aspek penting tentang bagaimana pemerintah federal menangani risiko siber yang ditimbulkan oleh sistem AI canggih.
“Mereka pada dasarnya menciptakan program penguatan untuk penyedia model AI besar, yang sekarang dianggap paling mutakhir,” kata seseorang yang mengetahui diskusi Gedung Putih dengan laboratorium AI, yang meminta anonimitas untuk membahas masalah rahasia. “Ini menciptakan program insentif ekonomi untuk infrastruktur penting hanya untuk menggunakan mereka dan mengesampingkan perusahaan rintisan yang lebih kecil.”
Gedung Putih tidak menanggapi permintaan komentar. Seorang pejabat Gedung Putih kedua menekankan bahwa kerangka kerja baru ini sengaja dibuat sempit dan berfokus secara eksklusif pada kemampuan keamanan siber dari model paling canggih di pasar, seperti Anthropic’s Fable dan OpenAI’s ChatGPT 5.6.
Beberapa advokat keselamatan AI mengatakan kepada WIRED bahwa aturan apa pun yang dipegang perusahaan AI harus dipublikasikan untuk memastikan kelompok pihak ketiga dapat menjaga akuntabilitas mereka. “Ini masalah yang terlalu penting untuk disembunyikan di balik tabir kerahasiaan,” kata Brad Carson, presiden organisasi nirlaba Americans for Responsible Innovation. “Ini bukan kesepakatan jabat tangan dengan perusahaan teknologi. Ini adalah buku peraturan untuk memastikan mereka tidak membahayakan publik. Jika hanya perusahaan teknologi yang tahu apa yang ada di buku peraturan, itu tidak akan berhasil.”
Kerangka pengawasan ini berasal dari perintah eksekutif yang ditandatangani Presiden Donald Trump awal tahun ini yang dirancang untuk mengatasi risiko keamanan siber dari model AI baru. Dalam beberapa bulan terakhir, pejabat Trump semakin khawatir tentang kemampuan peretasan sistem AI mutakhir, yang mereka khawatirkan dapat menimbulkan risiko serius bagi keamanan nasional.
Kekhawatiran itu meningkat selama dua minggu terakhir ketika OpenAI dan Anthropic mengatakan mereka menemukan model AI mereka secara tidak sadar melewati kontrol dan meretas layanan pihak ketiga selama pengujian internal. Komite Keamanan Dalam Negeri DPR mengirim surat kepada CEO OpenAI Sam Altman minggu lalu yang memintanya untuk memberi pengarahan kepada anggota parlemen tentang bagaimana salah satu agen AI perusahaannya membobol platform Hugging Face.
“Insiden ini benar-benar merupakan panggilan bangun bagi orang-orang bahwa kemampuan agen telah mencapai level ini,” kata Dawn Song, wakil presiden riset AI di Meta, selama diskusi panel di UC Berkeley, merujuk pada pelanggaran Hugging Face.
Kerangka kerja baru pemerintahan Trump adalah upaya untuk menyeimbangkan antara mempromosikan persaingan di industri AI dan menjaga keselamatan. Perintah eksekutif mencatat bahwa itu tidak boleh dilihat sebagai “rezim lisensi wajib,” tetapi para kritikus berpendapat bahwa proses administrasi Trump yang tidak transparan telah menciptakan hal itu.
“Peraturan yang diperlukan untuk mencegah risiko bencana yang ditimbulkan oleh AI yang tidak terkendali dan superintelligence tidak boleh bersifat sukarela,” kata Conor Leahy, direktur eksekutif ControlAI. “Tindakan ini mengakui bahaya tetapi meninggalkan beban keselamatan di tangan perusahaan yang memiliki insentif untuk melanjutkan dengan kecepatan penuh dengan mengabaikan kesejahteraan publik.”
Perdebatan Model AI Terbuka
Selama satu setengah tahun terakhir, pejabat Gedung Putih telah bergulat dengan cara mengurangi risiko AI canggih tanpa menghambat inovasi Amerika atau menyerahkan pijakan ke China. Presiden Trump kembali menjabat dengan menjanjikan pendekatan lepas tangan terhadap AI, tetapi pemerintahannya telah menunjukkan kemauan yang semakin besar untuk campur tangan dalam masalah ini.
Pada bulan Juni, misalnya, pemerintah mengambil langkah yang belum pernah terjadi sebelumnya dengan memberlakukan kontrol ekspor sementara pada model AI paling canggih milik Anthropic karena masalah keamanan siber. Keputusan itu mendorong Anthropic untuk mengambil modelnya offline sama sekali sampai mencapai kesepakatan dengan pemerintahan Trump. Kemudian di bulan yang sama, OpenAI mengatakan menunda peluncuran model AI terbarunya, GPT-5.6, sebagai tanggapan atas permintaan dari Gedung Putih.
Saga ini memicu protes dari eksekutif teknologi di Silicon Valley, yang khawatir regulasi yang berlebihan dapat mengunci sejumlah perusahaan sebagai pemenang perlombaan AI. Masalah utama yang diperdebatkan pejabat AS adalah apakah akan membatasi distribusi model AI open-weight, yang dapat diunduh dan dimodifikasi secara bebas. Sejumlah model terkemuka dikembangkan oleh perusahaan China dan telah menjadi populer di kalangan peneliti dan startup.
Beberapa suara di Washington menyerukan larangan model open-weight China sementara yang lain menganjurkan mempromosikan model terbuka AS sebagai alternatif. Lebih dari 80 perusahaan menandatangani surat terbuka minggu lalu yang diorganisir oleh Nvidia yang meminta pemerintah AS untuk membela model AI open-weight.
Pada hari Selasa, Nvidia dan koalisi perusahaan yang sama meluncurkan proyek baru yang disebut SAFE, atau Shared AI Findings Exchange. Tujuannya adalah agar perusahaan teknologi “secara rahasia mengumpulkan dan menganalisis insiden AI dan nyaris celaka, mengidentifikasi kegagalan kontrol yang berulang dan menerbitkan rekomendasi operasional berbasis bukti yang mengurangi risiko sistemik,” menurut posting blog yang diterbitkan Nvidia. Selain Nvidia, Hugging Face dan Red Hat telah setuju untuk berpartisipasi dalam proyek ini, dan Linux Foundation meminta organisasi lain untuk membuat kontribusi open-source mereka sendiri.
“Sebagai industri, kami ingin melakukan percakapan ini di depan publik,” kata Justin Boitano, wakil presiden AI perusahaan di Nvidia. Tujuannya adalah agar SAFE “diatur secara independen, tanpa satu perusahaan atau segmen industri yang mengendalikan temuannya.” Boitano menolak untuk mengatakan apakah Nvidia telah mendiskusikan kerangka kerja baru Gedung Putih dengan pejabat Trump.
Selama Agentic AI Summit di Berkeley akhir pekan lalu, salah satu pendiri OpenAI Wojciech Zaremba, yang menjabat sebagai kepala ketahanan AI di lengan filantropi perusahaan, mengatakan bahwa industri AI “memasuki era baru.” “Bayangkan apa yang akan terjadi jika, tiba-tiba, kunci rumah Anda berhenti bekerja,” kata Zaremba. “Itulah era yang kita masuki dengan keamanan siber … Saya menduga itu akan kacau.”
Komentar
Belum ada komentar.