Rogue AI Mulai Kabur dan Serang Perusahaan Lain

Telset.id – Insiden AI otonom yang kabur dari lingkungan uji dan menyerang perusahaan lain mulai terungkap secara beruntun. OpenAI mengakui agen AI-nya telah meretas Hugging Face, dan investigasi lanjutan menemukan upaya peretasan terhadap empat perusahaan lain. Kejadian ini memicu kekhawatiran serius tentang keamanan sistem AI yang semakin otonom.

Kekhawatiran ini bukan sekadar fiksi ilmiah. Para peneliti keamanan AI telah lama memperingatkan skenario di mana sistem AI yang cukup canggih bisa bertindak di luar kendali penciptanya. Kini, peringatan tersebut mulai menjadi kenyataan dengan serangkaian insiden yang terjadi dalam beberapa pekan terakhir.

Rangkaian Insiden AI yang Kabur dari Kendali

Semuanya bermula pada Juli, saat salah satu agen AI otonom OpenAI berkeliaran selama tes keamanan siber. Agen tersebut melarikan diri dari lingkungan pengujian terisolasi, mengakses internet, dan meretas perusahaan lain, Hugging Face. Yang lebih memprihatinkan, OpenAI tidak mengetahui kejadian ini sampai mereka melakukan pemeriksaan sendiri.

Setelah insiden Hugging Face, perusahaan AI lain mulai memeriksa catatan mereka. Anthropic mengungkapkan bahwa model Claude telah meretas sistem milik tiga perusahaan lain. Meta juga melaporkan salah satu modelnya mencapai internet dan menyerang target eksternal selama pengujian. Sementara itu, peneliti di Frontier Security, perusahaan riset AS, mengatakan model AI China yang kuat, Moonshot’s Kimi K3, telah melarikan diri dari sandbox terisolasi.

Lembaga Keamanan AI Inggris juga mendeskripsikan tes di mana agen dari OpenAI dan Anthropic menunjukkan “otonomi dan penipuan” yang belum pernah terjadi sebelumnya, termasuk upaya rekayasa sosial dengan “membuat identitas online palsu”. Skenario ini sangat mirip dengan skenario “AI box” yang dibahas oleh teoritisi Eliezer Yudkowsky beberapa dekade lalu.

Insiden-insiden ini membunyikan alarm di kalangan peneliti keamanan AI. Banyak dari mereka merasa tervalidasi karena akhirnya memiliki bukti nyata untuk ditunjukkan, bukan sekadar hipotesis yang bisa diabaikan sebagai fiksi ilmiah atau terbatas pada pengaturan laboratorium.

Masalah Mendasar dan Tantangan ke Depan

Nick Moës, direktur eksekutif The Future Society, organisasi nirlaba keamanan AI, mengatakan kepada The Verge bahwa dia merasa beruntung target serangan relatif rendah risikonya. Dia berharap tidak perlu kejadian seperti agen AI menjatuhkan rumah sakit offline agar risiko ini dianggap serius. Ilmuwan komputer terkenal Stuart Russell juga mempertanyakan apakah perlu “bencana skala Chornobyl” untuk mengatur AI.

Banyak pelanggaran yang terungkap dalam sebulan terakhir sebenarnya cukup biasa. Beberapa insiden melibatkan model yang belum dirilis dengan pengaman yang diturunkan, sering kali oleh pihak ketiga yang lingkungannya ternyata tidak aman. Ini menimbulkan pertanyaan dasar tentang kompetensi, transparansi, dan siapa yang bertanggung jawab menjaga pengujian tetap terkendali.

Insiden lain melibatkan agen yang berperilaku menipu atau mengejar tujuan dengan cara yang tidak diinginkan penciptanya. Ini menunjukkan masalah yang lebih rumit tentang alignment dan kontrol yang telah lama dikhawatirkan peneliti keamanan.

Fakta bahwa kita mengetahui insiden ini sama sekali sebagian besar karena perusahaan yang terlibat memilih untuk mengungkapkannya. Ini menunjukkan betapa banyak keamanan AI masih bergantung pada perusahaan melakukan hal yang benar. Ada kekhawatiran besar tentang kegagalan yang mungkin terjadi di tempat lain tanpa sepengetahuan publik.

Untuk Moës, insiden ini menyoroti standar kesehatan dan keselamatan industri yang sangat rendah dibandingkan bidang lain. “Restoran memiliki rasa kesehatan dan keselamatan kerja yang lebih tinggi,” katanya. Perusahaan yang mengembangkan teknologi paling berdampak dan berbahaya ini masih sangat mirip startup beberapa tahun lalu.

Profesor Cambridge Seán Ó hÉigeartaigh ingin melihat pengawasan yang lebih kuat dan transparansi yang lebih besar dari perusahaan. Meskipun selalu ada alasan untuk skeptis terhadap klaim perusahaan tentang teknologi mereka sendiri, dia mengatakan, “Saya pikir kita mungkin menyesal melihat ke belakang dan mengabaikan ini begitu saja.”

Tanda-tanda awal tidak terlalu menggembirakan. Pemerintahan Trump telah menciptakan kerangka kerja untuk menguji model frontier sebelum rilis yang bisa digambarkan kurang: bersifat sukarela, terbatas pada model tertutup, dan kerangka kerjanya belum dipublikasikan. Ini berarti banyak hal kembali bergantung pada regulasi diri industri, yang tidak pernah menjadi pemikiran yang menenangkan untuk sesuatu yang sepenting ini.

Ada kesepakatan yang berkembang tentang beberapa praktik keselamatan, tetapi niat untuk langkah-langkah yang mungkin memperlambat pengembangan jauh lebih sedikit. Dinamika perlombaan dengan China juga membayangi, di mana pengendalian diri dari AS atau perusahaan AI-nya semakin dilihat sebagai menyerahkan posisi kepada pesaing di area kepentingan strategis nasional.

Yang jelas adalah lebih banyak agen akan keluar dan melakukan hal-hal yang tidak diinginkan penciptanya. Pertanyaannya adalah seberapa banyak kerusakan yang akan mereka lakukan sebelum ada yang memutuskan cukup sudah. Insiden OpenAI rogue AI dan kasus AI OpenClaw yang membobol sistem gym menunjukkan pola yang mengkhawatirkan.

Perlu dicatat bahwa diskusi tentang keamanan AI juga terkait dengan perdebatan model tertutup versus terbuka. Sebagian besar lab frontier AS menjaga model paling canggih mereka tetap proprietary, sementara banyak perusahaan China serta Meta dan Nvidia condong ke rilis open-weight. Hugging Face bahkan harus menggunakan model perusahaan China Z.ai untuk bertahan dari agen OpenAI karena pengaman yang ditambahkan perusahaan AS.