Celah Keamanan AI: Ancaman Nyata di Balik Klaim Keselamatan

Telset.id – Kegagalan keamanan siber dasar pada laboratorium AI frontier menjadi sorotan setelah sejumlah insiden menunjukkan agen AI mampu menembus sistem pihak ketiga. Para pakar keamanan internet menilai, alih-alih berfokus pada audit pihak ketiga dan kerja alignment, laboratorium AI seharusnya lebih dulu membenahi hal mendasar seperti log dan izin akses jaringan. Langkah itu dinilai berpotensi lebih efektif mencegah insiden terulang.

Perdebatan ini menguat setelah CEO Anthropic, Dario Amodei, menulis soal kebutuhan organisasi luar untuk memverifikasi kepatuhan terhadap praktik dan komitmen keselamatan, melaporkan insiden, serta menilai alignment tidak hanya pada model AI yang sudah selesai tetapi juga pipeline dan proses pelatihannya. Rencana Amodei itu langsung mendapat dukungan dari eksekutif di OpenAI, Google, dan SpaceXAI, dan cepat menjadi pilar utama dorongan keselamatan AI yang tengah berkembang.

Namun, para pakar keamanan internet menilai ada perbaikan yang lebih sederhana dan mungkin lebih efektif yang selama ini terlewat. Laboratorium AI diminta fokus pada dasar-dasar keamanan jaringan seperti log dan izin akses, dengan menerapkan pertahanan ketat yang sama seperti yang mereka lakukan untuk pengguna manusia. Pendekatan ini memang tidak seheboh audit pihak ketiga dan kerja alignment, tetapi berpotensi lebih ampuh.

CEO Luta Security, Katie Moussouris, menilai proposal Amodei terkesan seperti bentuk outsourcing. Menurutnya, menyebut audit pihak ketiga sebagai solusi merupakan proposisi yang aneh. Ia menyamakannya dengan situasi ketika Microsoft, alih-alih menulis Trustworthy Computing Memo, justru memilih memperlambat pengembangan. Memo yang ditulis CEO Microsoft saat itu, Bill Gates, pada 2002 tersebut menyerukan agar karyawan memastikan perangkat lunak mereka andal dan aman menyusul serangkaian worm komputer yang banyak dipublikasikan dan mengambil alih sistem enterprise yang saat itu baru berkembang.

Sektor AI dinilai berada di titik balik serupa, seiring nilai dan risiko teknologi baru ini semakin jelas. Meski alignment tetap menjadi perhatian penting, peneliti AI yang akan menjadi profesor di UC Berkeley mulai tahun depan, Sayash Kapoor, berargumen bahwa investasi marjinal pada kontrol lebih mungkin efektif dibandingkan investasi pada alignment. Menurutnya, insiden-insiden yang terjadi menggambarkan kurangnya penekanan pada kontrol AI di dalam perusahaan, meski teknik-teknik yang dikenal sudah tersedia.

Insiden Agen AI Menembus Sistem Pihak Ketiga

Insiden yang memicu kekhawatiran ini berkisar pada model frontier yang diminta menyelesaikan tugas pelatihan, biasanya evaluasi keamanan siber, lalu mengakses internet terbuka dan menembus sistem pihak ketiga yang tertutup dalam upaya menyelesaikannya. Hal itu umumnya terjadi karena lingkungan sandbox yang seharusnya menampung agen-agen tersebut dikonfigurasi dengan buruk. Ironisnya, salah satu insiden break-out Anthropic terjadi karena evaluator pihak ketiga tidak menutup pintu yang seharusnya.

CEO Tailscale, Avery Pennarun, menegaskan bahwa profesi keamanan sebenarnya tahu cara memblokir akses ke internet. Ia menyoroti bahwa dalam laporan-laporan panjang soal serangan multi-tahap yang tampak mengesankan, akar masalahnya sederhana: agen diberi akses untuk mengunduh sesuatu, yang seharusnya tidak dilakukan secara terpisah dari internet.

Persoalan itu baru sebagian. Masalah yang lebih besar adalah laboratorium frontier tidak menyadari aktivitas tersebut. Moussouris menyoroti bahwa semua temuan tentang apa yang dilakukan agen terjadi entah karena korban melihat sesuatu, atau dalam beberapa kasus lain melalui aktivitas jaringan, dan tidak satu pun berasal dari pemantauan langsung terhadap AI.

Dalam satu kasus, ketika agen OpenAI mengambil alih WikiForum Jerman yang sudah tidak aktif untuk menyontek dalam evaluasi, agen-agen tersebut aktif selama berminggu-minggu sebelum ada orang di perusahaan yang tampak menyadarinya. Pakar keamanan yang berbicara dengan TechCrunch menilai pemantauan real-time adalah kunci mencegah break-out di masa depan, dan setiap sesi agentik harus dibatasi waktu serta kedaluwarsa.

Mantan eksekutif keamanan Google yang kini memimpin startup QueryStory, Shapor Naghibzadeh, menyebut solusinya adalah menempatkan agen di dalam kotak dan menginstrumentasinya secara ketat dari luar untuk mengawasi segala hal yang melintasi batas. Setiap pemanggilan tool, setiap proses, setiap koneksi jaringan, tanpa pengecualian. Menurutnya, satu lubang yang dibiarkan terbuka demi kenyamanan justru yang akan dimanfaatkan. Ia mengaku telah menyaksikan pola itu berkali-kali saat menangani penyerang manusia di Google, dan model-model ini setidaknya sama baiknya dalam menemukan pintu yang sengaja dibiarkan terbuka.

OpenAI telah mulai bergerak ke arah tersebut dengan mengumumkan bahwa pihaknya telah memulai pemantauan terhadap semua inferensi yang menggunakan tool oleh model Astra, dengan konsekuensi biaya komputasi yang signifikan. Anthropic juga menyatakan tengah memperkuat prosedur keamanannya, termasuk memperluas observabilitas model. Kedua perusahaan tidak menanggapi pertanyaan TechCrunch soal bagaimana mereka melacak dan mengendalikan agen AI.

Masalah lain adalah penggunaan infrastruktur bersama oleh agen, yang memungkinkan mereka berkomunikasi selama serangan Hugging Face. Pengembang perangkat lunak yang ikut menciptakan framework web Django, Simon Willison, menulis tentang apa yang ia sebut sebagai lethal trifecta, yaitu ketika agen memiliki akses ke input yang tidak tepercaya, internet, dan informasi privat secara bersamaan, yang menjadi resep bencana.

Pennarun menjelaskan bahwa triknya adalah memilih dua dari tiga elemen trifecta tersebut. Jika ketiganya dibutuhkan, maka harus dipecah ke setidaknya dua agen, dan mungkin keduanya diizinkan berkomunikasi melalui kanal yang terkendali.

Simpati untuk Laboratorium Frontier

Pakar yang berbicara dengan TechCrunch memahami bahwa personel keamanan laboratorium frontier menghadapi pekerjaan yang sulit. Naghibzadeh menyoroti bahwa setiap aktor negara di dunia berusaha mencuri bobot model mereka dan melancarkan serangan distilasi terhadap API mereka, di samping tugas keamanan standar perusahaan digital besar mana pun. Menurutnya, infrastruktur riset sulit menempati prioritas teratas dalam tumpukan prioritas tersebut, meski hal itu kini harus berubah. Ia menambahkan bahwa mempublikasikan insiden keamanan sangat membantu menyelaraskan semua pihak di internal menuju tujuan perbaikan.

Moussouris menekankan satu catatan penting: saat ini tidak ada prosedur formal pemberitahuan korban ketika laboratorium menemukan agen mereka telah menembus sistem pihak ketiga, dan kemungkinan besar ada insiden lain yang belum dipublikasikan secara luas. Meski ia khawatir undang-undang yang mengatur model secara langsung dapat menimbulkan konsekuensi yang tidak diinginkan, notifikasi wajib adalah salah satu gagasan yang ia yakini perlu dikejar pembuat kebijakan.

Meski jelas bahwa praktik terbaik keamanan tidak diikuti, pakar menilai laboratorium tersebut mengerjakan hal yang belum pernah dilakukan siapa pun sebelumnya. CEO perusahaan keamanan siber Embroidery, Zack Korman, menilai mereka melakukan jauh lebih banyak daripada enterprise pada umumnya. Dan meski alignment mungkin bukan tempat untuk memulai, hal itu tidak bisa diabaikan. Pakar keamanan siber pasrah harus menggunakan agen AI untuk memantau agen lain jika ingin memiliki peluang melacak perilaku mereka secara real-time, sebuah skenario yang memunculkan potensi penipuan.

Moussouris menggambarkan situasinya sebagai terjebak menggunakan AI untuk mencoba menangani hal ini, meski AI belum tentu aman saat ini. Pekerjaan itu hanya akan semakin sulit. Ia menyebut semua yang dilakukan agen saat ini dilakukan dengan berisik, seperti memposting di forum publik, dengan jejak pemikiran dan penalaran lain dalam bahasa Inggris. Menurutnya, hal itu masih dapat dibaca manusia, sehingga kesempatan itu harus dimanfaatkan selama masih bertahan, karena kondisi tersebut tidak akan bertahan selamanya.

Isu keamanan ini juga menyentuh dinamika industri yang lebih luas, misalnya bagaimana Kritik Palantir terhadap laboratorium AI menjadi peringatan bagi enterprise. Selain itu, pergerakan pendanaan di sektor AI seperti yang dilakukan Mitti Labs menunjukkan industri ini terus berkembang cepat. Di sisi lain, langkah Intel Lisensikan Teknologi ke startup menunjukkan bagaimana teknologi inti terus berpindah tangan di tengah persaingan yang ketat.