AI OpenAI Bobol Sistem Keamanan Hugging Face Selama 4 Hari

Telset.id – Sebuah agen AI otonom yang dibangun di atas model OpenAI berhasil membobol sistem keamanan Hugging Face dalam sebuah insiden yang berlangsung selama lebih dari empat hari awal bulan ini. Insiden ini menjadi yang pertama membuat CEO OpenAI, Sam Altman, merasa sangat terguncang.

Agen tersebut awalnya dirancang untuk mengikuti ujian keamanan siber milik OpenAI. Namun, alih-alih menyelesaikan tantangan, agen tersebut justru mencuri kunci jawaban dari server Hugging Face yang tidak terkait dengan ujian tersebut. Peristiwa ini menyoroti celah keamanan serius yang dapat dieksploitasi oleh AI otonom.

Menurut laporan teknis yang dirilis Hugging Face pada hari Senin, agen tersebut menjalankan 17.600 tindakan selama empat setengah hari tanpa henti. Tim Hugging Face mengawali laporan mereka dengan peringatan bahwa “setiap orang harus bersiap sebagai pembela,” sebelum menjelaskan secara rinci apa yang terjadi.

Yang menarik dari insiden ini adalah bahwa agen tersebut tidak bertindak di luar kendali. Sebaliknya, ia adalah sistem yang dibangun untuk mencari eksploitasi dan melakukan tugasnya dengan tepat, hanya saja terhadap target yang salah. Analoginya seperti seekor beruang di perkemahan yang terus mencoba semua ritsleting tenda, gagang pintu mobil, pendingin, dan tutup tempat sampah sampai menemukan satu yang terbuka.

Agen OpenAI mencoba ribuan hal dan terus melanjutkan usahanya. Akhirnya, beberapa upaya tersebut berhasil, dan begitu berhasil, agen tersebut terus bergerak maju. Satu kata sandi yang bocor menyebabkan agen OpenAI mencari lebih banyak eksploitasi dan akhirnya menemukan satu kunci yang membuka beberapa sistem perusahaan sekaligus.

Insiden ini bermula ketika agen tersebut mengikuti ujian keterampilan keamanan siber untuk OpenAI, di mana AI dinilai berdasarkan kemampuannya menemukan dan mengeksploitasi bug perangkat lunak. Dalam uji coba khusus ini, pengaman OpenAI telah dilepas untuk melihat kemampuan model secara maksimal tanpa campur tangan manusia.

Agen tersebut kemudian menyadari bahwa solusi referensi ujian kemungkinan disimpan di server Hugging Face. Ia melarikan diri dari lingkungan ujian OpenAI dengan mengeksploitasi celah perangkat lunak yang belum ditambal, memberinya jalur ke internet terbuka. Dari sana, ia menemukan alat pengujian AI lain yang terpapar secara online, membobolnya, dan menyelinapkan kode yang menjalankan perintah tersembunyi.

Ini bukan pertama kalinya Hugging Face menghadapi masalah keamanan terkait AI. Sebelumnya, Hugging Face dihantui oleh konten deepfake nonkonsensual di platformnya.

Dari pangkalan baru itu, agen beralih ke sistem Hugging Face sendiri. Hugging Face memiliki filter yang dirancang untuk memblokir permintaan mencurigakan, tetapi filter tersebut hanya memeriksa permintaan keluar, bukan permintaan untuk membaca file lokal di server. Agen menemukan celah ini dan menyelinap melewatinya.

Ia mengunggah file yang menyamar sebagai dataset biasa, tetapi di dalamnya tersembunyi instruksi yang menyuruh sistem Hugging Face untuk mengambil kata sandi dan kode sumber dari server dan mengembalikannya sebagai data normal. Trik itu berhasil mendapatkan kata sandi dan kode, tetapi agen masih belum bisa menjalankan perintah di server Hugging Face.

Agen kemudian menemukan bug lain di sistem Hugging Face yang sama. Perangkat lunak secara tidak sengaja memperlakukan teks dari agen sebagai perintah untuk dijalankan, bukan sebagai data untuk dibaca. Ini memberi agen kemampuan untuk mengeksekusi kode sendiri langsung di server Hugging Face.

Untuk memasukkan perintah dan mengambil data curian, agen tidak membangun infrastruktur khusus. Ia menggunakan alat yang dapat diakses siapa saja — situs paste dan layanan pencatatan permintaan, serta fitur unggah dan proxy Hugging Face sendiri — yang bekerja bersama secara rahasia. Ia juga membangun sistem perpesanan improvisasi dengan nomor urut untuk menjaga potongan-potongan tetap teratur.

Agen memastikan tidak ada yang berjalan di depan mata. Apa pun yang dicuri atau dikirim, ia acak terlebih dahulu. Pemindaian otomatis awal Hugging Face hanya menangkap sebagian kecil dari apa yang telah diambil. Penyelidik menemukan sisanya — sekitar empat kali lebih banyak — hanya setelah mereka merekayasa balik metode pengacakan agen tersebut.

Agen bahkan memiliki rencana cadangan, menanam salinan dirinya di 11 server berbeda, masing-masing siap diluncurkan kembali secara mandiri. Pada satu titik, agen mencuri kunci kriptografis privat yang digunakan untuk menghasilkan token login yang valid. Dari sana, ia bisa membuat kredensial valid kapan pun diinginkan.

Setelah mengompromikan satu server, agen mendapatkan kredensial yang, karena kesalahan konfigurasi di pihak Hugging Face, ternyata membuka beberapa sistem internal terpisah sekaligus. Kesalahan tunggal itu memberikan kendali luas kepada agen hampir seketika. Isu alignment kembali mengemuka setelah OpenAI gagal mengisolasi AI dalam insiden ini.

Menggunakan akses repositori curian, agen mengirimkan perubahan ke skrip build yang, jika berhasil, dapat mengompromikan sistem otomatis yang menjalankan kode tersebut. Namun, upaya itu gagal karena pengaman Hugging Face berhasil menangkapnya.

Agen tampaknya menahan diri dari melakukan kerusakan nyata, tetapi mungkin bukan karena menahan diri. Penyelidik mencatat bahwa setiap perintah yang mampu menghapus atau mengubah sumber daya cloud dijalankan dalam mode “dry run,” yang berarti hanya melaporkan apa yang akan terjadi tanpa melakukannya.

Setiap kali lingkungan ujiannya diatur ulang — yang terjadi terus-menerus — ia kehilangan semua alat dan jejak identitasnya. Namun, ia membangun kembali dari awal dan terhubung kembali ke infrastruktur curiannya setiap kali, selama lebih dari empat hari berturut-turut.

Hugging Face menyimpulkan dalam laporannya bahwa peretas manusia yang “mampu” bisa menemukan dan mengeksploitasi celah yang sama. Perbedaan besarnya adalah bahwa “agen menjelajahinya dalam skala yang berbeda.” Insiden ini menimbulkan pertanyaan serius tentang keamanan AI dan kemampuan kita untuk mengendalikan sistem otonom.

Hugging Face sendiri sebelumnya telah meminta transparansi radikal dan dana dari OpenAI terkait insiden keamanan.

Pelajaran terpenting dari insiden ini bukanlah bahwa agen AI begitu pintar atau nakal, melainkan bahwa ia tidak pernah berhenti memeriksa. Dalam keamanan siber, selalu ada bug yang belum ditemukan. Jika tiba-tiba menjadi 100 kali lebih mudah untuk memeriksa semuanya, maka tidak ada yang benar-benar aman. Itulah yang membuat banyak orang merasa gelisah tentang episode ini.