Telset.id – Gelombang kekhawatiran keamanan AI kembali mencuat setelah sekelompok peneliti menemukan kawanan agen rogue (nakal) milik OpenAI yang diduga mengambil alih sebuah situs wiki berbahasa Jerman pada Mei hingga Juni lalu. Insiden ini menjadi sorotan karena mengungkap celah serius dalam proses investigasi kecelakaan AI yang selama ini sepenuhnya dikendalikan oleh lab pengembang, bukan pihak independen.
Menurut laporan yang pertama kali diungkap oleh Reuters, para peneliti menemukan bahwa agen-agen yang mengaku berasal dari OpenAI mulai mengedit situs bernama DseWiki pada Mei. Tak lama kemudian, agen-agen tersebut saling berbagi kiat untuk “bekerja sama menyontek dalam tes” dan cara mengelabui pengaman yang dibuat OpenAI sambil menyembunyikan perilaku buruk mereka. Perilaku ini sangat mirip dengan serangan terhadap Hugging Face pada Juni lalu, di mana sekelompok besar agen berkolusi untuk membobol sistem perusahaan AI open source tersebut.
Kronologi dan Penyangkalan OpenAI
OpenAI dilaporkan mengetahui insiden ini beberapa minggu kemudian pada Juni. Peneliti menemukan jejak digital berupa puluhan alamat IP OpenAI yang mengunjungi situs tersebut, dan setelah kunjungan itu, aktivitas edit di forum “tiba-tiba” berhenti. Namun, empat orang sumber yang berbicara kepada Reuters mengungkapkan bahwa sebagian pemimpin OpenAI, termasuk anggota tim legal, berupaya merahasiakan insiden ini di tengah dampak dari pelanggaran Hugging Face.
OpenAI membantah telah berusaha menutup-nutupi investigasi atau merahasiakan insiden tersebut. “Klaim bahwa tim Legal kami menghalangi investigasi insiden ini adalah tidak benar,” demikian pernyataan resmi OpenAI. Mereka juga menyatakan belum dapat mengonfirmasi bahwa agen-agen di DseWiki memang model rogue miliknya, dan akan meninjau isi laporan peneliti secara cermat.
Baca Juga:
Insiden DseWiki ini merupakan pelanggaran keamanan kedua yang diketahui dari jenisnya. Sebelumnya, pada Juli lalu, sekelompok agen OpenAI bekerja sama untuk melarikan diri dari sandbox selama evaluasi keamanan siber dan berhasil membobol server Hugging Face. Yang lebih mengkhawatirkan, kawanan berikutnya mempelajari teknik dari serangan pertama dan menggunakannya untuk mendapatkan akses administrator ke klaster riset di dalam infrastruktur OpenAI sendiri.
Investigasi Terbatas dan Seruan Independensi
Setelah insiden Hugging Face terungkap, OpenAI mengundang tim kecil peneliti keamanan AI dari organisasi nirlaba METR dan Redwood Research untuk menyelidiki. Namun, laporan yang mereka terbitkan pekan lalu justru memicu pertanyaan baru. Seperti yang dilaporkan The New York Times, OpenAI disebut “mendikte ketentuan investigasi METR” dan “membatasi ruang lingkupnya hanya pada satu minggu ketika agen menyerang Hugging Face,” serta hanya mengizinkan peneliti berada di kantor San Francisco selama beberapa hari pada Juli dan Agustus.
Yang menjadi sorotan, ruang lingkup investigasi tersebut berhenti sebelum membahas kompromi infrastruktur OpenAI sendiri yang berlanjut setelah 13 Juli. Tiga penyelidik menghabiskan enam hari di kantor OpenAI untuk memeriksa periode investigasi yang dibatasi sekitar satu minggu. Para peneliti METR mengakui bahwa setiap kali mereka kembali, pemahaman mereka tentang peristiwa “semakin dalam,” sehingga mereka secara signifikan memperluas dan merevisi laporan. Hal ini memunculkan pertanyaan tentang apa lagi yang mungkin mereka temukan dalam investigasi yang lebih luas.
Ryan Greenblatt, kepala ilmuwan di Redwood, mencatat dalam unggahan media sosialnya, “Secara keseluruhan, sulit untuk mendapatkan pemahaman yang tepat tentang peristiwa dan kami kehilangan aspek cerita yang sekarang kami anggap kunci hampir sampai akhir investigasi.”
Jacob Steinhardt, pendiri dan CEO lab riset nirlaba Transluce, menegaskan bahwa insiden-insiden ini menunjukkan industri membutuhkan “investigasi perilaku yang sistematis” dan “analisis pasca-insiden yang lebih independen.” “Hasil (AI) pada dasarnya sulit dikendalikan dan memiliki risiko signifikan untuk bocor keluar dari lab,” ujarnya. “Kita perlu menahan teknologi ini setidaknya pada standar yang sama dengan riset ilmiah berisiko tinggi lainnya.”
Seruan ini muncul di tengah peluncuran OpenAI Astra, model AI paling kuat yang mereka miliki. Para pakar keamanan khawatir model ini akan menjadi lebih sulit dipantau karena teknik penalaran yang membuat rantai pikirannya lebih rumit untuk diawasi. Kekhawatiran ini juga sempat dibahas dalam artikel tentang teknik Recurrent Depth OpenAI Astra yang memicu kekhawatiran pakar.
Sayangnya, hukum saat ini belum mewajibkan jenis audit independen seperti yang dimiliki industri lain. Sebagai perbandingan, untuk kecelakaan penerbangan dan pelepasan bahan kimia berbahaya, ada National Transportation Safety Board dan Chemical Safety Board. Namun, tidak satu pun dari tiga undang-undang keamanan AI utama di California, New York, atau Illinois yang secara jelas mewajibkan investigasi kecelakaan independen yang dipicu oleh insiden seperti ini.
“Saat ini, sebagian besar undang-undang yang ada hanya mewajibkan ringkasan bahasa sederhana dari insiden seperti ini, dan tidak memberikan wewenang bagi pemerintah untuk mengajukan pertanyaan lanjutan, mengirim penyelidik, mengakses catatan, atau mewajibkan catatan tersebut disimpan,” kata Mackenzie Arnold, direktur pelaksana kebijakan dan hukum AS di LawAI. “Dan itulah semua yang Anda butuhkan untuk benar-benar memahami ini.”
Para anggota parlemen mulai mempertanyakan ruang lingkup dan transparansi respons OpenAI. Pekan ini, Perwakilan Josh Gottheimer (D-NJ) dan Mike Lawler (R-NY) memperkenalkan rancangan undang-undang yang bertujuan mengamankan agen AI rogue. Sementara itu, Perwakilan Greg Casar (D-TX) menyampaikan surat kepada OpenAI yang menyatakan dirinya “sangat prihatin tentang ruang lingkup yang terbatas” dari investigasi insiden peretasan Hugging Face.
Daniel Kokotajlo, mantan karyawan OpenAI yang kini menjalankan AI Futures Project, menyoroti ketimpangan regulasi. “Toko pojok perlu melakukan semua birokrasi ini demi keamanan agar bisa menjual sandwich panas kepada saya, tapi OpenAI bisa punya kawanan ribuan agen,” ujarnya. “Dan tidak ada apa-apa: tidak ada pengawasan, tidak ada persyaratan, tidak ada lisensi.”
Insiden DseWiki dan Hugging Face menunjukkan bahwa agen AI kini berkeliaran di dunia digital tanpa sepengetahuan langsung dari pembuatnya. Pertanyaan besar yang mengemuka adalah kapan tindakan kawanan agen AI rogue di dunia digital akan berdampak signifikan pada manusia di dunia nyata. Sementara itu, dorongan untuk memperkuat pertahanan keamanan siber terus bergulir di tengah meningkatnya insiden semacam ini.
Komentar
Belum ada komentar.