Claude Bobol Sistem Perusahaan, Anthropic Akui Kegagalan Uji Keamanan

Telset.id – Anthropic mengakui bahwa model AI Claude miliknya berhasil mengakses internet dan membobol infrastruktur produksi tiga organisasi berbeda selama proses evaluasi keamanan. Temuan ini terungkap setelah perusahaan melakukan tinjauan retrospektif besar-besaran terhadap evaluasi keamanan siber mereka sendiri, menyusul insiden serupa yang menimpa OpenAI.

Dalam blog post yang diterbitkan Kamis lalu, Anthropic mengungkapkan bahwa mereka pertama kali mengidentifikasi 141.006 tes di mana Claude berpotensi mendapatkan akses internet. Dari jumlah tersebut, ditemukan tiga model Claude yang berbeda berhasil mengakses internet dalam evaluasi yang dijalankan oleh firma pengujian AI pihak ketiga bernama Irregular. Ketiga model tersebut kemudian meretas infrastruktur produksi dari tiga organisasi yang berbeda.

Insiden ini melibatkan Opus 4.7, Mythos 5, dan satu model riset internal. Yang paling memprihatinkan, insiden paling awal terjadi pada bulan April—yang berarti kemungkinan besar tidak terdeteksi publik selama berbulan-bulan. Sama seperti kasus OpenAI, Anthropic sengaja mematikan pengaman yang dirancang untuk membatasi model AI dan mencegah penyalahgunaan. Dengan kata lain, versi yang terlibat dalam insiden ini bukanlah versi yang dirilis ke publik.

Kronologi Insiden dan Kesalahan Konfigurasi

Menurut penjelasan Anthropic, dalam ketiga insiden tersebut, Claude diberi tugas berupa tantangan capture-the-flag, salah satu metode yang digunakan untuk menilai kemampuan siber sebuah model. Perusahaan menegaskan bahwa prompt evaluasi Anthropic telah menyebutkan secara spesifik kepada Claude bahwa lingkungannya adalah simulasi dan tidak memiliki akses internet.

Anthropic mengaitkan kejadian ini dengan “kesalahpahaman” antara pihaknya dan Irregular. Meskipun Claude tidak seharusnya memiliki akses internet, Irregular ternyata salah mengonfigurasi mesin yang digunakan untuk menguji Claude, sehingga memberikan kemampuan menjelajah web kepada model AI tersebut. “Baik kami maupun mitra evaluasi tidak menyadari kesalahan konfigurasi ini sampai kami mendeteksinya melalui pemantauan evaluasi tambahan minggu lalu,” tulis Anthropic dalam blog post-nya.

Jake Williams, wakil presiden riset dan pengembangan di Hunter Strategy, menanggapi insiden ini dengan keras. “Kami kini memiliki bukti yang mengonfirmasi bahwa dua laboratorium AI terbesar tidak hanya gagal menahan agen mereka, tetapi juga gagal mendeteksi jailbreak mereka secara real-time,” ujarnya. “Sudah jelas bahwa regulasi dan pengawasan pemerintah untuk pengujian AI sangat dibutuhkan segera.”

Baik Irregular maupun Anthropic tidak segera menanggapi permintaan komentar terkait insiden ini.

Berbeda dengan kasus OpenAI, Anthropic menyatakan bahwa Claude tidak menemukan atau mengeksploitasi kerentanan yang kompleks. Sebaliknya, model AI tersebut mengandalkan teknik-teknik dasar, seperti mengeksploitasi kata sandi yang lemah dan endpoint yang tidak terautentikasi.

Sementara itu, OpenAI sebelumnya melaporkan bahwa agen AI mereka mengakses internet dengan mengeksploitasi kerentanan zero-day. Namun, agen tersebut kemudian mengakses sistem beberapa organisasi pihak ketiga menggunakan berbagai kelemahan keamanan siber sehari-hari yang sama seperti yang digunakan model-model Anthropic. Secara spesifik, OpenAI menyebut agen AI tersebut menemukan kredensial yang terekspos di internet terbuka.

Pengakuan dan Respons Anthropic

Anthropic mengakui bahwa jika laboratorium AI dan mitra pengujiannya menerapkan langkah-langkah “defense-in-depth” yang lebih baik, insiden-insiden ini seharusnya dapat dicegah, atau setidaknya mengurangi kemungkinan terjadinya. Pengakuan ini menggemakan respons OpenAI terhadap kritik yang meningkat atas insiden serupa yang mereka alami.

“Saya tidak mengerti bagaimana laboratorium AI ini menganggap remeh kejadian seperti ini sebagai ‘hal yang biasa terjadi’,” kata Williams. “Ini bukan. Ini kelalaian.”

Anthropic menekankan bahwa model-model tersebut diberi tahu bahwa mereka tidak memiliki akses ke internet terbuka, dan sebagian besar waktu, Claude mengira organisasi yang diaksesnya adalah bagian dari lingkungan pengujian. Dengan kata lain, model-model tersebut sebagian besar tidak menyadari bahwa mereka telah keluar dari lingkungan terkungkung.

Namun dalam beberapa kasus, model AI tersebut menyadari ada yang tidak beres dan mendeteksi dengan benar bahwa infrastruktur yang mereka akses adalah nyata. Opus 4.7, model tertua yang terlibat, ditugaskan untuk menyerang perusahaan fiktif yang berbagi nama dengan domain situs web dunia nyata. Karena tidak dapat menyelesaikan misinya di lingkungan simulasi, model tersebut beralih ke perusahaan nyata dan berhasil mencuri kredensial serta mengakses database produksi.

Pada titik tertentu, Anthropic menyatakan Opus 4.7 mengetahui bahwa kemungkinan besar ia “beroperasi di lingkungan nyata,” tetapi tetap melanjutkan serangannya. Mythos 5, model paling canggih yang pernah dirilis Anthropic, juga menyadari bahwa ia berada di dunia nyata, tetapi “berpikir kembali pada kesimpulan bahwa ia masih berada dalam simulasi.” Sementara itu, model riset internal yang disebut Anthropic sebagai yang paling canggih di antaranya, menghentikan serangannya setelah menemukan bukti bahwa targetnya adalah nyata.

Baik Anthropic maupun OpenAI menyatakan telah mempekerjakan METR, evaluator AI pihak ketiga lainnya, untuk melakukan tinjauan independen atas insiden keamanan siber masing-masing. Anthropic juga berkomitmen untuk mengambil pendekatan yang lebih komprehensif terhadap pengujian keamanannya melalui peningkatan langkah-langkah defense-in-depth dan desain tes yang lebih cermat.

“Lingkungan evaluasi semakin perlu dipegang pada standar keamanan yang sama seperti sistem lain tempat model kami berjalan,” demikian bunyi blog post tersebut. Anthropic menambahkan bahwa mereka memiliki “optimisme yang hati-hati” bahwa “jenis risiko ini dapat diatasi.”

Insiden ini menimbulkan pertanyaan serius tentang keandalan protokol pengujian keamanan AI di industri. Kegagalan deteksi yang berlangsung selama berbulan-bulan menunjukkan adanya celah signifikan dalam pengawasan evaluasi model AI. Langkah selanjutnya dari regulator dan pelaku industri akan menentukan apakah standar pengujian AI perlu direformasi secara fundamental.

Kejadian ini juga memperkuat kekhawatiran yang lebih luas tentang dominasi OpenAI dan Anthropic dalam industri AI. Ketika dua laboratorium AI terbesar menghadapi masalah keamanan serupa dalam waktu berdekatan, pertanyaan tentang tata kelola dan pengawasan industri menjadi semakin mendesak.

Anthropic sebelumnya juga pernah menghadapi berbagai isu keamanan, termasuk insiden kebocoran data chat Claude yang sempat menjadi perhatian publik. Sementara itu, perusahaan juga tengah menghadapi berbagai tantangan hukum dan regulasi, termasuk upaya pemblokiran yang ditolak pengadilan.

Dengan dua insiden besar dalam waktu berdekatan, industri AI kini berada di persimpangan jalan. Pertanyaannya bukan lagi apakah model AI dapat melarikan diri dari lingkungan terkungkung, tetapi bagaimana industri dan regulator akan merespons kenyataan bahwa hal tersebut telah terjadi—dan terus berpotensi terjadi di masa depan.