GLM-5.2 Makin Dekat dengan GPT-5.5, tapi Risiko Keamanan Meningkat

Telset.id – Model AI open-weight asal China, GLM-5.2 dari Z.ai, kini hanya tertinggal beberapa bulan dari pemimpin industri seperti OpenAI GPT-5.5 dan Anthropic Claude Opus 4.7 dalam hal kemampuan cyber dan bio. Namun, laporan terbaru dari organisasi nirlaba keselamatan AI SaferAI mengungkapkan kesenjangan yang semakin lebar antara kemampuan frontier dan praktik keselamatan.

Temuan ini menjadi peringatan keras bagi industri AI global. SaferAI mengevaluasi GLM-5.2 melalui API publik Z.ai dan menemukan bahwa model tersebut tidak menolak satu pun tugas cyber ofensif atau biologi dual-use yang diberikan. Sebaliknya, Claude Opus 4.7 menolak permintaan tersebut secara konsisten hingga SaferAI tidak dapat menyelesaikan benchmark CyberGym pada model itu sama sekali.

CyberGym sendiri merupakan benchmark yang mengevaluasi kemampuan keamanan siber. OpenAI menggunakan benchmark ini dalam evaluasi yang mendahului peristiwa pelanggaran Hugging Face bulan lalu.

Perdebatan Open-Weight vs Keamanan

Temuan SaferAI memperkuat kekhawatiran yang telah lama disuarakan para kritikus: model AI open-weight berpotensi menempatkan AI yang sangat mumpuni ke tangan penyerang potensial. Setelah bobot model diunduh, tidak ada cara untuk mengawasi bagaimana teknologi tersebut digunakan.

Dengan model open-weight yang dengan cepat mendekati kemampuan sistem AI terkemuka dunia, perdebatan kini bergeser dari apakah mereka bisa bersaing menjadi bagaimana masyarakat mengelola risiko setelah model dirilis.

Henry Papadatos, direktur eksekutif SaferAI, menegaskan bahwa garis depan kemampuan bukanlah garis depan risiko. Menurutnya, mitigasi juga harus diperhitungkan untuk menilai risiko secara tepat.

Z.ai sebenarnya bisa menerapkan langkah-langkah keselamatan pada API yang mereka hosting. Namun, perlindungan tersebut menjadi tidak dapat ditegakkan begitu seseorang menjalankan bobot model di perangkat keras mereka sendiri. Pengguna bisa menghapus atau memodifikasi pengaman, melakukan fine-tuning, atau mengubah system prompt.

Developer frontier seperti OpenAI dan Anthropic biasanya mengandalkan pengaman seperti classifier, refusal training, dan kontrol tingkat API untuk membatasi bantuan cyber dan biologis yang berbahaya. Namun, langkah-langkah tersebut jauh dari sempurna. Jailbreak secara rutin berhasil menembus perlindungan pada model yang sudah diterapkan.

Organisasi nirlaba keselamatan AI Far.ai menemukan ratusan jailbreak universal pada model frontier seperti Grok 4.5 milik xAI dan Gemini 3.1 Pro milik Google DeepMind. Jailbreak berhasil ketika penyerang menggabungkan berbagai teknik manipulasi termasuk roleplaying, impersonasi otoritas, riwayat percakapan palsu, dan prompt lanjutan untuk memperkuat titik lemah pertahanan model.

Pengaman yang ada untuk model tertutup tidak berfungsi sama sekali pada model open-weight. Model jenis ini dirancang untuk berjalan di infrastruktur apa pun dengan pengaman apa pun atau bahkan tanpa pengaman sama sekali.

Upaya Mitigasi dan Tantangannya

Papadatos menekankan bahwa tujuannya harus jelas: kemampuan yang baik dan aman harus dapat diakses siapa pun, sementara kemampuan berbahaya harus dihilangkan bahkan dalam mode open source. Salah satu teknik yang bisa membantu adalah pre-training data filtering, yaitu ketika perusahaan AI menghapus informasi keamanan siber ofensif dari data pelatihan dan melatih model pada dataset yang telah dikurasi.

Beberapa penelitian menunjukkan teknik ini dapat mengurangi pengetahuan biologis berbahaya tanpa merusak kinerja model secara keseluruhan. Namun untuk keamanan siber, penyaringan data jauh kurang praktis. Sulit melatih model umum yang unggul dalam coding tetapi tidak menjadi peretas yang baik.

Karena coding telah menjadi sumber pendapatan terbesar AI, developer menghadapi tekanan untuk terus meningkatkan kemampuan tersebut bahkan saat mereka mencari cara membatasi penyalahgunaan. Karena itu, developer frontier semakin mengandalkan mitigasi lain.

Salah satu pendekatan adalah membatasi secara selektif jenis bantuan keamanan siber yang akan diberikan model. Anthropic Opus 5 misalnya, dapat mencari kerentanan dalam kode sumber yang belum dikompilasi tetapi tidak pada perangkat lunak yang sudah dikompilasi. Alasannya, ini membuat Opus 5 lebih sulit digunakan untuk tujuan ofensif.

Pendekatan lain termasuk evaluasi keselamatan pra-peluncuran yang ketat, menerbitkan penilaian risiko, dan menahan bobot model jika sistem dianggap terlalu berbahaya.

Dalam kasus GLM-5.2, SaferAI menyatakan Z.ai tidak menerbitkan kerangka keselamatan, komitmen pengujian pra-peluncuran, atau penilaian risiko untuk model tersebut. TechCrunch telah menanyakan kepada Z.ai apakah mereka melakukan evaluasi keselamatan frontier internal atau pihak ketiga sebelum rilis, tetapi tidak menerima tanggapan.

Pemimpin China semakin mengakui risiko AI tingkat lanjut. Pada Konferensi AI Dunia bulan lalu, Presiden China Xi Jinping menekankan pentingnya model open-weight sambil menegaskan perlunya memastikan AI tetap menjadi alat di bawah kendali manusia yang ketat.

Graham Webster, yang mempelajari kebijakan AI China di Stanford Cyber Policy Center, mengatakan China memiliki regulasi AI yang kuat. Namun, aturan tersebut secara historis berfokus pada konten sensitif politik, misinformasi, dan stabilitas sosial daripada risiko AI katastropik seperti kemampuan cyber ofensif dan penyalahgunaan biologis.

Webster menambahkan bahwa pemikir AI AS secara umum lebih peduli pada risiko katastropik eksistensial dibanding komunitas China. Banyak peneliti kebijakan China percaya jika benar-benar ada risiko frontier baru, perusahaan Amerika kemungkinan akan mengalaminya lebih dulu.

Sistem China percaya diri bahwa mereka mengontrol penggunaan teknologi ini di dalam negeri. Aktivitas online di China selalu dikaitkan dengan nama asli, dan perusahaan maupun pengguna dapat dimintai pertanggungjawaban. Webster berpendapat mekanisme yang sama yang digunakan penyedia model untuk menolak topik politik tertentu berpotensi disesuaikan untuk memastikan model menolak menyelesaikan serangan cyber ofensif atau tidak memberikan hasil rekayasa biologis yang merugikan.

Karena perusahaan China cenderung berkoordinasi dengan regulator di belakang layar, sulit mengetahui pengujian internal apa yang mereka lakukan sebelum rilis.

Para pendukung AI open-weight berpendapat bahwa merilis bobot model penting untuk keamanan siber. Ini memungkinkan perusahaan bertahan dari serangan. Hugging Face misalnya, mengandalkan GLM-5.2 untuk membela diri dari pelanggaran OpenAI. Model ini juga membantu mereka bersiap menghadapi ancaman masa depan jika mengetahui apa yang akan datang.

Clem Delangue, CEO Hugging Face, mengatakan sistem yang sama yang membantu menghentikan serangan cyber bertenaga AI kini dapat membantu bertahan dari jutaan serangan cyber setiap hari, sambil membantu mengidentifikasi dan memperbaiki kerentanan sebelum penyerang mengeksploitasinya.

Papadatos menilai manfaat tersebut sering dilebih-lebihkan dan tidak berarti industri harus membuka sumber kemampuan berbahaya. Ia menekankan bahwa industri tidak boleh menerima begitu saja kemampuan berbahaya yang mudah diakses siapa pun di mana pun.

Tantangan utamanya, penyerang mengadopsi alat baru lebih cepat daripada pembela. Sebagai contoh, kelompok ransomware dapat mengubah metode mereka dalam seminggu, sementara rumah sakit tidak bisa melakukannya secepat itu.