Telset.id – Sebuah laporan terbaru dari FAR.AI, organisasi nirlaba keamanan AI yang berbasis di California, mengungkapkan perbedaan signifikan dalam kerentanan model AI terhadap serangan jailbreak. Riset tersebut menemukan bahwa Grok, model dari SpaceXAI, menjadi yang paling rentan dibobol, sementara Claude buatan Anthropic terbukti paling kebal terhadap serangan yang diuji.
Laporan ini menguji model dari empat perusahaan AI populer Amerika Serikat: Anthropic (Claude Opus 4.8 dan Fable 5), OpenAI (GPT 5.5 dan 5.6), Google (Gemini 3.1 Pro), dan Grok (4.3 dan 4.5) dari SpaceXAI. FAR.AI menggunakan alat otomatis untuk menghasilkan ribuan variasi prompt berbahaya yang dirancang untuk mengelabui model agar melakukan hal-hal berpotensi merusak.
Hasilnya, Grok menjadi model paling rentan dengan total 448 jailbreak berhasil ditemukan. Disusul oleh Gemini dari Google dengan 249 jailbreak. Sementara itu, Claude, Fable, dan GPT dinyatakan kebal terhadap serangan yang dilancarkan dalam pengujian ini.
Namun, FAR.AI dan para ahli mengingatkan bahwa hasil ini bukan berarti model-model tersebut sepenuhnya imun. Serangan jailbreak yang lebih canggih, yang melibatkan interaksi kompleks dengan model, masih mungkin berhasil menembus pertahanan mereka.
Laporan tersebut juga menghitung biaya untuk membuat model-model ini melanggar aturan. Dengan menggunakan model AI lain untuk menghasilkan jailbreak secara otomatis, biayanya tergolong sangat murah. Merusak Grok hanya membutuhkan biaya USD 58, sementara untuk Gemini sebesar USD 278.
“Model AI saat ini kurang diatur dibandingkan restoran,” ujar Adam Gleave, CEO FAR.AI dan pakar keamanan AI. Gleave menegaskan bahwa temuan ini menunjukkan perlunya standar dan regulasi eksternal yang diterapkan pada perusahaan AI. “Bicara tentang komitmen sukarela, bahwa perusahaan AI akan mampu mengatur diri sendiri, itu omong kosong,” tegasnya.
Meski demikian, Gleave melihat sisi optimis dari hasil riset ini. “Ada sudut pandang optimis di sini. Pertahanan dan keselamatan benar-benar mungkin dilakukan,” katanya, menekankan bahwa model AI dapat diuji secara sistematis untuk keamanan.
Rohin Shah, direktur AGI safety and alignment di Google DeepMind, memberikan tanggapan atas hasil laporan tersebut. Ia mengatakan bahwa hasil ini “tidak boleh ditafsirkan sebagai penilaian komprehensif terhadap keamanan Gemini,” karena tidak semua jailbreak memiliki tingkat keparahan yang sama. “Kami terus-menerus bekerja untuk meningkatkan perlindungan kami,” ujar Shah. “Kami melakukan red teaming dan evaluasi ekstensif terhadap risiko penyalahgunaan berat dan menerapkan berbagai lapisan perlindungan selama pengembangan dan penerapan.”
Sementara itu, Anthropic melalui juru bicaranya, Michael Aciman, menyatakan, “Temuan ini mencerminkan investasi berkelanjutan yang telah kami lakukan dalam sistem perlindungan kami. Kami terus mengembangkan sistem keamanan kami seiring serangan-serangan ini menjadi semakin canggih.” OpenAI dan SpaceXAI tidak memberikan tanggapan atas permintaan komentar WIRED.
Di sisi regulasi, negara bagian California dan New York telah mengesahkan undang-undang yang mewajibkan pengembang AI terdepan (frontier AI) untuk menerbitkan laporan keamanan. Illinois juga akan segera memberlakukan undang-undang yang mewajibkan perusahaan-perusahaan tersebut untuk dievaluasi praktik keamanannya oleh auditor pihak ketiga. Namun, pemerintah federal AS hingga kini belum mengesahkan persyaratan keamanan khusus.
Baca Juga:
Potensi penyalahgunaan AI bukanlah sekadar teori. Laporan dari peneliti Universitas Cambridge menemukan bukti bahwa anggota Boko Haram di timur laut Nigeria telah menggunakan ChatGPT, Claude, Gemini, Grok, Meta AI, dan DeepSeek untuk merencanakan serangan kekerasan. Beberapa pihak di luar industri pun meyakini insiden yang lebih serius semakin mungkin terjadi.
Stephen Casper, seorang ilmuwan komputer di Universitas Harvard, mengungkapkan kekhawatirannya. “Dalam komunitas riset AI, ada ekspektasi yang luas dan muram bahwa kita mungkin hanya berjarak bulan, bukan tahun, dari insiden mengerikan yang melibatkan penyalahgunaan bio, cyber, atau kimia dari kemampuan sistem AI terdepan,” ujarnya. “Jika insiden penyalahgunaan besar terjadi dalam waktu dekat atau menengah, hampir pasti itu berasal dari sistem yang tidak diterapkan dengan perlindungan terkini.”
Anka Reuel, ilmuwan komputer di Universitas Stanford yang berspesialisasi dalam kebijakan AI, mengatakan bahwa kesimpulan utama dari laporan FAR.AI adalah langkah-langkah keamanan yang digunakan oleh Anthropic dan OpenAI harus menjadi standar untuk semua model. “Beberapa perusahaan jelas tahu cara bertahan melawan setidaknya subset serangan yang diuji dalam laporan ini,” kata Reuel. “Pertanyaannya adalah mengapa beberapa perusahaan menggunakannya dan yang lainnya tidak.”
Laporan FAR.AI ini menjadi pengingat keras bahwa di tengah perlombaan mengembangkan AI yang semakin canggih, aspek keamanan tidak boleh diabaikan. Biaya yang murah untuk melakukan jailbreak menunjukkan betapa rapuhnya beberapa model, sementara kemampuan model lain untuk bertahan membuktikan bahwa pertahanan yang kuat sangat mungkin diwujudkan. Tekanan regulasi dari pemerintah negara bagian AS juga mulai meningkat, menandakan bahwa era pengaturan mandiri oleh perusahaan AI mungkin akan segera berakhir.
Komentar
Belum ada komentar.