Telset.id – Pembatasan akses atau guardrails yang diterapkan perusahaan AI besar justru menghambat kinerja peneliti keamanan siber yang sah, bukan hanya menghalangi peretas jahat. Para ahli keamanan siber mengkritik kebijakan ini karena dianggap kontraproduktif dalam upaya pertahanan dunia maya.
Selama berbulan-bulan, raksasa AI seperti Anthropic dan OpenAI telah menyusun program khusus dengan guardrails ketat untuk membatasi penggunaan model mereka oleh peretas jahat. Namun, batasan ini kini menghalangi pekerjaan peneliti keamanan siber dan peneliti ofensif yang sah. Pada Juni lalu, pemerintah AS memberlakukan pembatasan ekspor pada model AI terbaru Anthropic, Mythos dan Fable, setelah muncul laporan yang menyebutkan kemungkinan untuk melewati guardrails model tersebut.
Kebijakan semacam ini menuai kritik tajam dari komunitas keamanan siber. Mark Dowd, peneliti keamanan terkenal, dalam sebuah podcast keamanan siber baru-baru ini menyatakan ketidaknyamanannya terhadap keputusan sepihak perusahaan besar ini. “Tidak nyaman bagi saya bahwa perusahaan besar yang acak ini membuat keputusan arbitrer tentang apa yang aman dalam keamanan dan apa yang tidak,” ujar Dowd.
Baca Juga:
Dilema Antara Ofensif dan Defensif
Chris Anley, kepala ilmuwan di NCC Group, menjelaskan bahwa meminta model AI untuk mencoba mengeksploitasi bug adalah langkah kunci dalam mengonfirmasi bahwa itu adalah kerentanan nyata yang layak diperbaiki. “Inilah bagian ofensif versus defensif dan guardrails, karena ‘perbaiki kode ini’ sebagai perintah adalah mekanisme esensial untuk pertahanan tetapi juga peta jalan untuk menemukan kerentanan kritis dalam basis kode,” kata Anley.
Anley menganalogikan AI seperti palu. “Anda tidak bisa membangun rumah tanpa palu. Ini jelas alat, tetapi juga tidak bisa dipisahkan sebagai senjata.” Ketika menghadapi hambatan seperti ini, timnya terkadang beralih ke model AI sumber terbuka yang tidak memiliki guardrails sama sekali.
Paolo Stagno, CTO Crowdfense, setuju dengan Dowd. Ia mengatakan perusahaan AI “pada dasarnya memperlakukan pelanggan seperti anak-anak yang perlu dijaga” dengan program dan guardrails mereka. Stagno mengungkapkan bahwa timnya menggunakan model frontier hanya untuk reverse engineering. Mereka menghindari penggunaan AI untuk menemukan kerentanan atau membangun eksploitasi karena risiko kebocoran data sensitif.
Dampak pada Peneliti dan Solusi Alternatif
Giuseppe Cali, peneliti keamanan yang menemukan zero-days, mengatakan guardrails tidak menghambat pekerjaannya. Ia menggunakan AI untuk reverse engineering awal dan membangun alat pendukung, bukan untuk pekerjaan ofensif. “Saya masih ingin memiliki penemuan bug dan weaponization sendiri, dan itu tidak akan berubah jika semua guardrails dicabut besok,” ujar Cali.
Namun, seorang peneliti di produsen komponen ponsel pintar yang berbicara dengan syarat anonim mengatakan perusahaannya tidak tergabung dalam program CVP Anthropic. Akibatnya, alat-alat tersebut hampir tidak berguna untuk menemukan kerentanan karena guardrails terlalu ketat. “Jika menangkap kami melakukan sesuatu yang berhubungan dengan keamanan, ia langsung berhenti dan tidak dapat digunakan,” kata narasumber tersebut.
Chris Thompson, CEO RemoteThreat, menambahkan bahwa guardrails pada model AI frontier bisa tidak konsisten dan bekerja berbeda setiap hari, bahkan di dalam program yang telah divetifikasi. “Alih-alih menganalisis kerentanan dan menalar eksploitabilitas, Anda mencoba mencari mengapa Anda mendapatkan hasil yang tidak konsisten,” kata Thompson.
Konsekuensinya, peneliti beralih ke model AI sumber terbuka China seperti GLM yang dapat diunduh dan dijalankan secara lokal tanpa batasan. “Anda memiliki peneliti bertanggung jawab ini yang didorong menjauh dari sistem yang diatur AS ke sistem milik asing,” kata Thompson. Ia menyerukan laboratorium AI untuk membuka program mereka dan memberikan akses yang bertanggung jawab.
Thompson memperingatkan bahwa jika tidak ada perubahan, pembela akan kalah dalam perlombaan AI. “Ada badai besar yang akan datang. Ada gelombang besar serangan yang akan terjadi dengan kecepatan dan skala yang belum pernah terjadi sebelumnya. Namun firma konsultan keamanan yang sama dan peneliti sah yang mencoba membuat perbedaan justru sedang dikekang saat ini,” pungkasnya.
Peneliti keamanan siber profesional kini mulai beralih ke model AI sumber terbuka yang tidak memiliki pembatasan akses untuk melanjutkan pekerjaan mereka. Fenomena ini menunjukkan bahwa kebijakan guardrails yang terlalu ketat justru mendorong para ahli keamanan untuk mencari alternatif di luar ekosistem perusahaan AI besar.
Komentar
Belum ada komentar.