Cisco Buka-bukaan Trik Bikin AI Jadi Satpam Siber Tangguh

Telset.id – Di era kecerdasan buatan (AI), para peretas kini mampu mengeksploitasi kerentanan sistem dengan kecepatan mesin, membuat tim keamanan siber kewalahan jika hanya mengandalkan proses manual dan sistem lawas. Menjawab tantangan ini, raksasa jaringan dan keamanan Cisco resmi merilis Foundry Security Spec sebagai proyek open-source, sebuah kerangka kerja untuk membangun sistem evaluasi keamanan berbasis agentic AI tingkat perusahaan.

Cisco menyadari bahwa perbedaan antara demo AI yang keren dan sistem keamanan yang dapat dipertanggungjawabkan terletak pada orkestrasi dan pembatasan (guardrails). Dengan Foundry Security Spec, Cisco membagikan ‘buku resep’ untuk membungkus model AI dengan pagar keamanan yang dirancang sejak awal, mengubah LLM dari sekadar mesin penjawab menjadi agen otonom yang mampu memberikan temuan bug terprioritas dan dapat diverifikasi.

Banyak tim TI yang mencoba menyodorkan ribuan baris kode ke Large Language Model (LLM) seperti ChatGPT atau Claude, lalu memintanya mencari bug. Hasilnya sering kali berakhir kacau, dengan AI berhalusinasi, membanjiri layar dengan false positive, dan memberikan hasil yang sulit diverifikasi oleh auditor keamanan. Foundry Security Spec hadir untuk mengatasi kekacauan tersebut.

Dua Artefak Utama Foundry Security Spec

Cisco membagi spesifikasi ini ke dalam dua artefak utama. Pertama, “Spec” Artifact berisi cetak biru arsitektur yang mencakup 8 peran agen inti seperti Orchestrator, Detector, dan Validator, lengkap dengan 130 persyaratan fungsional operasionalnya. Kedua, “Constitution” Artifact berisi 11 prinsip mutlak yang pantang dilanggar oleh AI, lahir dari pengalaman pahit Cisco dalam menghadapi kegagalan nyata di lingkungan produksi mereka sendiri.

Sistem ini mengubah LLM menjadi agen otonom yang mampu menghasilkan rantai asal-usul data (provenance chain) yang transparan dan dapat diaudit oleh CISO, serta mengetahui secara pasti kapan sebuah proses evaluasi benar-benar ‘selesai’. Karena sifatnya yang model-agnostic dan stack-agnostic, kerangka ini bisa diterapkan menggunakan model AI apa pun dan di atas infrastruktur perangkat lunak mana pun sesuai kebutuhan unik tiap organisasi.

Mencegah Bug Bahkan Sebelum Selesai Diketik

Kehebatan sesungguhnya dari inisiatif ini muncul ketika Foundry dikawinkan dengan Project CodeGuard, sebuah platform aturan deteksi keamanan open-source yang telah disumbangkan Cisco ke Coalition for Secure AI (CoSAI). Keduanya menciptakan efek bola salju (flywheel) perlindungan yang sangat cerdas. Ketika agen AI Foundry bereksplorasi dan menemukan kerentanan baru yang belum dikenali oleh aturan CodeGuard mana pun, sistem akan mencatatnya sebagai “celah”.

Celah ini kemudian otomatis dirumuskan menjadi aturan CodeGuard yang baru. Aturan baru ini kemudian disuntikkan kembali ke dalam asisten coding (LLM) yang dipakai oleh para programmer di perusahaan tersebut. Hasilnya, saat programmer lain mencoba menulis kode dengan pola kerentanan yang sama, AI akan langsung memblokir dan mencegahnya bahkan sebelum kode tersebut selesai diketik.

Mengapa Hanya Spesifikasi, Bukan Source Code?

Banyak yang bertanya mengapa Cisco tidak langsung merilis aplikasi jadinya saja. Omar Santos, Distinguished Engineer AI Security Engineering Cisco, menjelaskan bahwa source code internal mereka sangat terikat dengan infrastruktur privat Cisco. Jika dilepas ke publik, kode itu tidak akan bisa berjalan di server perusahaan lain. Oleh karena itu, yang dibuka adalah rancangan arsitekturnya.

“Foundry Security Spec adalah spesifikasi open-source, bukan layanan terkelola. Kami menyediakan kerangka acuan untuk pagar keamanan, namun Anda lah yang harus memastikan bahwa konsep ‘peran manusia’ tetap menjadi pengambil keputusan akhir,” jelas Omar, dalam keterangan yang diterima detikINET.

Dengan langkah ini, Cisco berharap komunitas keamanan siber dapat bergerak lebih cerdas dan fokus pada temuan keamanan yang berdampak nyata, tanpa perlu pusing memilah ribuan notifikasi palsu dari AI yang belum dijinakkan. Pendekatan ini menjadi solusi tepat untuk mengatasi kelemahan AI yang sering berhalusinasi dan membanjiri tim keamanan dengan false positive.

Inisiatif open-source ini juga membuka peluang bagi perusahaan lain untuk mengadopsi kerangka kerja yang teruji tanpa harus memulai dari nol. Dengan mengikuti blueprint yang disediakan Cisco, organisasi dapat membangun sistem keamanan AI yang lebih bertanggung jawab dan dapat diaudit, sekaligus mengurangi risiko kegagalan yang pernah dialami Cisco di lingkungan produksi mereka sendiri.