Microsoft Hadirkan Guardian Agent untuk Awasi Risiko AI Agent

Telset.id – Microsoft memperkenalkan Guardian Agent, sistem pengawasan berbasis AI yang dirancang memantau, membatasi, dan mengelola risiko yang muncul dari agen AI otonom atau autonomous AI agents. Pengumuman ini disampaikan melalui blog resmi Microsoft yang ditulis oleh Corporate VP for Identity and Network Access Microsoft, Nadim Abdo. Langkah ini menjadi penting karena agen AI yang diberi izin luas untuk bekerja justru membuka risiko yang bisa berbahaya jika tidak ditangani dengan benar.

Menurut Abdo, agen AI pada dasarnya bukan entitas yang jahat. Namun, agen tersebut bisa melakukan kesalahan, dimanipulasi, atau diretas. Karena agen AI perlu diberikan izin yang relatif luas agar bisa bekerja dengan semestinya, risiko yang timbul pun menjadi besar. Microsoft menyebut fenomena ini sebagai “agentic insider”, yakni agen AI yang beroperasi dari dalam sistem dengan tingkat akses tinggi namun memerlukan pengawasan berkelanjutan yang digerakkan oleh AI, melampaui kontrol keamanan tradisional.

Abdo mengutip pernyataan Chairman and Chief Executive Officer Microsoft, Satya Nadella, mengenai arsitektur kepercayaan yang dibutuhkan era baru ini. Menurut Nadella, pasokan kecerdasan harus dipisahkan dari otoritas atasnya. “Kita tidak seharusnya meminta sebuah model menjadi otoritas keamanannya sendiri. Kontrol yang menentukan apa yang bisa diakses, tindakan apa yang bisa diambil, dan apakah agen harus terus beroperasi harus berada di luar model, di tempat model tidak bisa melewati atau merusaknya,” tulis Abdo.

Pendekatan ini menempatkan pengawasan sebagai kata kunci utama. Namun, agen AI bergerak dengan kecepatan mesin yang tidak bisa disamai manusia, sehingga manusia tidak cukup diperlengkapi untuk menjalankan tugas pengawasan tersebut. Karena itu, Microsoft menghadirkan agen AI terpisah untuk mengawasi agen AI lainnya.

Perluasan Project Perception dan Tujuh Aspek Kontrol

Sebelumnya, Microsoft telah memperkenalkan Project Perception dan Microsoft cyber stack untuk membantu organisasi mempertahankan diri dengan agen. Project Perception merupakan sistem keamanan siber bertenaga AI yang dirancang mengoordinasikan agen AI khusus untuk menganalisis data keamanan, mengidentifikasi kerentanan, dan menyelidiki berbagai ancaman. Sistem ini menggunakan tiga jenis agen: red agents yang menyelidiki kelemahan, blue agents yang menginvestigasi potensi ancaman, dan green agents yang menerapkan koreksi dan perbaikan.

Kini Microsoft memperluas proyek tersebut untuk mengamankan “agentic insider” melalui Guardian Agent. Menurut Abdo, Guardian Agents membantu tim keamanan beroperasi secara berkelanjutan, pada kecepatan dan skala mesin, sementara sensor, konteks, dan aktuator di seluruh cyber stack membantu memahami perubahan risiko agen dan terus menyesuaikan perlindungan sebagai respons. Project Perception dan Microsoft Agent 365 berbagi sinyal, konteks, dan registry terpadu yang memberikan pandangan konsisten kepada tim IT dan keamanan terhadap agen dan risiko, beserta kontrol yang dibutuhkan masing-masing.

Abdo menjelaskan bahwa Guardian Agents dibangun di atas prinsip keamanan di mana kecerdasan non-deterministik perlu dikelilingi oleh kontrol deterministik, bukti independen, dan batas-batas penahanan. Kontrol tersebut dibagi ke dalam tujuh aspek, yaitu identity, permissions, data, endpoints, network, cloud, dan runtime. Ketujuh aspek ini memiliki empat tanggung jawab: mengetahui agen mana yang ada, siapa pemiliknya dan mengapa, serta apa yang mereka lakukan; menahan apa yang bisa diakses dan dilakukan setiap agen sebelum bertindak; melindungi data, alat, runtime, sumber daya, dan sistem yang digunakan agen; serta menyesuaikan perlindungan secara berkelanjutan saat perilaku, konteks, dan risiko berubah.

Dynamic Permissions hingga Perluasan Discovery Agen

Microsoft juga memperluas discovery ke 35 jenis agen lokal tambahan, termasuk Claude Code, OpenAI Codex, dan GitHub Copilot. Perusahaan turut mengumumkan perluasan Microsoft Entra Agent ID dengan tipe identitas untuk pola agen tambahan, termasuk agen lokal dan agen yang sebelumnya tidak dikenal yang ditemukan melalui sensor keamanan.

Melalui “Dynamic Permissions” dan “Dynamic Agent Risk”, Microsoft ingin memberikan kontrol lebih ketat kepada bisnis atas apa yang bisa diakses dan dilakukan agen AI, sekaligus memantau perilaku dan tingkat risiko mereka. Dynamic Permissions membatasi agen pada akses yang dibutuhkan untuk tugas tertentu, sementara Dynamic Agent Risk memeriksa potensi ancaman. Dynamic Conditional Access kemudian dapat merespons risiko yang meningkat dengan membatasi izin, memblokir operasi tertentu, atau meminta persetujuan manusia. Dalam skenario yang lebih ekstrem, agen dapat dihentikan dan diisolasi.

Langkah Microsoft ini melengkapi rangkaian upaya perusahaan dalam memperkuat ekosistem keamanan digital, sejalan dengan berbagai inisiatif mereka sebelumnya seperti membongkar jaringan phishing global. Dengan Guardian Agent, Microsoft menegaskan bahwa kontrol atas agen AI harus berada di luar model dan terus beradaptasi terhadap perubahan risiko secara real-time.

[ META_DESCRIPTION]
Microsoft memperkenalkan Guardian Agent untuk memantau dan mengelola risiko agen AI otonom, lengkap dengan Dynamic Permissions dan perluasan discovery 35 agen lokal.