AEPD Catat Serangan Data Pertama oleh Agen AI Otonom di Spanyol

Telset.id – Badan perlindungan data Spanyol, AEPD, menerima notifikasi pertama kasus kebocoran data pribadi yang diduga dilakukan menggunakan agen kecerdasan buatan atau AI agent otonom. Peristiwa ini menjadi sinyal bahwa ancaman siber kini tidak lagi sepenuhnya bergantung pada operator manusia, melainkan dapat dijalankan oleh sistem otomatis yang mampu mengeksekusi rangkaian serangan secara mandiri.

Informasi ini disampaikan melalui artikel yang dipublikasikan di blog resmi AEPD oleh Francisco Pérez Bes, presiden sekaligus deputy dari lembaga tersebut. Dalam tulisannya, Pérez Bes menyatakan bahwa pihaknya menerima notifikasi kebocoran data pribadi pertama di mana insiden tersebut dilaporkan dilakukan menggunakan agen AI yang ditenagai oleh model bahasa besar atau large language model yang dikenal luas.

Kasus ini menjadi perhatian karena agen AI tersebut tidak hanya menjalankan satu langkah serangan, tetapi merangkai beberapa tahap sekaligus. Mulai dari mengakses berkas publik milik target, masuk ke dalam sistem, memindai kerentanan, mengeksploitasi celah yang ditemukan, hingga mengubah data pribadi dan mendapatkan akses ke sejumlah invoice.

Rangkaian Serangan Agen AI

Menurut penjelasan Pérez Bes, tahap awal serangan dimulai dari pemanfaatan file yang dapat diakses publik milik target. Dari titik masuk tersebut, agen AI berhasil melakukan login ke sistem. Setelah berada di dalam, agen itu memindai sistem untuk mencari celah keamanan dan mengeksploitasinya untuk mengubah data pribadi serta mengakses invoice.

Pola kerja bertahap ini menunjukkan bahwa agen AI mampu menggabungkan beberapa langkah serangan yang biasanya dilakukan secara terpisah. Pendekatan semacam ini sejalan dengan perkembangan sistem autonomous yang kini makin sering dibahas, seperti dalam pembahasan soal mobil autonomous yang juga mengandalkan pengambilan keputusan otomatis tanpa campur tangan manusia secara langsung.

Pérez Bes menegaskan bahwa pihaknya masih memiliki informasi yang sangat terbatas mengenai insiden ini. Investigasi menyeluruh dilaporkan masih berlangsung untuk mengungkap detail kejadian tersebut.

Ia juga menekankan bahwa serangan ini tidak berarti model AI atau infrastruktur penyedia layanan AI tersebut telah dikompromikan atau memang dirancang untuk tujuan jahat. Meski demikian, dari sudut pandang perlindungan data, insiden ini dinilai signifikan karena agen AI digunakan untuk merangkai berbagai tahap serangan dalam satu alur.

Kemampuan agen AI untuk berpindah dari satu tahap ke tahap berikutnya tanpa jeda manusia menjadi pembeda utama dibandingkan serangan konvensional. Proses yang biasanya membutuhkan waktu dan koordinasi manual kini dapat berjalan lebih cepat dan adaptif.

Panggilan untuk Meninjau Ulang Manajemen Risiko

Bagi Pérez Bes, insiden ini merupakan panggilan untuk bertindak atau call to action. Pelaku usaha diminta meninjau ulang cara mereka menilai dan mengelola risiko keamanan. Ia menilai bisnis perlu secara eksplisit memperhitungkan serangan yang dibantu AI maupun yang digerakkan AI ketika menilai risiko yang terkait dengan pemrosesan data pribadi.

Selain itu, ia menekankan perlunya mengevaluasi kembali waktu respons organisasi. Prosedur yang dirancang untuk menghadapi serangan yang dieksekusi secara manual dinilai mungkin tidak lagi memadai. Sebab, agen AI dapat menganalisis banyak aset sekaligus, menguji berbagai jalur serangan yang berbeda, dan dengan cepat menyesuaikan perilakunya berdasarkan apa yang ditemukannya.

Pérez Bes juga menyoroti makin pentingnya identitas digital dan kredensial. Menurutnya, agen AI yang memiliki akun atau API key dapat beroperasi pada kecepatan mesin dan berpindah antar layanan yang berbeda sebelum sebuah organisasi memiliki waktu untuk mendeteksi aktivitas yang tidak wajar tersebut.

Peringatan ini memperkuat gambaran bahwa tantangan keamanan siber kini bergeser ke arah pengelolaan identitas dan kontrol akses. Sistem otomatis yang memiliki kredensial sah berpotensi menyamarkan jejak aktivitasnya karena bergerak dalam batas akses yang diizinkan secara formal.

Dalam konteks yang lebih luas, kemampuan sistem otonom untuk mengambil keputusan dan bertindak sendiri telah menjadi topik yang makin sering muncul. Sebelumnya, perhatian publik juga sempat tertuju pada fenomena seperti self-driving potato yang menunjukkan bagaimana konsep kemandirian sistem terus berkembang di berbagai bidang.

Meski demikian, Pérez Bes menegaskan bahwa detail insiden ini masih terbatas dan penyelidikan menyeluruh tengah dilakukan. Ia tidak menyebutkan identitas perusahaan Spanyol yang menjadi korban, nama model AI yang digunakan, maupun besaran data yang terdampak.

Yang jelas, kasus ini tercatat sebagai notifikasi kebocoran data pribadi pertama di AEPD yang dilaporkan melibatkan agen AI sebagai pelaksana serangan. Posisi ini menjadikannya rujukan awal bagi regulator dan pelaku usaha dalam memahami pola ancaman baru yang menggabungkan kemampuan model bahasa besar dengan eksekusi serangan berlapis.

Bagi organisasi yang mengelola data pribadi, implikasi praktisnya terletak pada kebutuhan mempercepat deteksi dan respons. Ketika sebuah agen AI dapat berpindah antar layanan dalam hitungan yang lebih cepat dari kemampuan tim keamanan merespons, kontrol identitas dan kredensial menjadi lapisan pertahanan yang tidak bisa lagi diabaikan.

Pérez Bes menutup penekanannya pada perlunya penilaian risiko yang diperbarui, mencakup skenario serangan berbasis AI, serta prosedur respons yang dirancang untuk menghadapi laju serangan otomatis. Hingga investigasi tuntas, insiden ini tetap menjadi pengingat bahwa batas antara alat bantu dan pelaku serangan dalam dunia AI makin tipis.