Telset.id – Sebuah studi baru dari Illumio mengungkap bahwa 70% organisasi kini menyerahkan keputusan yang sebelumnya dibuat oleh manusia kepada AI, termasuk dalam hal izin pengguna, akses data sensitif, dan keputusan keamanan yang krusial. Masalahnya, hanya 49% organisasi yang mampu melihat tindakan apa yang diambil oleh agen AI dan mengauditnya.
Temuan ini menunjukkan adanya “control gap” atau celah kontrol antara aturan yang diyakini organisasi tentang cara kerja agen AI dan kemampuan teknologi tersebut sebenarnya. Studi tersebut menyoroti bahwa mendelegasikan keputusan rumit kepada AI telah membuat organisasi menempatkan teknologi yang relatif baru untuk mengendalikan izin pengguna dan data sensitif, sehingga memunculkan risiko keamanan serius.
Mayoritas Organisasi Terima Risiko Siber Lebih Besar
Sifat agen AI membuat strategi pendelegasian ini sangat berisiko. Riset Illumio menemukan bahwa 56% organisasi bersedia menerima risiko siber yang lebih besar dibandingkan 12 bulan lalu. Hampir setengah dari kelompok tersebut, yaitu 47%, mengaku telah mengizinkan tindakan AI di lingkungan produksi.
Membiarkan agen AI memiliki kebebasan penuh atas data, aplikasi, dan infrastruktur perusahaan telah memicu situasi yang sebenarnya bisa dihindari. Celah kontrol yang ditemukan Illumio mencerminkan perbedaan antara aturan yang diyakini organisasi sebagai batas operasi agen AI dan apa yang sebenarnya mampu dilakukan teknologi tersebut.
Data studi tersebut juga menunjukkan bahwa 76% organisasi mengalami satu atau lebih masalah keamanan akibat AI dalam setahun terakhir. Sebanyak 35% mengungkapkan bahwa mengikuti rekomendasi AI justru akan menimbulkan risiko keamanan. Sementara itu, 26% melaporkan bahwa agen atau alat AI telah terhubung ke sistem lain tanpa persetujuan yang diperlukan.
Yang lebih mengkhawatirkan, 24% organisasi melaporkan dorongan AI untuk mengakses data yang seharusnya tidak dapat dilihatnya, dan 24% lainnya menyatakan AI telah memicu atau menghasilkan tindakan yang tidak sah.
Baca Juga:
Pengawasan Manusia Masih Minim
AI memang sudah digunakan dalam keamanan siber dan terbukti berhasil lewat berbagai vendor yang meluncurkan solusi berbasis AI. Namun, studi Illumio menunjukkan bahwa 67% organisasi menggunakan alat keamanan siber berbasis AI, sementara 32% membiarkan AI melakukan investigasi tanpa pengawasan manusia, dan 29% mengizinkan perangkat lunak menerapkan perubahan kode sepenuhnya tanpa pengawasan.
Raghu Nandakumara, VP of Industry Strategy di Illumio, menegaskan bahwa risiko AI terbesar bukanlah sistem yang melanggar aturannya, melainkan sistem yang sejak awal tidak pernah diberi batasan yang bermakna. Menurutnya, melepaskan agen AI tanpa batasan telah membuat bisnis kesulitan mengendalikan perangkat lunak tersebut.
Nandakumara menjelaskan bahwa agen AI bersifat persisten, sehingga mencoba mengakali langkah berikutnya adalah hal yang sia-sia. Sebagai gantinya, bisnis harus menetapkan batasan ketat pada apa yang dapat diakses dan dilakukan AI, lalu menegakkan batasan tersebut di dalam aplikasi dan di seluruh infrastruktur yang mendasarinya. Dengan cara itulah perilaku tak terduga dapat ditahan sebelum menimbulkan kerusakan nyata.
Temuan Illumio ini memperkuat kekhawatiran bahwa pemberian otoritas dan otonomi berlebihan kepada AI untuk menangani keputusan keamanan bisnis yang kritis perlu diimbangi dengan kemampuan audit yang memadai. Tanpa batasan yang jelas dan pengawasan manusia, agen AI berpotensi menimbulkan risiko yang sulit dikendalikan. Sebagai konteks tambahan, isu kebocoran data pribadi juga pernah mencuat dalam studi Consumer Reports terhadap mobil pintar.
Komentar
Belum ada komentar.