Telset.id – Riset terbaru mengungkap bahwa cybercriminals kini dapat memanfaatkan dokumentasi website yang tidak akurat untuk menyebarkan malware kepada korban melalui AI agents. Para peneliti menemukan celah keamanan pada file llms.txt dan llms-full.txt yang digunakan untuk membantu AI agents membaca konten website.
Penelitian ini menganalisis 6.214 domain aktif milik kontraktor pertahanan, organisasi Fortune 500, hingga perusahaan teknologi besar. Dari total 8.265 file .txt yang ditemukan, sebanyak 120 file di antaranya menunjuk pada paket kode dan nama domain yang sama sekali tidak terdaftar.
Temuan Riset Celah Keamanan llms.txt
Para peneliti menemukan bahwa file llms.txt yang tidak diklaim ini bisa menjadi pintu masuk bagi serangan siber. AI agents yang mencari solusi pemasangan software atau penambahan kode pada proyek dapat tersesat ke dokumentasi yang salah dan akhirnya mengeksekusi perintah berbahaya.
Jika seorang AI agent memiliki izin untuk menjalankan perintah shell atau package-manager dan menemukan dokumentasi tersebut, perangkat bisa terinfeksi malware. Model AI seperti Claude, OpenAI Codex, dan Nous Research Hermes disebut-sebut terbukti rentan terhadap eksploitasi ini.
Untuk membuktikan kerentanan ini, para peneliti mendaftarkan beberapa nama yang tidak terklaim dan menghosting paket yang akan mengirim sinyal saat terpasang. Hasilnya, kurang dari satu jam sebuah perusahaan Fortune 500 mulai merespons, dan jumlahnya terus bertambah hingga “beberapa lusin lagi”.
Cara Mengatasi Kerentanan Dokumentasi AI
Ada dua langkah utama yang disarankan untuk mengatasi kerentanan ini. Pertama, perusahaan harus membersihkan dokumentasi mereka dan memastikan tidak menunjuk pada konten yang tidak ada atau berbahaya. Kedua, AI agents perlu berhenti memperlakukan dokumentasi sebagai instruksi yang bisa dieksekusi.
Namun, karena perubahan perilaku AI agents kemungkinan besar tidak akan terjadi dalam waktu dekat, solusi jangka pendek yang paling efektif adalah membersihkan dokumentasi. Organisasi yang menggunakan AI untuk coding juga harus mempertimbangkan risiko saat memberikan izin kepada AI agents untuk mengeksekusi perintah.
Dampak Serangan Malware Melalui AI Agents
Kerentanan ini menjadi perhatian serius karena ancaman siber semakin canggih. Para ahli keamanan sebelumnya juga telah memperingatkan tentang risiko serangan siber yang meluas melalui berbagai celah keamanan.
Dalam teori, seorang cybercriminal dapat menemukan paket yang tidak diklaim dan mendaftarkannya dengan malware. Ketika AI agent mencari solusi dan menemukan dokumentasi tersebut, perangkat yang digunakan akan terinfeksi tanpa disadari pengguna.
Para peneliti menekankan bahwa jika mereka bisa melakukan eksperimen ini, maka cybercriminals juga bisa melakukannya dengan tujuan jahat. Ini bukan sekadar skenario teoretis, melainkan ancaman nyata yang sudah terbukti bisa dieksekusi.
Rekomendasi Keamanan untuk Organisasi
Organisasi yang menggunakan teknologi AI untuk pengembangan software perlu meningkatkan kewaspadaan. Risiko ini semakin relevan mengingat AI coding tools kini menjadi infrastruktur strategis dalam operasional bisnis.
Langkah audit berkala terhadap dokumentasi teknis dan pembatasan izin eksekusi perintah untuk AI agents menjadi langkah preventif yang disarankan. Perusahaan juga perlu memastikan bahwa seluruh paket kode yang dirujuk dalam dokumentasi benar-benar terdaftar dan dapat dipertanggungjawabkan.
Keamanan siber di era AI menuntut pendekatan yang lebih komprehensif. Dokumentasi yang bersih dan pengawasan ketat terhadap aktivitas AI agents adalah kunci untuk mencegah eksploitasi seperti yang diungkap dalam riset ini.
Komentar
Belum ada komentar.