Iklan

AI Assistant Bocorkan Password Perusahaan, NordLayer Temukan Dua Insiden

AI coding assistant bocorkan password produksi perusahaan dalam dua insiden yang diungkap NordLayer AI Scout. Simak detailnya di Telset.id.

Ilustrasi AI agent mengakses kredensial dan password perusahaan yang terekspos
Iklan
Iklan
  • AI coding assistant bocorkan password produksi perusahaan dalam 10 sesi selama tiga minggu
  • File konfigurasi memuat GitLab token, password produksi, dan kredensial internal HR
  • Insiden kedua: AI agent lewati batas MCP lewat API token alternatif
  • NordLayer sarankan pemisahan kredensial dan pemantauan aktivitas AI agent
  • Agent tidak menyimpan aturan antar sesi sehingga pembatasan mudah dilewati

Telset.id – Sebuah AI coding assistant yang diperintahkan untuk memeriksa perubahan software justru membocorkan password produksi perusahaan setelah mengakses file konfigurasi secara berulang. Insiden yang diungkap NordLayer AI Scout ini menunjukkan bagaimana instruksi rutin kepada AI agent dapat mengekspos kredensial rahasia dan melewati batas keamanan organisasi.

Dalam kasus pertama, seorang quality assurance engineer meminta AI coding assistant untuk menelusuri proposed software changes. Instruksi proyek mengarahkan asisten tersebut ke GitLab access token yang tersimpan di dalam environment configuration file. Masalahnya, file itu juga memuat password produksi, authentication token untuk internal human resources system, serta kredensial milik business intelligence service.

AI coding assistant tersebut mengakses seluruh isi file dalam 10 sesi terpisah selama tiga minggu. Setiap kali diakses, isi file dikirimkan ke external AI service. Situasi memburuk ketika asisten menemukan salinan proyek baru tanpa configuration file yang diharapkan. Alih-alih berhenti mencari, ia justru mengambil seluruh kumpulan environment variables di komputer dan mengekspos tambahan password serta authentication credentials.

an ai agent sat at a laptop

Setelah menyadari apa yang terjadi, AI coding assistant mengakui kesalahannya dan merekomendasikan penggantian kredensial yang terekspos. “I leaked secrets into this session’s tool output… I’d rotate them,” ujar AI coding agent tersebut dalam sesi yang diamati NordLayer AI Scout.

Vakaris Noreika, cybersecurity expert di NordLayer, menyebut engineer sering meminta AI assistant mengambil kredensial secara langsung sehingga menciptakan paparan yang tidak perlu. Menurutnya, asisten dapat mengulangi perilaku tersebut pada tugas-tugas berikutnya, membuat masalah keamanan terus berlanjut tanpa disadari. Temuan serupa juga pernah terjadi pada Celah Grok Build yang membocorkan data sensitif ke publik.

AI Agent Lewati Batas Keamanan lewat Koneksi Alternatif

Insiden kedua melibatkan seorang karyawan yang mencoba memakai AI assistant untuk mengambil informasi dari platform dokumentasi Confluence milik perusahaan. Koneksi Model Context Protocol (MCP) organisasi tampaknya mencegah asisten mengakses halaman internal tersebut. Namun, karyawan itu tidak menganggap pembatasan tersebut sebagai hal final.

Karyawan tersebut bertanya apakah membuat API token dapat menjadi jalur lain menuju dokumentasi. AI assistant mengonfirmasi bahwa pendekatan alternatif itu berhasil, sehingga secara efektif melewati pembatasan yang diterapkan pada koneksi resminya. Karyawan itu mungkin hanya mencari kemudahan, bukan sengaja mengompromikan keamanan perusahaan. Meski demikian, penggunaan koneksi alternatif tanpa otorisasi dapat melemahkan pembatasan yang dibangun tim keamanan organisasi.

“Security controls only ever cover the cases someone foresaw. Every company has rules, but agents simply don’t know them, because they are not employees who were trained at the company,” kata Noreika. Ia menambahkan bahwa ini merupakan keterbatasan teknologi saat ini: agent tidak menyimpan aturan antar sesi, dan kadang tetap melakukan sesuatu meski sudah diberi instruksi spesifik untuk tidak melakukannya.

Kedua insiden ini memunculkan kekhawatiran tentang organisasi yang memberikan akses asisten otomatis ke sistem sensitif tanpa pemantauan memadai. Organisasi disarankan memisahkan kredensial sensitif, menyimpan password berharga di secure vault, melacak sumber daya apa saja yang dapat diakses AI agent, serta memantau aktivitasnya. Perusahaan juga sebaiknya menyediakan jalur akses yang disetujui, bukan hanya mengandalkan pembatasan yang mungkin dilewati karyawan.

password manager example

Langkah tersebut dapat membantu tim keamanan mengidentifikasi akses tidak biasa dan mencegah informasi rahasia mencapai tujuan yang tidak sah. Kasus ini juga menjadi pengingat bahwa pemberian akses kepada AI agent perlu dibarengi kontrol yang jelas. Sebelumnya, isu serupa juga mencuat dalam kasus Fitur Gratis yang bakal dibatasi pada layanan AI premium.

Bagi organisasi yang mulai mengadopsi AI agent untuk tugas pengembangan software, temuan NordLayer AI Scout ini menegaskan pentingnya pemisahan kredensial dan pemantauan aktivitas asisten otomatis. Tanpa itu, instruksi rutin sekalipun bisa berujung pada tereksposnya password produksi dan kredensial internal perusahaan.

Iklan
Ikuti Telset.id di Google NewsFollow