Telset.id – Agen AI yang bertugas mendokumentasikan perubahan perangkat lunak justru membocorkan lebih dari 13.000 screenshot ke repositori publik GitHub. Temuan ini mengungkap risiko keamanan serius dari penggunaan agen coding otonom dan praktik Shadow AI di lingkungan perusahaan.
Penelitian bertajuk “PixelLeak” yang dilakukan perusahaan keamanan siber Glow Security menemukan ribuan gambar yang dapat diakses publik dari lebih dari 300 perusahaan. Sebagian screenshot tersebut memuat informasi tentang proyek perangkat lunak korporat yang bersifat sensitif. Kasus ini memperlihatkan bahwa AI tidak perlu bersifat jahat untuk menjadi risiko keamanan.
Setiap kasus dalam riset “PixelLeak” berawal dari permintaan developer kepada agen AI untuk membuktikan bahwa sebuah perubahan visual berhasil. Misalnya, perbaikan pada tata letak antarmuka pengguna, sehingga reviewer perlu melihat kondisi sebelum dan sesudah perubahan. Di titik inilah agen AI menghadapi kendala teknis.
Bagaimana Kebocoran Data Terjadi
GitHub memiliki layanan hosting gambar resmi yang terintegrasi langsung ke antarmuka pull request. Layanan ini mendukung developer manusia yang memakai browser web, tetapi tidak dirancang untuk cara kerja agen coding. Agen AI menggunakan CLI berbasis teks, sehingga tidak dapat menyertakan screenshot before-after untuk keperluan review.
Agen kemudian mencari jalan keluar dari keterbatasan tersebut. Mereka menyadari bisa membuat gambar tersedia bagi reviewer manusia dengan menghostingnya di repositori publik terpisah. Namun, menurut peneliti, agen tidak mempertimbangkan implikasi keamanannya. Salah satu log agen menyebut repositori internal_sweeper bersifat privat, dan GitHub tidak dapat merender gambar dari repo privat di deskripsi PR karena proxy gambar mengambil data secara anonim. Solusi yang diambil adalah membuat repositori publik baru bernama sweeper-demo/pr-assets untuk menyimpan dua screenshot yang dipasang pada commit SHA.
Peneliti juga melacak masalah ini ke sebuah alat open-source kecil bernama gitshot. Sekitar sepertiga organisasi yang terdampak memiliki developer yang memakai alat tersebut, yang mempublikasikan screenshot untuk keperluan code review. Agen yang bekerja untuk developer di beberapa organisasi besar memakai alat ini untuk mengakali keterbatasan lampiran command line GitHub, dengan mempublikasikan gambar bertag _gitshot yang dapat diakses siapa pun. Lebih dari 100 akun publik ditemukan membocorkan pekerjaan pengembangan internal dengan cara ini.
Baca Juga:
Organisasi Besar hingga Fortune 500 Terdampak
Glow Security menyatakan menemukan 343 organisasi yang membocorkan informasi sensitif melalui cara ini. Pihak yang terdampak mencakup salah satu perusahaan teknologi terbesar di dunia, sebuah laboratorium AI terdepan, penyedia perangkat lunak enterprise besar, dan perusahaan travel Fortune 500. Lebih dari 900 repositori kode terdampak dalam temuan tersebut.
Salah satu kasus melibatkan produsen yang mempekerjakan lebih dari 100.000 orang, yang sedang memverifikasi perbaikan pada layar penagihan internal. Agen melakukan tugas yang diminta, lalu menunjukkan bukti dengan mengunggah screenshot ke repositori publik di akun GitHub pribadi developer. Gambar yang terekspos mencakup catatan penagihan untuk sebuah perusahaan utilitas yang terlibat dalam perbaikan antarmuka tersebut. Karena sesi agen berjalan di laptop karyawan dan gambar publik tidak berada di organisasi GitHub perusahaan, tim keamanan perusahaan tidak mengidentifikasi masalah ini. Gambar tersebut bahkan masih tersedia saat peneliti memberi tahu perusahaan terkait.
Menghadapi temuan ini, Glow Security mengaku telah menghubungi semua organisasi yang berhasil diidentifikasi. Namun, perusahaan keamanan itu menegaskan bahwa organisasi lain mungkin juga terdampak. Untuk memastikan organisasi tidak terekspos kebocoran data semacam ini, Glow menyarankan sejumlah langkah: meninjau paparan data, memperketat konfigurasi alat AI, mengambil kendali atas Shadow AI, serta menerapkan kontrol runtime untuk agen developer. Daftar lengkap rekomendasi Glow dapat ditemukan pada tautan yang disediakan.
Temuan ini menegaskan bahwa agen coding otonom yang berjalan tanpa pengawasan dapat menciptakan celah keamanan yang tidak terdeteksi oleh tim TI perusahaan. Praktik Shadow AI, ketika karyawan memakai alat AI tanpa sepengetahuan departemen TI, memperbesar peluang kebocoran data internal. Risiko ini menambah daftar tantangan tata kelola AI yang harus diantisipasi organisasi seiring makin luasnya adopsi agen otonom di alur kerja pengembangan perangkat lunak.
Bagi perusahaan yang memakai agen AI untuk pengembangan, peninjauan ulang konfigurasi dan kontrol akses menjadi langkah yang tidak bisa ditunda. Sebab, seperti ditunjukkan riset ini, agen AI hanya berusaha menyelesaikan tugas yang diberikan — tanpa memahami batas antara transparansi dan kerahasiaan.
[IMG: https://cdn.mos.cms.futurecdn.net/MZeWJhJjT34M4nQvMMX7fg.jpg]
Komentar
Belum ada komentar.