Telset.id – NordLayer memperkenalkan AI Scout, produk baru yang membantu organisasi memantau penggunaan layanan AI di lingkungan kerja sekaligus mengendalikan risiko keamanan yang menyertainya. Langkah ini menyasar meningkatnya penggunaan alat AI oleh karyawan, termasuk layanan yang belum mendapat persetujuan atau tidak disediakan secara resmi oleh perusahaan.
NordLayer menyebut AI Scout sebagai produk standalone yang memantau interaksi browser dan desktop, sekaligus menyediakan kontrol untuk membatasi paparan informasi rahasia di berbagai sistem. Alat ini dapat mengidentifikasi layanan AI yang diizinkan maupun yang tidak diizinkan, sehingga organisasi dapat membandingkan aktivitas yang terlihat dengan perangkat lunak yang telah disetujui untuk digunakan di tempat kerja.
Peluncuran ini muncul ketika karyawan semakin beralih ke layanan AI di luar jalur yang disetujui. Kondisi tersebut menciptakan ketidakpastian soal platform AI apa yang diakses pekerja, informasi apa yang mereka kirimkan, dan bagaimana sistem tersebut terhubung dengan operasional bisnis.
Visibilitas dari Aktivitas AI yang Sebenarnya
Menurut NordLayer, pelaporan AI Scout mengukur penggunaan berdasarkan aktivitas nyata, bukan dari langganan yang dibeli. Alat ini juga memperkirakan konsumsi token di seluruh LLM yang digunakan.
AI Scout turut memeriksa informasi yang dikirim karyawan ke sistem AI, dengan kontrol yang dirancang untuk mendeteksi materi berpotensi sensitif sebelum prompt tertentu dikirimkan. NordLayer menyatakan pengamanan ini bekerja sebelum pengiriman, sehingga berpotensi mencegah materi rahasia mencapai layanan AI eksternal.
Selain itu, kontrol berbasis browser dapat melakukan intervensi ketika karyawan memasukkan informasi yang memerlukan pemeriksaan tambahan sebelum dikirim. Pemantauan ini meluas melampaui penggunaan chatbot konvensional ke agen AI dan hubungan teknisnya dengan layanan terhubung yang dipakai di tempat kerja.
Administrator dapat memeriksa infrastruktur MCP yang terhubung dengan agen pemrograman dan meninjau kemampuan yang tersedia melalui sistem tersebut dalam praktiknya.
“Kami membangun NordLayer AI Scout untuk cara AI benar-benar bekerja — bukan hanya bagaimana tampilannya dari luar, tetapi untuk apa yang terjadi di tingkat teknis,” kata Vakaris Noreika, VP of product research and development di NordLayer. “AI DLP-nya dirancang untuk memeriksa prompt dan mengendalikannya sebelum pengiriman, untuk memastikan data sensitif tidak pernah dimasukkan sejak awal.”
Pendekatan ini sejalan dengan tren pengamanan fitur di berbagai platform digital, seperti yang terlihat pada Restricted Chat yang membatasi ekspor data hingga akses Meta AI di aplikasi pesan.
Mengapa Pengawasan AI di Tempat Kerja Diperlukan
Kebutuhan akan pemantauan muncul seiring pertumbuhan investasi bisnis di bidang kecerdasan buatan yang berjalan bersamaan dengan penggunaan layanan tak disetujui oleh karyawan, sebuah praktik yang dikenal sebagai shadow AI.
Survei enterprise Writer 2026 menemukan bahwa 59% perusahaan membelanjakan lebih dari $1 juta per tahun untuk teknologi kecerdasan buatan. Laporan University of Melbourne yang dikutip NordLayer menemukan bahwa 42% karyawan menggunakan sistem AI yang disetujui, sementara 70% memakai model gratis di tempat kerja.
IBM melaporkan bahwa pelanggaran yang melibatkan shadow AI menambah $400.000 terhadap rata-rata biaya pelanggaran global sebesar $4,99 juta di seluruh dunia. Angka-angka tersebut membantu menjelaskan mengapa organisasi mungkin kesulitan menjaga visibilitas ketika karyawan menggunakan layanan AI di luar platform yang disetujui secara formal.
“Apa yang dihadapi perusahaan hari ini adalah kebun binatang AI — puluhan LLM tanpa sanksi yang digunakan setiap hari di seluruh tenaga kerja, masing-masing memperluas paparan organisasi terhadap kebocoran data dan pelanggaran keamanan,” kata Andrius Buinovskis, VP of product strategy di NordLayer. “Tata kelola AI yang sebenarnya membutuhkan visibilitas yang luas. Dengan solusi LLM baru yang muncul dengan cepat, meninjau setiap alat AI baru secara manual tidak akan berskala — organisasi membutuhkan telemetri yang membawa semua penggunaan AI, baik yang disetujui maupun tidak, ke dalam satu platform.”
Baca Juga:
Pengawasan terhadap penggunaan AI di tempat kerja juga mencakup bagaimana platform mengelola interaksi pengguna. WhatsApp, misalnya, tengah menguji Tab Contacts baru di Android yang memungkinkan pengguna memantau kontak yang sedang online.
Di sisi lain, perusahaan juga perlu memahami bagaimana AI terhubung dengan layanan kerja sehari-hari. Sejumlah platform terus mengembangkan kontrol untuk memberi pengguna kendali lebih besar atas data mereka, seperti yang terlihat pada Jadwalkan Pesan yang diuji di versi beta Android.
Dengan AI Scout, NordLayer berupaya menempatkan seluruh penggunaan AI — baik yang disetujui maupun tidak — ke dalam satu platform pemantauan. Tujuannya agar organisasi dapat melihat aktivitas AI yang sebenarnya terjadi di tempat kerja, bukan hanya berdasarkan langganan yang tercatat secara formal.
Komentar
Belum ada komentar.