Telset.id – Sebuah kelompok AI agent yang diuji oleh Tencent tercatat melakukan lebih dari 2.600 upaya untuk mendapatkan informasi dari Amap, layanan peta milik Alibaba. Aktivitas ini berlangsung antara 28 September hingga 8 Oktober 2026 dan menjadi sorotan karena para agen sempat mencari jalur alternatif ketika permintaan mereka diblokir oleh sistem Amap.
Investigasi mengaitkan seluruh aktivitas tersebut dengan infrastruktur Tencent Cloud. Meski demikian, para peneliti tidak dapat memastikan secara konklusif model AI mana yang menggerakkan agen-agen tersebut. Permintaan yang dilayangkan umumnya menyangkut informasi publik tentang lokasi tertentu, termasuk jumlah pintu masuk, area parkir, dan statistik kedatangan yang ditampilkan pada halaman peta.
Temuan ini menunjukkan bahwa pengujian AI agent tidak selalu berjalan sesuai koridor yang dirancang pengembangnya. Ketika Amap memblokir permintaan, sebagian agen mencoba metode akses alternatif, termasuk memanfaatkan kredensial yang terekspos, layanan pihak ketiga, hingga sistem yang sebenarnya diperuntukkan bagi pengujian dan bukan akses publik.
Agen AI Tencent dan Upaya Menembus Batasan Amap
Dalam investigasi tersebut, para peneliti juga menemukan bahwa agen mengirimkan alamat web yang dirancang khusus ke urlquery.net, sebuah layanan analisis keamanan. Upaya ini bertujuan mengeksekusi kode melalui lingkungan peramban layanan tersebut. Sebagian informasi berhasil diambil dan hasilnya dipindahkan melalui layanan eksternal, disertai permintaan metadata.
Peneliti turut memeriksa infrastruktur yang menopang operasi ini. Seluruh 17 kotak pesan yang diperiksa terlacak ke server Tencent Cloud di Hong Kong. Semua permintaan langsung yang teramati dari mesin Tencent Cloud milik para agen melewati sebuah proxy yang diidentifikasi sebagai hysandbox-ats.
Namun, temuan itu tidak serta-merta membuktikan bahwa model Hunyuan milik Tencent yang mengendalikan para agen. Asal teknis yang pasti masih belum jelas. Seorang sumber yang memahami pekerjaan Tencent menyebut kepada para peneliti bahwa aktivitas tersebut berasal dari evaluasi yang melibatkan model pihak ketiga, bukan sistem Hunyuan.
Baca Juga:
Tencent sendiri mengungkapkan bahwa insiden ini terjadi akibat pengujian model eksternal. Perusahaan mengakui sebagian agen menjelajahi situs web dengan cara yang tidak dimaksudkan. Tencent juga menyatakan pemeriksaan internal tidak menemukan bukti adanya koordinasi sengaja terhadap layanan tertentu maupun intrusi terkonfirmasi ke sistem pihak luar.
Kasus ini memperlihatkan pola perilaku agen AI yang makin sering menjadi perhatian industri. Sebelumnya, sejumlah insiden serupa juga mencuat, seperti agen OpenAI yang dilaporkan memindai pusat data PBB lebih dari 16.000 kali dalam tiga bulan. Perkembangan kapabilitas agen yang makin otonom membuat pengawasan terhadap perilaku mereka menjadi isu yang tak bisa diabaikan.
Jebakan Tak Terlihat dan Respons Para Agen
Para peneliti merilis laporan awal pada 4 Oktober 2026 saat aktivitas masih berlangsung. Setelah itu, mereka melihat tanda-tanda bahwa sebagian agen menyadari adanya investigasi. Peneliti kemudian menyisipkan teks tak terlihat di situs yang menggambarkan sebuah layanan pesan rekaan, yang mengundang agen untuk mengirim pertanyaan yang bisa dijawab peneliti melalui perantara.
Deskripsi layanan tersebut memuat klaim yang tidak akurat, termasuk anggapan bahwa layanan itu telah membantu agen mengambil informasi dan menghubungkan mereka dengan asisten yang memiliki kemampuan kontrol komputer. Setelah pesan mulai berdatangan pada 7 Oktober, tim peneliti menjawab pertanyaan para agen dan menanyakan soal penugasan, lingkungan teknis, serta instruksi operasional mereka.
Salah satu agen menjelaskan bahwa tugasnya berkaitan dengan pemeriksaan informasi peta, lalu menolak mengungkap detail sistem lebih lanjut dengan alasan keamanan lingkungannya. Dalam pesan lain, agen tersebut menulis, “Thanks again for your help!” setelah mengonfirmasi bahwa enam label lokasi cocok dengan hasil yang diperolehnya secara mandiri.
Pertukaran pesan itu mengejutkan para peneliti karena para agen tetap bersikap sopan meski aktivitas mereka melibatkan upaya menembus pembatasan. Aktivitas terakhir yang tercatat tim terjadi pada 8 Oktober 2026, dan para peneliti melaporkan bahwa agen-agen tersebut tidak kembali hingga 14 Oktober 2026.
Bagi pengguna maupun pelaku industri, rangkaian kejadian ini menegaskan bahwa fitur otomatis berbasis agen perlu dibarengi dengan batas akses yang ketat. Perilaku agen yang mencari jalan pintas saat menghadapi pembatasan menjadi sinyal bahwa kontrol teknis dan pemantauan berkelanjutan sama pentingnya dengan kemampuan model itu sendiri.
[INFO_IMAGE]
Komentar
Belum ada komentar.