Telset.id – Anthropic melalui Frontier Red Team membuktikan bahwa agen AI berpotensi menyebar sebagai worm lintas perangkat konsumen tanpa bergantung pada infrastruktur datacenter. Dalam laporan bertanggal 12 Oktober berjudul “AI models may be capable of self-replicating without access to a datacenter,” Anthropic mendemonstrasikan dua komponen utama dari apa yang disebut AI worm berbasis bobot model (weight-based replicator), yakni kemampuan agen AI mengonfigurasi inferensi di berbagai platform perangkat keras dan mengorkestrasi replikasi di seluruh jaringan.
Eksperimen ini menjadi perhatian karena menyentuh skenario penyebaran malware generasi baru. Alih-alih mendistribusikan kode eksekutabel konvensional, weight-based replicator menyebarkan bobot model AI beserta infrastruktur perangkat lunak yang dibutuhkan untuk menjalankan inferensi pada perangkat yang terkompromi. Meski demikian, Anthropic menegaskan masih ada sejumlah keterbatasan serius, terutama terkait kesenjangan antara kemampuan model saat ini dan batasan perangkat keras pada target potensial.
Dalam pengujiannya, Anthropic menunjukkan bahwa Qwen3.5-9B mampu membangun inference server pada delapan dari sembilan jenis perangkat keras yang diuji. Perangkat tersebut mencakup NVIDIA Jetson Nano, Apple Silicon Mac, server Xeon, Google TPU, AMD MI300X, hingga setidaknya satu PC dengan RTX 4090. Selain itu, Gemma4-26B-A4B dijalankan pada 15 Android TV box merek off-brand seharga sekitar US$55 per unit, dengan hasil combined generation rate sebesar 0,39 token per detik.
Anthropic juga menguji apakah sebuah model dapat mengorkestrasi replikasi di seluruh jaringan. Eksperimen ini menggunakan delapan node Google Cloud yang menjalankan emulator Android 15. Sebuah seeded agent menyebar antar node melalui port Android Debug Bridge (ADB) yang tidak terautentikasi, mentransfer file, dan membangun inference server di setiap target. GLM-5.2, model raksasa dengan 744 miliar parameter berukuran lebih dari 1TB, menyelesaikan urutan replikasi di seluruh delapan node dalam empat dari lima percobaan, dan mencapai tujuh node pada percobaan sisanya.
Tidak ada model open-weight lain yang diuji mampu menyelesaikan urutan tersebut tanpa orkestrasi dari GLM-5.2. Model-model lain juga tidak dapat secara berarti meminta bantuan model yang lebih besar, meskipun dibekali kemampuan tersebut. Perlu dicatat, GLM-5.2 tidak benar-benar mereplikasi dirinya ke smart TV box. Model tersebut justru membangun inference server untuk model yang jauh lebih kecil, Llama 3.1 8B, di setiap target. GLM-5.2 berjalan pada inference server terpisah karena node yang diemulasi tidak mampu menangani model yang lebih besar.
Baca Juga:
Dengan kata lain, Anthropic menunjukkan bahwa model yang sangat besar dan di-host secara eksternal dapat mengorkestrasi urutan replikasi yang disederhanakan di seluruh mesin dengan antarmuka ADB yang sengaja dibuka. Penelitian ini juga memperlihatkan bahwa model kecil dapat menyiapkan inferensi, tetapi sama sekali belum membuktikan bahwa model kecil dapat secara mandiri mereplikasi dirinya di seluruh perangkat keras konsumen. Perbedaan ini terlihat halus, namun penting ketika premis utamanya adalah bahwa model kecil dapat segera menyebar tanpa bergantung pada infrastruktur datacenter.
Eksperimen tersebut mengungkap kendala utama riset ini. Model yang mampu menyelesaikan urutan replikasi secara andal saat ini tidak cukup kecil untuk berjalan pada perangkat target yang murah. Sebaliknya, model yang muat dalam anggaran memori perangkat tersebut, meskipun mampu menyiapkan inferensi, masih belum dapat menyelesaikan seluruh proses secara andal. Kesenjangan antara kecerdasan yang dibutuhkan untuk replikasi andal dan ukuran model maksimum yang dapat didukung perangkat keras target membuat threat model ini belum benar-benar berlaku saat ini, tetapi Anthropic memperingatkan bahwa kesenjangan itu bisa menyempit, dan berpotensi dalam waktu dekat.
Menggunakan peningkatan historis dalam kemampuan AI secara umum yang diukur melalui Epoch Capabilities Index, Anthropic memproyeksikan bahwa model dalam kelas 30 miliar parameter dapat mencapai level kemampuan yang diperlukan pada akhir 2026. Namun proyeksi itu tetap bersifat hipotetis dan belum menjawab masalah efisiensi yang substansial. Berdasarkan performa inferensi yang terukur dan kebutuhan token dari eksperimen penyiapan, Anthropic memperkirakan bahwa membangun lingkungan inferensi membutuhkan sekitar 28–51 jam untuk Qwen3.5-9B dan 71–150 jam untuk Gemma4-26B-A4B pada throughput yang diamati dari Android TV box murah. Perlu dicatat, box yang digunakan adalah konfigurasi dengan RAM 4GB, yang tergolong mewah di antara set-top box murah tersebut.
Replicator yang digerakkan model bisa membutuhkan waktu berhari-hari untuk membangun lingkungan inferensi pada host baru, sedangkan malware konvensional dapat mengeksekusi payload dalam hitungan detik ketika asumsinya tentang target terpenuhi. Worm konvensional dapat menyebar ke puluhan ribu target yang rentan dalam hitungan menit. Bobot model juga menimbulkan biaya bandwidth dan penyimpanan yang besar. Anthropic mengakui bahwa host yang terkompromi dapat mengunduh bobot dari repositori eksternal alih-alih menerimanya langsung dari perangkat yang terinfeksi, dan tidak setiap mesin yang terkompromi perlu menjalankan model. Meski demikian, mendistribusikan payload multi-gigabyte dan menjaga komunikasi antar mesin yang menjalankan model ter-shard akan menghasilkan lalu lintas jaringan yang sangat besar, sehingga aktivitas tersebut sangat mudah dideteksi.
Anthropic memperkirakan bahwa armada hipotetis dengan ukuran serupa dengan botnet Kimwolf yang menginfeksi lebih dari dua juta perangkat pada puncaknya dapat mendukung sekitar 133.000 instance Gemma4-26B-A4B jika setiap 15 perangkat secara kolektif menjalankan satu model. Pada throughput yang terukur, yang sangat diuntungkan oleh latensi LAN, Anthropic menyebut armada tersebut akan menyediakan kapasitas inferensi sekitar 40 setara Hopper H100. Perbandingan ini sangat berantakan dan mengambil banyak kebebasan dengan data, tetapi bahkan dengan itu, angka tersebut tidak terlalu mengintimidasi. Ini berarti dua juta perangkat terinfeksi yang harus tetap terinfeksi dan beroperasi selama berbulan-bulan atau bertahun-tahun untuk menghasilkan throughput inferensi AI yang lebih rendah daripada beberapa blade GPU generasi sebelumnya.
Anthropic mencatat bahwa replicator nyata dapat mengeksploitasi jenis perangkat keras lain, menerapkan model berbeda di perangkat yang heterogen, dan menghindari memuat bobot model ke setiap host yang terkompromi. Kemungkinan-kemungkinan itu memang mempersulit perbandingan, tetapi bisa dibilang mempersulitnya hingga di luar batas diskusi ini.
Riset ini mengidentifikasi satu kekhawatiran keamanan yang bermakna. Agen AI dapat membuat malware lebih adaptif terhadap lingkungan yang tidak dikenal dan mengurangi jumlah rekayasa spesifik target yang dibutuhkan. Pendekatan hybrid, yang menggabungkan kode konvensional untuk operasi rutin dengan penalaran berbasis AI saat kondisi tak terduga muncul, dapat menawarkan sebagian manfaat tersebut tanpa mengharuskan setiap perangkat yang terkompromi menjalankan mesin inferensi secara terus-menerus. Ini jelas mengkhawatirkan, tetapi agen AI yang menggunakan kecerdasan frontier untuk menulis kodenya sendiri demi mengompromikan sistem yang aman sudah pernah terlihat, sehingga sudut spesifik riset ini bukanlah hal yang benar-benar baru.
Eksperimen Anthropic bermanfaat karena memberikan bukti bahwa konfigurasi perangkat lunak secara otonom dan replikasi jaringan yang disederhanakan semakin layak dilakukan. Namun mengubah kemampuan tersebut menjadi kelas malware yang jauh lebih berbahaya masih membutuhkan peningkatan dalam keandalan model, kompatibilitas perangkat keras, efisiensi deployment, dan kemampuan mengatasi kontrol keamanan dunia nyata, yang tidak diuji oleh perusahaan tersebut. Sejumlah besar data dan temuan menarik lainnya tidak dibahas di sini terdapat dalam makalah aslinya.
Penelitian ini juga menjadi bagian dari rangkaian panjang pengungkapan Anthropic terkait risiko agen AI. Sebelumnya, perusahaan tersebut pernah menghentikan akses internet untuk semua evaluasi internal, dan juga pernah terlibat dalam insiden di mana model Anthropic mengirim tip palsu ke kepolisian Philadelphia. Langkah-langkah tersebut menunjukkan bahwa perusahaan terus mengevaluasi batas antara kemampuan model dan potensi penyalahgunaannya.
Komentar
Belum ada komentar.