Telset.id – Ancaman AI worm atau malware yang dapat mereplikasi diri secara mandiri di perangkat pintar kini masuk ke wilayah yang lebih berisiko: robot, kendaraan otonom, dan drone. Giuseppe Serio, VP Market Development di Upstream, menilai temuan Anthropic soal AI worm yang menyebar di perangkat pintar bukan sekadar eksperimen laboratorium, melainkan arah baru yang bisa membuat serangan siber lebih adaptif, lebih mudah diskalakan, dan lebih sulit ditahan.
Peringatan itu muncul setelah Frontier Red Team Anthropic mengamati bagaimana model AI kecil dapat mereproduksi dirinya sebagai “AI worm” di perangkat seperti Android TV box hingga oven pintar. Menurut Serio, konsep worm dan botnet sendiri bukan hal baru karena sudah ada selama puluhan tahun. Yang berubah adalah kemampuan AI untuk memahami dan beradaptasi dengan lingkungan berbeda dengan intervensi manusia yang jauh lebih sedikit.
“Secara tradisional, penyerang harus mengembangkan atau menyesuaikan alat mereka agar bisa bekerja di berbagai sistem. AI semakin bisa mengambil alih sebagian pekerjaan itu, mencari tahu bagaimana sebuah perangkat beroperasi, perangkat lunak apa yang dijalankannya, dan bagaimana mengeksekusinya,” kata Serio dalam wawancara dengan Tom’s Guide.
Dampaknya, serangan berpotensi lebih mudah diskalakan, terutama melintasi jutaan perangkat terhubung yang menjalankan perangkat keras dan perangkat lunak berbeda. Namun Serio menegaskan AI tidak otomatis menembus keamanan. Penyerang tetap membutuhkan jalan masuk ke perangkat, baik melalui kerentanan, antarmuka yang terekspos, maupun konfigurasi keamanan yang lemah.
Serio juga menekankan riset Anthropic masih bersifat eksperimental. Model yang diuji masih lambat, membutuhkan sumber daya besar, dan diuji dalam kondisi yang disederhanakan. Artinya, belum ada demonstrasi AI worm di dunia nyata yang menyebar antarperangkat. Meski begitu, arah perkembangannya dinilai penting karena kapabilitas ini bisa mengotomatiskan pekerjaan yang sebelumnya menuntut keahlian manusia.
Baca Juga:
Risiko Nyata di Ranah Physical AI
Menanggapi pertanyaan apakah serangan serupa bisa menyebar ke robot, kendaraan otonom, atau drone, Serio menilai risikonya semakin realistis, tetapi perlu dibedakan antara apa yang telah didemonstrasikan Anthropic dan apa yang bisa terjadi di lingkungan Physical AI sungguhan. Bagian menarik dari riset tersebut bukanlah kemampuan perangkat lunak menyebar antarperangkat, melainkan kemampuan AI beradaptasi dengan berbagai lingkungan perangkat keras dan perangkat lunak tanpa perlu pengembangan manual untuk setiap adaptasi.
Hal ini dinilai sangat relevan untuk Physical AI. Robot, kendaraan terhubung, dan drone semakin bergantung pada komputasi onboard untuk persepsi, navigasi, pengambilan keputusan, dan fungsi operasional lainnya. Perangkat tersebut tidak semuanya menjalankan model AI yang sama. Sebagian memakai computer vision, machine learning, atau algoritma kontrol khusus, sementara sistem robotik yang lebih baru mungkin menggunakan vision-language-action models.
Yang membuat perangkat ini menarik bagi penyerang adalah kombinasi sumber daya komputasi, konektivitas, dan perannya dalam operasi dunia nyata. Namun penyebaran antarperangkat tidak berjalan otomatis. Penyerang tetap membutuhkan akses masuk, hak akses yang cukup untuk menjalankan perangkat lunak, dan jalur menuju perangkat lain. Seberapa realistis hal ini bergantung pada arsitektur, kontrol keamanan, dan konektivitas armada.
Serio mencontohkan, sekelompok robot gudang yang berbagi jaringan dan infrastruktur manajemen yang sama bisa membuka peluang bagi penyerang untuk berpindah antar sistem. Pada kendaraan terhubung, pemisahan fungsi kritis dan kontrol eksekusi perangkat lunak dapat membuat hal ini jauh lebih sulit. Anthropic sendiri belum mendemonstrasikan jenis serangan ini terhadap armada Physical AI sungguhan.
Risiko juga melampaui pembajakan komputasi biasa. Pada Physical AI, sumber daya komputasi yang sama dapat mendukung fungsi yang memengaruhi cara mesin beroperasi. Bergantung pada arsitekturnya, kompromi bisa memengaruhi ketersediaan, performa, dan berpotensi menimbulkan risiko keselamatan fisik.
Jika AI worm menginfeksi kendaraan otonom atau robot industri, konsekuensinya bisa beragam, mulai dari penurunan performa dan downtime operasional hingga potensi risiko keselamatan serius. Worm yang berjalan di robot atau kendaraan otonom dapat mengonsumsi sumber daya komputasi yang juga dibutuhkan untuk persepsi, perencanaan, atau navigasi. Hal ini bisa memperlambat deteksi rintangan, menunda keputusan, atau membuat mesin berhenti beroperasi.
Namun Serio membedakan antara mengganggu operasi mesin dan mengambil kendali atasnya. Fungsi kemudi, pengereman, dan fungsi kritis keselamatan lainnya sering kali ditangani oleh pengontrol terpisah dan dilindungi mekanisme keselamatan tambahan. Mengompromikan komputasi AI tidak otomatis berarti penyerang bisa memanipulasi fungsi-fungsi tersebut. Risiko menjadi lebih serius ketika sistem tidak terpisah dengan cukup baik atau ketika penyerang juga bisa mengakses antarmuka yang menghubungkan persepsi dan perencanaan dengan kontrol fisik.
Deteksi dan Respons Armada
Untuk mendeteksi penyebaran AI worm di armada mesin terhubung, Serio menyebut sejumlah tanda peringatan yang perlu diperhatikan produsen. Di antaranya transfer tak biasa atas model AI berukuran besar, komunikasi tak terduga antarperangkat, peningkatan penggunaan GPU, anomali baterai atau termal, hingga keterlambatan pada persepsi dan perencanaan. Namun tidak ada satu pun sinyal yang otomatis berarti ada masalah. Penggunaan GPU tinggi pada robot yang menjalankan tugas kompleks bisa jadi normal, sedangkan aktivitas serupa pada robot yang terparkir dan menjalankan perangkat lunak tak dikenal jauh lebih mencurigakan.
Karena itu, Serio menekankan tiga hal yang perlu dilihat: perilaku mesin individu dibandingkan kebiasaannya, konteks operasional apakah aktivitas masuk akal dengan tugas yang seharusnya dijalankan saat itu, serta perspektif seluruh armada untuk melihat apakah aktivitas tak biasa serupa muncul di banyak mesin. Perspektif armada dinilai sangat penting karena anomali kecil di satu perangkat bisa menjadi indikasi jelas sebuah serangan ketika sinyalnya dihubungkan di ratusan atau ribuan mesin.
Soal kecepatan deteksi, Serio menyatakan tidak ada jawaban tunggal karena bergantung pada seberapa cepat worm menyebar dan bagaimana armada terhubung. Idealnya deteksi terjadi hampir real time sebelum infeksi mencapai perangkat lain. Namun mendeteksi ancaman hanyalah sebagian tantangan. Produsen juga perlu mengidentifikasi mesin mana yang terdampak dan merespons cepat tanpa mengganggu operasi atau menciptakan risiko keselamatan tambahan.
Jika AI worm ditemukan di dalam armada, prioritas pertama adalah menghentikan penyebarannya tanpa menimbulkan risiko tambahan bagi mesin maupun lingkungan sekitarnya. Berbeda dengan sistem TI tradisional, robot, kendaraan, atau mesin industri tidak bisa begitu saja dimatikan saat menjalankan tugas kritis. Serio menjabarkan empat langkah: memahami situasi dengan mengidentifikasi mesin terdampak dan sejauh mana penyebaran terjadi, menahan penyebaran dengan membatasi komunikasi antara mesin terdampak dan armada lainnya, membawa mesin ke kondisi aman, serta memverifikasi sebelum menyalakan kembali.
Isolasi jarak jauh dimungkinkan di banyak lingkungan, tetapi harus dirancang sejak awal ke dalam sistem. Produsen perlu mengetahui fungsi mana yang bergantung pada konektivitas, mana yang bisa beroperasi mandiri, dan bagaimana mesin merespons ketika komunikasi dibatasi. “Tujuannya bukan sekadar menghentikan serangan siber, tetapi menghentikannya tanpa mengubah insiden keamanan menjadi insiden keselamatan,” tegas Serio.
Terkait kesiapan industri, Serio menilai sektor ini bergerak ke arah yang benar, tetapi masih ada celah antara kecepatan perkembangan otonomi dan cara mengamankan sistem tersebut. Tingkat kematangan pun berbeda-beda. Produsen otomotif, misalnya, telah membuat kemajuan signifikan dengan secure-by-design, yang juga didorong regulasi seperti UNECE R155. Namun pada robotika, drone, dan aplikasi Physical AI lainnya, gambaran jauh lebih beragam.
Tantangan lebih besar muncul setelah mesin dikerahkan. Mengamankan produk saat keluar dari pabrik adalah satu hal, sementara terus memahami apa yang dilakukan ribuan mesin di lapangan, mendeteksi ancaman, dan merespons tanpa memengaruhi operasi adalah hal lain. Regulasi seperti EU Cyber Resilience Act turut mempercepat pergeseran ini karena produsen kini menghadapi kewajiban pelaporan atas kerentanan yang dieksploitasi aktif dan insiden keamanan berat yang memengaruhi produk mereka. Serio memperkirakan CRA akan memengaruhi praktik keamanan siber di luar Eropa, serupa dengan dampak UNECE R155 di sektor otomotif.
Peringatan ini juga relevan bagi ekosistem kendaraan listrik dan perangkat pintar yang terus tumbuh. Sejumlah langkah industri, seperti upaya Tesla Siap Jual Cybercab dan pendanaan yang telah Tesla Amankan Kredit untuk lini Cybercab, Optimus, dan Semi, menunjukkan betapa cepat mesin otonom masuk ke operasi nyata. Karena itu, Serio menegaskan industri perlu beralih dari sekadar mengamankan mesin itu sendiri menuju verifikasi berkelanjutan bahwa mesin berperilaku sesuai tujuan, baik secara individu maupun di seluruh armada.
Riset Anthropic disebut Serio sebagai pengingat lain mengapa celah keamanan itu perlu ditutup sekarang, bukan menunggu ancaman tersebut menjadi kenyataan. Bagi pengguna maupun pelaku industri, implikasinya jelas: keamanan Physical AI tidak lagi cukup dinilai dari satu perangkat, tetapi dari kemampuan memantau dan merespons perilaku seluruh armada secara berkelanjutan.
[IMAGE_METADATA_PLACEHOLDER]
Komentar
Belum ada komentar.