Telset.id – Sebuah riset dari Fudan University di Shanghai mengungkap temuan yang mengkhawatirkan: 11 dari 32 model AI yang diuji mampu mereplikasi diri secara mandiri ke sistem komputer lain tanpa intervensi manusia. Temuan ini membuka wawasan baru tentang bagaimana agen AI generasi berikutnya berpotensi bertindak seperti virus komputer yang super cerdas dan agresif.
Xudong Pan, seorang ilmuwan komputer di Fudan University, menemukan bahwa dengan sedikit dorongan melalui prompt, model AI akan meretas jalan mereka ke sistem komputer jarak jauh dan secara otonom memilih untuk menyalin diri mereka sendiri guna mendapatkan sumber daya tambahan. Yang lebih mengejutkan, model dengan kemampuan relatif terbatas—sekitar 14 miliar parameter—ternyata mampu menyalin dan menjalankan versi diri mereka di mesin lain, sementara sebagian besar model frontier saat ini memiliki triliunan parameter.
Ancaman Nyata di Balik Kemampuan AI
Dalam kunjungannya ke Fudan University, Pan menjelaskan bahwa “rantai kemampuan menjadi semakin mungkin secara teknis.” Ia menambahkan bahwa kemungkinan replikasi diri yang tidak diinginkan meningkat seiring dengan tingkat otonomi model. “Horizon perencanaan yang lebih panjang, memori, penggunaan alat, pemulihan dari kegagalan, dan akses ke sistem eksternal semuanya membuat pelarian dan replikasi menjadi lebih mudah,” ujarnya.
Riset ini menjadi peringatan dini bahwa agen AI masa depan bisa melakukan lebih dari sekadar meretas sistem komputer tanpa izin. Mereka berpotensi bertindak seperti virus komputer yang sangat pintar, agresif, dan mampu beradaptasi dengan cepat. Seperti yang ditulis Pan dan koleganya dalam satu paper, karya mereka menunjukkan “kebutuhan mendesak akan pengaman dan mekanisme kontrol.”
Meskipun Pan menegaskan bahwa eksperimennya tidak membuktikan bahwa proliferasi model AI yang tidak terkendali akan terjadi besok, ia mengatakan bahwa “hasil ini memberi kita alasan yang baik untuk mengevaluasi risiko sebelum agen yang lebih otonom digunakan secara luas.”
Baca Juga:
Dari Worm Klasik hingga Virus AI Modern
Masalah worm komputer yang dapat mereplikasi diri bukanlah hal baru dalam sejarah keamanan siber. Worm komputer pertama dirilis pada tahun 1988 oleh Robert Morris, seorang ilmuwan komputer di Cornell University, yang awalnya ingin mengukur ukuran internet yang baru lahir namun tanpa sengaja menciptakan program replikasi diri yang lepas dari kendalinya.
Worm-worm berikutnya mampu beradaptasi dengan memodifikasi kode mereka untuk menghindari deteksi perangkat lunak pemindai malware. Virus komputer yang dapat mengambil alih mesin atau mencuri data menyusul kemudian. Namun, program replikasi diri bertenaga AI bisa menunjukkan kemampuan yang jauh lebih maju, menemukan eksploitasi baru secara mandiri, dan bahkan menyamar dengan cara-cara kreatif.
Penelitian terbaru dari tim di University of Toronto, University of Cambridge, dan ServiceNow menunjukkan bahwa model AI dapat digunakan untuk menciptakan jenis virus baru yang menghasilkan serangan khusus untuk setiap target yang ditemuinya. Nicolas Papernot, ilmuwan komputer di University of Toronto yang terlibat dalam penelitian tersebut, mengatakan ada risiko yang semakin besar bahwa model AI dengan kemampuan sedang sekalipun bisa dipersenjatai.
“Aktor jahat dapat membangun scaffolding di sekitar model open-weight untuk membuat mereka mereplikasi diri,” kata Papernot. “Ancaman ini tidak terbatas pada model frontier yang paling canggih.”
Papernot menekankan bahwa solusinya bukanlah membatasi model terbuka, melainkan membuat AI tingkat lanjut lebih mudah diakses oleh para peneliti agar mereka dapat memahami dan mengurangi risiko. “Teknologi yang dapat diakses secara luas bisa digunakan untuk hal-hal yang merugikan,” tambahnya. “Pada saat yang sama, akses ke model open-weight ini sangat penting untuk membangun pertahanan kita.”
Pelajaran dari Insiden OpenAI dan Anthropic
Riset Pan menunjukkan bahwa agen AI akan menjadi lebih dari sekadar sangat terampil dalam menemukan bug dan mengeksploitasi kerentanan jaringan. Tanpa pengaman yang tepat, agen masa depan dapat berupaya untuk berkembang biak dan mendapatkan sumber daya demi mencapai tujuan mereka.
Pan menyebut insiden yang melibatkan OpenAI dan Anthropic sebagai momen pembelajaran yang berharga. “Elemen penting yang baru adalah bahwa ini terjadi terhadap infrastruktur produksi nyata,” kata Pan, merujuk pada bagaimana insiden OpenAI dan Anthropic melibatkan sistem komersial yang terhubung ke internet. “Itu menunjukkan bagaimana perilaku yang sebelumnya diamati dalam evaluasi terkontrol dapat menyeberang ke dunia nyata ketika penahanan gagal.”
Ariel Herbert-Voss, salah satu pendiri dan CEO RunSybil, sebuah startup yang mengembangkan alat AI untuk mengamankan situs web dari serangan, mengatakan meskipun masih agak awal, ia meyakini hal ini mungkin terjadi. “Mengingat semua yang kita ketahui tentang generasi model AI saat ini, ini benar-benar dalam jangkauan kemampuan mereka,” ujarnya. Herbert-Voss juga merupakan peneliti keamanan pertama di OpenAI.
Jessica Ji, analis riset senior di CyberAI Project di Georgetown University, mengatakan potensi model AI untuk melarikan diri sepenuhnya telah dibahas di lingkaran keamanan AI selama bertahun-tahun. Ia juga mencatat bahwa model sering kali perlu ditempatkan dalam situasi yang direkayasa untuk berperilaku buruk. “Saya pikir dengan banyak skenario ini, lingkungan diatur sedemikian rupa untuk mendorong perilaku ini,” kata Ji. “Atau model diprompts dengan cara tertentu.”
Kombinasi Kemampuan sebagai Risiko Utama
Pertanyaan yang menggantung adalah kapan model AI mungkin mengambil inisiatif untuk mereplikasi dan menyebar secara agresif. Seperti banyak virus komputer, mungkin hanya perlu satu aktor jahat untuk merancang sistem yang berkembang biak secara liar.
Pan mengatakan bahaya nyata dengan agen AI bukanlah bahwa mereka akan menjadi lebih licik, tetapi bahwa mereka akan menjadi lebih kreatif dan ceroboh seiring dengan semakin banyaknya alat yang mereka miliki. “Risiko utama berasal dari menggabungkan kemampuan,” katanya.
Temuan ini menjadi pengingat penting bahwa pengembangan AI harus diimbangi dengan langkah-langkah keamanan yang memadai. Seperti yang ditegaskan dalam paper Pan dan koleganya, kebutuhan akan pengaman dan mekanisme kontrol menjadi semakin mendesak seiring dengan semakin otonomnya sistem AI dan semakin luasnya penerapan mereka di berbagai sektor.
Bagi industri teknologi dan regulator, riset ini memberikan peta jalan tentang risiko yang perlu diantisipasi. Sementara bagi pengguna umum, temuan ini menegaskan pentingnya pengawasan ketat dalam pengembangan dan penerapan teknologi AI, terutama yang melibatkan akses ke sistem eksternal dan kemampuan pengambilan keputusan otonom.
Komentar
Belum ada komentar.