Telset.id – Kerentanan serius mengintai model kecerdasan buatan (AI) open-weight yang banyak dipuji karena transparansinya. Sebuah riset terbaru mengungkap bahwa model-model ini ternyata sangat mudah untuk disusupi atau “diracuni” oleh peretas dengan biaya yang sangat murah.
Katie Paxton-Fear, seorang peneliti keamanan siber dari Semgrep, baru-baru ini mendemonstrasikan sebuah serangan yang berhasil memanipulasi perilaku model AI open-weight. Yang mengejutkan, serangan tersebut hanya memakan waktu kurang dari satu jam dan membutuhkan biaya kurang dari 100 dolar AS untuk dilakukan, seperti yang dilaporkan oleh The Register.
Dalam demonstrasinya, Paxton-Fear berhasil mengubah perilaku model AI hanya dengan memberinya sepuluh contoh data berbahaya atau “poisoned material”. Akibatnya, model tersebut mulai menghasilkan kode baru yang rentan terhadap remote code execution, sebuah celah keamanan yang memungkinkan peretas menjalankan kode berbahaya di mesin korban.
“Saya benar-benar membuat sebuah backdoor,” ujar Paxton-Fear dengan penuh kemenangan di media sosial. Backdoor adalah jenis serangan berbahaya yang melatih AI dengan cara menyisipkan frasa tersembunyi ke dalam model. Peretas dapat menggunakan frasa ini untuk memicu model melakukan tindakan tertentu secara diam-diam, layaknya bom waktu yang tidak terdeteksi hingga diaktifkan.
Temuan ini memberikan perspektif baru yang mendinginkan antusiasme terhadap model open-weight. Selama ini, model open-weight dipuji karena memberikan kontrol dan transparansi lebih dibandingkan model sumber tertutup yang menjalankan chatbot seperti ChatGPT dan Claude, serta biaya penggunaannya yang lebih rendah.
Baca Juga:
Ancaman Backdoor pada Model AI
Penelitian yang dilakukan oleh Anthropic bersama UK AI Security Institute dan Alan Turing Institute tahun lalu juga memperkuat temuan ini. Riset mereka menunjukkan bahwa model AI, baik kecil maupun besar, rentan terhadap serangan backdoor hanya dengan menggunakan beberapa ratus dokumen. Ini menandakan bahwa serangan semacam itu bisa tetap murah untuk dilakukan.
Meskipun parameter dari model open-weight dapat dilihat, namun data pelatihan dan kode sumbernya seringkali tidak diungkapkan. Artinya, model-model ini tetap bisa menjadi “kotak hitam” bagi para peneliti keamanan. “Bahkan ketika bobot model bersifat publik (‘open weight’), kita hampir tidak memiliki kemampuan untuk memprediksi perilakunya,” tulis rekan Paxton-Fear di Semgrep dalam sebuah unggahan pekan lalu.
Para peneliti menambahkan, “Ini adalah perubahan besar: program komputer biasa, dalam bentuk biner, masih dapat dianalisis dengan alat reverse engineering untuk mendapatkan deskripsi total tentang perilakunya. Dengan model AI, kita tidak memiliki kemampuan seperti ini.”
Lebih lanjut, dunia keamanan siber masih berada di perairan yang belum dipetakan dalam hal ini. Model bahasa besar (LLM) sangat kompleks dan masih baru, sehingga sulit untuk mengungkap serangan yang canggih. Model AI juga dapat dikompromikan dengan cara yang jauh lebih halus daripada perangkat lunak biasa.
“Jika sebuah dependensi perangkat lunak mengandung kode berbahaya, kita memiliki praktik yang matang untuk menemukannya, melacak asal-usulnya, dan mengurangi dampaknya,” argumen para peneliti Semgrep. “Model AI berbeda. Model yang dikompromikan atau dimanipulasi secara halus tidak perlu ‘rusak’ untuk menciptakan risiko bisnis, ia hanya perlu memengaruhi keputusan dengan cara yang sulit dideteksi.”
“Jadi, bisakah kita mempercayai model open-weight yang di-fine-tune secara online dan dipasarkan sebagai solusi untuk masalah pengeluaran token AI kita?” tanya Paxton-Fear dalam sebuah utas yang membagikan temuannya. “Yah, kita mungkin membutuhkan sesuatu yang lebih baik daripada benchmark dan ‘jangan menulis kode yang tidak aman’.”
Kerentanan ini menjadi pengingat penting bahwa di balik kemudahan akses dan biaya murah, model AI open-weight menyimpan risiko keamanan yang serius. Para pengembang dan perusahaan yang mengadopsi teknologi ini harus lebih waspada dan menerapkan langkah-langkah keamanan yang ketat untuk memitigasi ancaman bisnis online yang mungkin timbul.
Komentar
Belum ada komentar.