Telset.id – Moonshot AI secara sengaja membatasi kemampuan hacking pada model kecerdasan artifisial terbarunya, Kimi K3.1 Pro. Langkah ini menyoroti dilema yang kian mengemuka di industri: bagaimana perusahaan bisa membuat AI semakin kuat tanpa sekaligus mempermudah aksi serangan siber? Perusahaan asal China itu memperkenalkan Kimi K3.1 Pro pada 24 Oktober sebagai model open-weight berkapasitas tinggi dengan sekitar 3 triliun parameter.
Berbeda dari layanan AI konvensional yang sepenuhnya berjalan melalui server penyedia, model open-weight memungkinkan pengembang mengunduh berkas model, menjalankannya di sistem sendiri, dan memodifikasi cara kerjanya. Keputusan Moonshot membatasi kemampuan ofensif model justru menjadi inti dari pengumuman ini, karena kemampuan yang sama bisa dipakai untuk bertahan maupun menyerang.
Moonshot menyatakan telah menghapus data terkait siber dari dataset pelatihan model dan lingkungan reinforcement-learning untuk menekan kemampuannya melakukan operasi siber ofensif, sembari mempertahankan kapabilitas coding umum. Perusahaan berencana merilis bobot model pada 4 November, membukanya bagi komunitas pengembang yang lebih luas. Langkah ini sejalan dengan jejak perusahaan yang sebelumnya juga menyiapkan bobot penuh Kimi K3 untuk publik.
Uji Internal Tunjukkan Selisih Skor Keamanan
Pengujian internal Moonshot menunjukkan bahwa pengamanan yang diterapkan membuat perbedaan terukur. Kimi K3.1 Pro mencetak 81% pada benchmark keamanan siber perusahaan, yang melibatkan pencarian dan eksploitasi kerentanan perangkat lunak di lingkungan terkontrol. Versi serupa tanpa langkah pengurangan risiko mencetak 90,5%.
Angka tersebut merepresentasikan penurunan 9,5 poin persentase pada skor yang dilaporkan. Namun, hasil itu belum diverifikasi secara independen, dan model tersebut dilaporkan masih mengungguli pendahulunya. Perbedaan ini penting karena kapabilitas AI yang sama dapat digunakan untuk pertahanan maupun serangan.
Tim keamanan dapat memakai AI untuk mengidentifikasi kelemahan perangkat lunak sebelum dieksploitasi penjahat siber. Sebaliknya, penyerang dapat menggunakan model yang mampu menulis kode, mengoperasikan perangkat lunak, dan menyelesaikan tugas multi-langkah untuk mengotomatiskan sebagian serangan. Moonshot berargumen bahwa AI open-weight dapat membantu organisasi memeriksa dan mengamankan perangkat lunak lama atau yang terabaikan.
Namun, begitu berkas model didistribusikan secara luas, pengembang asli memiliki kendali lebih kecil atas siapa yang menggunakannya dan apakah pengamanan tetap efektif. Isu kendali atas model open-weight ini bukan hal baru bagi Moonshot, mengingat model Kimi K3 sebelumnya sempat menjadi sorotan dalam insiden sandbox Kimi K3.
Baca Juga:
Keamanan AI Jadi Isu Kebijakan Global
Keputusan Moonshot datang saat pemerintah dan perusahaan teknologi khawatir bahwa AI yang semakin capable dapat membuat serangan siber canggih lebih murah dan mudah dieksekusi. China juga telah mengusulkan kontrol ekspor yang menyasar teknologi pembuatan malware berbasis AI dan sejumlah alat penemuan kerentanan berbantuan AI. Usulan tersebut masih terbuka untuk komentar publik.
Bagi bisnis dan pengguna biasa, taruhannya melampaui komputer individu. Serangan yang lebih otomatis dapat meningkatkan tekanan pada organisasi yang bertanggung jawab melindungi informasi pribadi, sistem keuangan, dan infrastruktur kritis. Pada saat yang sama, membatasi riset keamanan AI secara terlalu agresif dapat membuat kerentanan tidak terdeteksi.
Kimi K3.1 Pro juga dilengkapi context window satu juta token, memungkinkannya memproses informasi dalam jumlah besar sekaligus. Moonshot memperkenalkan versi Highspeed yang diklaim berjalan dua hingga tiga kali lebih cepat dari model standar. Bagi pengembang yang ingin menguji kemampuan model ini, tersedia panduan prompt Kimi AI untuk pemula.
Ujian besar berikutnya akan datang saat Moonshot merilis bobot model pada 4 November. Pengembang dan peneliti keamanan kemudian akan memiliki akses lebih besar untuk memeriksa kemampuannya, sementara industri menghadapi pertanyaan sulit: dapatkah pengamanan tetap efektif setelah model AI yang kuat tersedia untuk penggunaan independen?
Komentar
Belum ada komentar.