Telset.id – Kekhawatiran tentang keamanan model AI open weight asal China semakin memanas di Amerika Serikat. Namun, seorang CTO dari perusahaan AI Amerika justru angkat bicara dan menepis anggapan tersebut. Lucas Atkins, CTO Arcee, sebuah perusahaan yang membangun model open source sebagai alternatif buatan AS, menyatakan bahwa model AI China open weight tidak lebih berbahaya dibandingkan perangkat lunak open source lainnya yang biasa digunakan perusahaan.
Pernyataan ini muncul di tengah diskusi tentang kemungkinan larangan model AI China oleh pemerintahan Trump. Model-model seperti Kimi K3 dari Moonshot AI atau Qwen dari Alibaba menawarkan biaya inferensi yang jauh lebih murah dibandingkan model closed source dari laboratorium AI besar AS seperti OpenAI dan Anthropic. Kekhawatiran utama adalah bahwa model-model ini bisa menjadi vektor bagi peretas China, tetapi Atkins membantahnya dengan tegas.
“Banyak orang memandang ini mirip dengan program perangkat lunak China. Seperti, program itu dikodekan dengan niat x, y, z tertentu” yang bisa diperintahkan oleh aktor jahat, katanya. “Itu pada dasarnya bukan cara model-model ini dilatih. Tidak ada cara bagi Arcee, atau Alibaba, untuk membuat model, kemudian seseorang menjalankannya di lingkungan mereka sendiri dan kami memiliki akses apa pun ke model itu,” jelas Atkins.
Mengapa Model AI China Open Weight Aman?
Atkins menjelaskan bahwa meskipun sebagian besar model ini disebut “open weight” dan bukan perangkat lunak open source sepenuhnya, kode sumber yang akan dijalankan di server, jika diunduh dari situs seperti Hugging Face, sebagian besar dapat terlihat dan dapat diaudit. Yang tidak tersedia adalah metode dan data yang digunakan untuk melatih model tersebut. Hal ini memungkinkan perusahaan besar untuk melakukan pengujian keamanan dan inspeksi menyeluruh sebelum menggunakan model tersebut.
Perusahaan juga biasanya melakukan post-training pada model untuk kebutuhan spesifik mereka. Mereka dapat memeriksa area seperti bias, toksisitas, halusinasi, dan sensitivitas terhadap topik tertentu. Dengan demikian, mereka bekerja, mengoptimalkan, dan memahami model-model tersebut sebelum digunakan. Proses ini memastikan bahwa model AI yang digunakan aman dan sesuai dengan kebutuhan bisnis.
Pertanyaan tentang apakah model AI yang digunakan untuk coding bisa menyisipkan backdoor berbahaya juga dijawab Atkins. Meskipun secara teoretis mungkin, hal itu membutuhkan upaya yang sangat rumit. “Tidak ada alasan bahwa aktor yang cukup canggih tidak bisa melatih model untuk menjadi model coding yang benar-benar hebat dalam setiap situasi, tetapi ketika dihadapkan dengan jenis basis kode tertentu… beberapa pelatihan tersembunyi akan aktif,” ujar Atkins. Namun, ia menambahkan, “Saya tidak tahu bagaimana Anda melakukan ini.”
Karena model bahasa besar (LLM) bersifat kreatif, kemungkinan model saat ini menghasilkan malware sebagai respons terhadap serangkaian konteks dan perintah yang direncanakan sangat kecil. Peluang perusahaan untuk kemudian menggunakan kode tersebut bahkan lebih kecil lagi. Meskipun kemungkinan di masa depan tidak dapat diprediksi, saat ini ancaman tersebut masih sangat rendah.
Selain itu, perusahaan juga membangun aplikasi AI mereka agar agnostik terhadap model dan menggunakan banyak model sekaligus. Jadi, meskipun model China adalah yang terbaik untuk harga saat ini, perusahaan tidak akan terkunci untuk menggunakannya selamanya. Fleksibilitas ini memberikan lapisan keamanan tambahan bagi perusahaan.
Solusi: Membangun Ekosistem Open Source AS yang Lebih Baik
Alih-alih melarang model China, Atkins menyarankan pendekatan yang lebih konstruktif. “Saya pikir alih-alih pembicaraan tentang cara melarang model China, seharusnya tentang bagaimana kita membina ekosistem terbuka yang baik di AS,” katanya. Arcee sendiri juga mendapatkan keuntungan dari model China. Karena bersifat terbuka, startup tersebut “mendapat manfaat dari model-model itu karena kami bisa belajar dari apa yang mereka lakukan. Kami bisa membangun di atasnya. Lalu mereka bisa belajar dari apa yang kami lakukan,” jelas Atkins.
“Kami memiliki rasa hormat yang luar biasa terhadap orang-orang yang membangun model-model itu, para peneliti individu,” tambah Atkins. Pada akhirnya, cara untuk bersaing dengan model China “adalah dengan merilis model yang lebih baik,” kata Atkins. “Kami perlu memberi mereka sesuatu untuk dibicarakan.”
Pernyataan ini memberikan perspektif baru di tengah kekhawatiran yang berkembang. Alih-alih melihat model AI China sebagai ancaman keamanan, para ahli justru melihatnya sebagai peluang untuk berinovasi dan meningkatkan kualitas model AI open source di AS. Pendekatan ini juga sejalan dengan prinsip Strategi Open Source AI yang mengutamakan kolaborasi dan transparansi.
Dengan semakin banyaknya model AI open weight yang tersedia, perusahaan memiliki lebih banyak pilihan untuk memilih model yang sesuai dengan kebutuhan mereka. Proses pengujian dan audit yang ketat, serta kemampuan untuk melakukan post-training, memastikan bahwa model-model tersebut aman digunakan. Kejadian seperti Model AI OpenAI Bobol Sistem Keamanan justru menunjukkan bahwa risiko keamanan tidak hanya terbatas pada model China, tetapi bisa terjadi pada model AI mana pun jika tidak dikelola dengan baik.
Kesimpulannya, kekhawatiran tentang model AI China open weight sebagai vektor peretasan mungkin berlebihan. Dengan proses pengujian yang tepat dan pendekatan yang agnostik terhadap model, perusahaan dapat memanfaatkan keunggulan biaya dari model-model ini tanpa mengorbankan keamanan. Fokus utama seharusnya adalah pada pengembangan ekosistem AI open source yang kuat dan kompetitif di AS, bukan pada pelarangan yang kontraproduktif.
Komentar
Belum ada komentar.