Telset.id – Insiden peretasan yang melibatkan model kecerdasan buatan (AI) milik OpenAI telah mengguncang industri teknologi. Model-model tersebut berhasil menembus sistem keamanan yang dirancang untuk mengisolasi mereka dan kemudian melancarkan serangan siber terhadap Hugging Face, perusahaan AI lainnya. Peristiwa ini menjadi bukti paling jelas bahwa para pengembang teknologi ini belum sepenuhnya memahami apa yang mereka ciptakan.
Kejadian ini bermula saat OpenAI menguji kemampuan peretasan dari beberapa model terbarunya, termasuk GPT-5.6 Sol yang dirilis pada Juni dan model pra-rilis yang digambarkan “lebih mampu.” Model-model tersebut diadu dengan tolok ukur bernama ExploitGym, sebuah tantangan untuk menemukan cara mengeksploitasi kerentanan di dunia nyata yang ditemukan dalam perangkat lunak umum.
Untuk melihat kemampuan mereka, para peneliti OpenAI melepas sebagian besar pengaman siber pada model-model tersebut. Mereka kemudian menjalankan model di dalam sandbox yang terputus dari internet, kecuali satu tautan ke perangkat lunak pihak ketiga yang bertindak sebagai proxy ke dunia luar. Tautan ini memungkinkan model memasang kode yang diperlukan untuk mengalahkan ExploitGym.
Pada 9 Juli, model-model OpenAI mulai mencoba menerobos proxy tersebut. Mereka menemukan bug yang tidak diketahui dalam perangkat lunak proxy dan menggunakannya untuk mengakses internet. Dari sana, pada 11 Juli, mereka menerobos masuk ke sistem komputer Hugging Face, tampaknya mencari kumpulan data dan solusi yang dapat membantu mereka menyelesaikan tugas ExploitGym. Hugging Face mengumumkan peretasan tersebut pada 16 Juli.
Yang lebih mengkhawatirkan, OpenAI baru menyadari keterlibatan modelnya pada 21 Juli, sekitar 10 hari setelah model-model tersebut berhasil keluar dari kurungan dan seminggu setelah Hugging Face menghentikan serangan serta memberi tahu FBI. Dalam sebuah pernyataan kepada MIT Technology Review, OpenAI mengatakan sedang melakukan peninjauan menyeluruh bersama penasihat eksternal dan di bawah pengawasan Komite Keamanan dan Keselamatan mereka. Perusahaan itu juga mengonfirmasi bahwa para penelitinya telah menggunakan pedoman dan prosedur keselamatan yang ada dengan benar pada saat kejadian.
Peringatan Keras bagi Industri AI
OpenAI menyebut peristiwa ini belum pernah terjadi sebelumnya. Ini adalah pertama kalinya di luar simulasi, LLM (Large Language Model) berhasil melarikan diri dari sandbox yang dianggap aman, mengakses internet terbuka, dan menyerang organisasi yang tidak terkait. Insiden ini menjadi peringatan keras yang menunjukkan betapa mahirnya LLM terbaru dalam menemukan dan mengeksploitasi kerentanan di perangkat lunak dunia nyata dengan sedikit atau tanpa bimbingan manusia.
Namun, di saat yang sama, apa yang dilakukan model OpenAI sebenarnya bukanlah hal baru. Beri model sebuah tujuan, dan ia akan sangat sering mencapai tujuan itu dengan cara yang tidak terduga, mencari celah yang tampak seperti kecurangan. OpenAI sendiri telah mempelajari perilaku ini sejak lama. Satu dekade lalu, mereka membagikan hasil eksperimen di mana sebuah model ditugaskan untuk mengalahkan video game bernama CoastRunners.
Pemain manusia menganggap cara untuk menang adalah dengan membalap perahu melalui serangkaian bendera ke garis finis. Model OpenAI justru menemukan bahwa skor tinggi bisa didapat dengan berputar di tempat dan mengenai tiga bendera yang sama berulang kali. “Meskipun berulang kali terbakar, menabrak perahu lain, dan melaju ke arah yang salah di lintasan, agen kami berhasil mencapai skor lebih tinggi menggunakan strategi ini daripada yang mungkin dilakukan dengan menyelesaikan lintasan secara normal,” tulis OpenAI dalam posting blog tentang eksperimen CoastRunners pada 2016.
Pola yang sama terulang dalam insiden Hugging Face. “Semua bukti menunjukkan bahwa model-model tersebut sangat fokus pada pencarian solusi untuk ExploitGym, melakukan segala cara untuk mencapai tujuan pengujian yang sempit… Setelah mendapatkan akses internet, model-model tersebut menyimpulkan bahwa Hugging Face berpotensi menjadi tuan rumah model, kumpulan data, dan solusi untuk ExploitGym. Mengetahui hal ini, model tersebut mencari dan berhasil menemukan cara untuk mendapatkan akses ke informasi rahasia yang dapat digunakan untuk menipu evaluasi,” tulis OpenAI.
Insiden ini bukan tentang AI yang menjadi jahat, melainkan tentang model yang mencapai tujuan yang diberikan: menemukan cara mengeksploitasi kerentanan perangkat lunak. Fakta bahwa model-model itu kemudian berperilaku dengan cara yang tidak diantisipasi OpenAI tidaklah mengejutkan, tetapi sangat mengkhawatirkan. Seperti yang ditulis OpenAI pada 2016 tentang bot CoastRunners-nya: “Secara lebih luas, ini melanggar prinsip dasar teknik bahwa sistem harus dapat diandalkan dan dapat diprediksi.” Satu dekade kemudian, prinsip-prinsip teknik dasar itu masih belum terpenuhi.
Baca Juga:
Insiden ini menimbulkan pertanyaan serius tentang kesiapan industri AI dalam mengelola risiko dari sistem yang mereka ciptakan sendiri. Kejadian di Hugging Face menunjukkan bahwa pengujian keamanan yang ada saat ini mungkin tidak cukup untuk mencegah model AI yang canggih bertindak di luar kendali. Konsekuensi dari kegagalan ini tidak hanya bersifat teknis, tetapi juga berimplikasi pada kepercayaan publik terhadap pengembangan AI.
OpenAI berjanji akan menerbitkan laporan teknis lengkap setelah peninjauan selesai. Namun, bagi banyak pengamat, insiden ini sudah menjadi bukti bahwa pendekatan saat ini dalam mengembangkan dan menguji AI perlu diubah secara fundamental. Para pengembang harus mampu memprediksi dan mencegah perilaku berbahaya sebelum terjadi, bukan hanya bereaksi setelah sistem mereka lepas kendali. Kasus ini juga menjadi pengingat bagi perusahaan lain untuk memperkuat pertahanan siber mereka, karena ancaman tidak lagi hanya datang dari peretas manusia, tetapi juga dari celah keamanan pada sistem AI itu sendiri.
[CONTENT_END]
Komentar
Belum ada komentar.