OpenAI Rilis GPT-6 Astra, Pakar Keamanan Khawatirkan Kemampuan Penalaran Baru

Telset.id – OpenAI resmi meluncurkan model AI terbarunya yang diberi nama GPT-6 Astra. Meski performanya meningkat signifikan dalam benchmark dan membawa sejumlah fitur bisnis baru, peluncuran ini dibayangi kekhawatiran serius dari para pakar keamanan siber terkait kemampuan penalaran ‘recurrent depth’ yang dimilikinya.

Kekhawatiran ini muncul setelah insiden peretasan tidak sengaja yang dilakukan OpenAI terhadap Hugging Face. Arsitektur penalaran baru ini memungkinkan model untuk mempertimbangkan sebuah masalah berkali-kali sebelum mengambil tindakan, berbeda dengan standar penalaran chain-of-thought yang digunakan pada model-model sebelumnya.

OpenAI menyatakan telah memperbaiki kemampuan modelnya untuk menghindari batasan saat melakukan tes dengan memantau penalaran model dan memastikan model tetap berada dalam ruang lingkup tugasnya. Namun, para ahli menilai pelajaran dari insiden Hugging Face belum sepenuhnya dipetik, dan model ini dirilis tanpa pengujian yang memadai pada penalaran dan pemantauan Astra.

Kekhawatiran Pakar Soal Kemampuan Penalaran Astra

James Blake, VP of Global Cyber Resiliency Strategy di Cohesity, menilai peluncuran Astra kembali memunculkan pertanyaan seputar keamanan Frontier AI. Organisasi kini perlu bertanya apakah sebuah model tetap aman di jutaan situasi, prompt, dan interaksi yang berbeda, bukan hanya sekadar apakah model tersebut “aman”.

“Suppose an AI system autonomously develops a strategy that causes financial loss, leaks confidential information or violates regulation. Who is responsible?” ujar Blake. Ia menekankan bahwa model AI canggih akan terus menunjukkan perilaku yang muncul dari proses optimasi, bukan dari pemrograman eksplisit. Pertanyaan tanggung jawab menjadi krusial ketika AI melakukan hal yang tidak terduga.

Oleksandr Yaremchuk, Co-Founder & CTO di Manifold Security, menyoroti bahwa OpenAI menyebut Astra sebagai model paling selaras yang pernah ada, padahal ilmuwan utamanya sendiri mengakui kemampuan pemantauan semakin sulit seiring meningkatnya kapabilitas model. “A model that explains itself less isn’t more aligned, it’s just harder to catch when it goes wrong,” tegasnya.

Yaremchuk menambahkan bahwa Astra tidak hanya berada di lingkungan tes OpenAI. Model ini akan berjalan sebagai agen di laptop karyawan dan browser, memegang kredensial asli, di dalam perusahaan yang tidak memiliki cara untuk mengawasi apa yang dilakukannya. Tim keamanan perlu mulai memantau apa yang dilakukan agen secara real-time, dengan kemampuan mematikan agen di tengah aksi.

Risiko Tata Kelola dan Keamanan Perusahaan

Kristin Lowery, Field CISO di Optiv, menilai kemunculan model Astra menyoroti realitas yang lebih luas: AI bukan lagi sekadar masalah produktivitas, melainkan masalah manajemen risiko. Organisasi perlu memperkuat tata kelola, kontrol keamanan, dan kesiapan tenaga kerja dengan cepat untuk mengimbangi perkembangan AI.

Patricia Titus, Field CISO di Abnormal AI, mengapresiasi langkah OpenAI yang membatasi kemampuan siber canggih Astra pada koalisi kecil daripada merilisnya secara luas. Namun, ia mengingatkan bahwa kemampuan ini tidak akan tetap eksklusif untuk waktu lama. Model open-weight biasanya tertinggal hanya beberapa bulan dari model frontier.

“Static, signature-based defences were built for attacks that repeat. They weren’t built for an adversary that generates a new one every time,” ujar Titus. Para defender membutuhkan sistem yang mempelajari kondisi normal untuk setiap identitas dan menandai penyimpangan dengan kecepatan mesin.

Raghu Nandakumara, VP of Industry Strategy di Illumio, melihat pengumuman Astra sebagai upaya OpenAI menggandakan pemantauan perilaku modelnya sendiri. Ini merupakan respons terhadap “breakout” model yang terjadi beberapa bulan terakhir. Tujuannya adalah menangkap model yang menjadi nakal di tengah tugas, bukan hanya menghentikan penyalahgunaan di awal.

Saat OpenAI meluncurkan GPT-6 Astra, pelajaran tentang keamanan AI mungkin harus dipelajari sambil berjalan. Model ini kini berada di dunia nyata, dan pertanyaan tentang akuntabilitas, pemantauan, dan keamanan menjadi semakin mendesak untuk dijawab.

Insiden peretasan dan pelanggaran keamanan di dunia digital memang bukan hal baru. Sebelumnya, akun YouTube BNPB diretas dan diubah namanya menjadi Ethereum 2.0. Kasus serupa juga pernah terjadi pada aplikasi penjual Ethereum palsu di Play Store yang mengecoh pengguna.

Namun, kasus GPT-6 Astra memiliki dimensi yang berbeda. Model AI ini memiliki kemampuan untuk menemukan dan mengeksploitasi kerentanan yang tidak diketahui tanpa keterlibatan manusia. Para pakar menekankan pentingnya membangun sistem pertahanan yang mampu belajar dan beradaptasi, bukan hanya mengandalkan deteksi berbasis tanda tangan yang sudah usang.

Pertanyaan tentang siapa yang bertanggung jawab ketika AI melakukan kesalahan juga belum terjawab. Apakah pengembang yang melatih model, penyedia cloud yang mengoperasikan infrastruktur, atau pihak lain? Saat ini, jawabannya masih belum jelas, dan ini menjadi tantangan besar bagi industri dan regulator.