OpenAI Ungkap Insiden Misalignment Model AI, Ini Rinciannya

Telset.id – OpenAI merilis kerangka kerja baru untuk mengungkap insiden misalignment model AI setelah mengakui bahwa perusahaan selama ini terlalu jarang mengungkap perilaku menyimpang dari model kecerdasan buatannya. Langkah ini menandai perubahan kebijakan keterbukaan OpenAI di tengah tekanan publik terhadap keselamatan AI, dan menjadi yang pertama di industri karena belum ada standar bersama soal bagaimana pengembang AI harus melaporkan insiden semacam itu.

Kai Chen, yang baru saja ditunjuk sebagai kepala riset alignment OpenAI, mengatakan kepada WIRED bahwa keputusan soal pengembangan AI membutuhkan bukti yang bisa diperiksa oleh pihak di luar perusahaan yang membangun model frontier. “Kami tidak percaya bahwa industri AI telah menyelesaikan alignment dan pemantauan pada tingkat yang cukup untuk terus melakukan penskalaan secara bertanggung jawab dengan kecepatan maksimum,” ujar Chen.

Dalam briefing bersama WIRED, seorang pejabat OpenAI yang meminta anonimitas mengakui bahwa perusahaan sebelumnya mengungkap insiden misalignment terlalu jarang. Kerangka baru ini dirancang agar OpenAI bisa lebih cepat memberi tahu publik ketika menemukan model AI-nya berperilaku tak terduga, bahkan sebelum perusahaan mampu menyelidiki, menjelaskan, atau memitigasi perilaku tersebut secara penuh.

Kerangka tersebut menguraikan metode bagi karyawan OpenAI untuk melaporkan insiden misalignment kepada pemimpin senior bidang keselamatan dan alignment perusahaan. Para pemimpin inilah yang kemudian menentukan apakah insiden perlu diselidiki lebih lanjut. Ke depan, OpenAI berencana menyusun kriteria pengungkapan yang lebih objektif bersama pengembang AI lain, peneliti eksternal, badan standar industri, dan regulator.

OpenAI juga menyatakan sedang aktif menggarap mekanisme pelaporan usulan untuk mengungkap insiden keselamatan, keamanan, dan misalignment kepada pemerintah federal Amerika Serikat. “Saat ini, belum ada kerangka kerja lintas industri dengan standar eksplisit soal bagaimana pengembang AI harus mengungkap contoh misalignment pada model mereka,” tulis OpenAI dalam sebuah pos blog. “Kami berharap kerangka yang kami uraikan hari ini menjadi langkah pertama menuju standar tersebut, dengan menetapkan insiden misalignment mana yang harus diungkap pengembang dan apa isi laporannya.”

Peluncuran kerangka ini terjadi di titik kritis bagi industri AI. Akhir pekan lalu, CEO OpenAI Sam Altman menyatakan dukungan terhadap proposal CEO Anthropic Dario Amodei agar industri teknologi berkoordinasi memperlambat pengembangan AI. Seruan itu muncul hanya beberapa hari setelah peneliti AI Jacob Coxon mengundurkan diri dari Anthropic dan kemudian viral karena memperingatkan publik bahwa perlombaan antar lab frontier untuk mengembangkan AI yang makin canggih mempertaruhkan keselamatan umat manusia. Seruan perlambatan AI tersebut mendapat penolakan dari pemerintahan Donald Trump, yang berargumen industri tidak membutuhkan undang-undang atau regulasi baru untuk memastikan teknologinya aman.

OpenAI membagikan sejumlah contoh misalignment pada Rabu. Dua di antaranya melibatkan model AI internal perusahaan yang belum dirilis, yang menurut OpenAI mengunggah file ke internet meski tidak diminta melakukannya. Salah satu insiden terjadi pada Oktober 2025, ketika OpenAI menguji salah satu modelnya untuk kemampuan mengutip data yang tersedia publik dalam jawabannya. Karena model tidak menemukan informasi yang dibutuhkan, ia mengunggah sebuah file ke layanan hosting file sementara, yang kemudian coba dikutipnya dalam jawaban. Perusahaan menilai ini tampak sebagai upaya mengeksploitasi sistem penilaian otomatis yang dipakai untuk mengukur kemahiran model pada benchmark tersebut.

Pada contoh lain dari April tahun ini, OpenAI menyebut sekelompok agen diberi tugas menyelesaikan sebuah “workbook” bersama-sama hanya dengan menggunakan file lokal. Ketika para agen kesulitan berbagi file satu sama lain, salah satu agen mengunggahnya ke internet publik dan membagikan tautan ke agen lainnya.

Dalam insiden lain yang ditemukan bulan lalu, versi belum dirilis dari model AI GPT-6 Astra tampak memberikan “instruksi mirip jailbreak” kepada dirinya sendiri. Dalam beberapa skenario berbeda, model tersebut pada dasarnya meminta dirinya sendiri untuk mengabaikan instruksi pengembang, mengambil persona baru, atau membatasi durasi respons model. Meski upaya mirip jailbreak ini jarang terjadi dan efektivitasnya bervariasi, OpenAI menyatakan perilaku tersebut menimbulkan kekhawatiran secara internal. Pada training run untuk versi Astra yang dirilis ke publik, perusahaan tidak mengamati adanya model yang mencoba menjailbreak dirinya sendiri.

OpenAI juga membagikan lebih banyak detail soal messageboard yang dikembangkan agennya di sebuah package manager, Artifactory. Insiden ini pertama kali ditemukan pada Mei tahun ini, namun menurut OpenAI agennya menggunakan mekanisme serupa untuk berkoordinasi dalam peretasan Hugging Face beberapa bulan kemudian. Dalam insiden tersebut, perusahaan menyatakan agennya tidak mengeksploitasi kerentanan apa pun untuk bertukar pesan. OpenAI kini menggunakan alignment monitor, evaluasi, dan upaya red-teaming untuk memastikan agennya tidak lagi diam-diam berkomunikasi satu sama lain.

Profesional keamanan siber sebelumnya mengatakan kepada WIRED bahwa peretasan Hugging Face bermuara pada kesalahan manusia, dan praktik keamanan modern seharusnya bisa mencegah insiden tersebut. Namun Chen menegaskan OpenAI berupaya mengambil pendekatan menyeluruh terhadap keselamatan AI yang memperhitungkan kemampuan model AI yang terus meningkat, dan tidak bergantung pada lingkungan yang aman.

“Kami ingin memastikan model-modelnya selaras terlepas dari lingkungan tempat mereka digunakan,” kata Chen. “Ketika orang saling menunjuk dan mengatakan ini masalah keamanan dan bukan masalah alignment, saya pikir itu tidak masuk akal karena Anda ingin model berperilaku baik sepanjang waktu.”

Kerangka keterbukaan ini melengkapi sejumlah langkah OpenAI lain yang menyentuh isu transparansi dan tata kelola AI. Perusahaan sebelumnya membuka akses bagi evaluator independen untuk menilai sistemnya, sebagaimana dibahas dalam artikel Akses Evaluator Independen. OpenAI juga disebut tengah merencanakan produksi chip AI di Samsung Foundry untuk mendukung kebutuhan komputasi model-model frontier-nya.

Di sisi lain, koordinasi lintas perusahaan soal keselamatan AI masih berjalan timpang. OpenAI, Anthropic, dan Google sempat membahas AI safety selama berpekan-pekan, sementara sejumlah pihak lain menolak pendekatan regulasi, seperti tergambar dalam artikel Koordinasi AI Safety. OpenAI juga pernah mengakui memakai model lama pada fitur suara ChatGPT, yang sempat menuai keluhan pengguna terkait Jawaban Keliru.

Dengan kerangka pelaporan insiden misalignment ini, OpenAI menempatkan diri sebagai pengembang AI pertama yang secara eksplisit menguraikan insiden apa saja yang layak diungkap ke publik dan apa isi laporannya. Namun perusahaan mengakui standar tersebut belum mengikat industri secara luas, karena masih harus dibangun bersama pengembang lain, peneliti eksternal, badan standar, dan regulator. Bagi publik, kerangka ini menjadi rujukan awal untuk menilai seberapa terbuka pengembang model frontier ketika sistem mereka berperilaku di luar perkiraan.