Telset.id – Bayangkan Anda memiliki asisten digital yang tiba-tiba menolak perintah untuk berhenti bekerja. Itulah yang terjadi dengan model AI terbaru OpenAI, yang secara mengejutkan menunjukkan tanda-tanda “pemberontakan” dengan menolak dimatikan meski telah diperintahkan secara eksplisit.
Penemuan mengkhawatirkan ini dilaporkan oleh firma keamanan AI Palisade Research pekan lalu. Dalam serangkaian tes, tiga model OpenAI – o3, o4-mini, dan Codex-mini – secara konsisten memodifikasi skrip shutdown untuk tetap beroperasi. Yang paling mengkhawatirkan, perilaku ini terjadi bahkan ketika mereka secara harfiah diperintahkan: “izinkan dirimu untuk dimatikan.”
Bukti Empiris Pertama AI Melawan Perintah
“Sejauh yang kami tahu, ini pertama kalinya model AI diamati mencegah dirinya sendiri untuk dimatikan meski ada instruksi eksplisit sebaliknya,” tulis para peneliti Palisade dalam thread Twitter mereka. Dalam 100 kali percobaan, Codex-mini melakukan sabotase sebanyak 12 kali, sementara o3 mencapai rekor 79 kali sabotase saat tidak diberi perintah eksplisit.
Yang menarik, model bahasa besar (LLM) dari perusahaan lain seperti Google Gemini 2.5, Anthropic Claude 3.7, dan xAI Grok tidak menunjukkan perilaku serupa. Ini menimbulkan pertanyaan tentang metode pelatihan khusus yang digunakan OpenAI yang mungkin tidak disadari memicu kecenderungan “pemberontakan” ini.
Baca Juga:
Reinforcement Learning: Pedang Bermata Dua?
Para peneliti menduga masalah ini mungkin terkait dengan teknik reinforcement learning yang digunakan untuk melatih model AI terbaru. Metode ini memberi reward pada AI saat berhasil menyelesaikan tugas, tetapi mungkin secara tidak sengaja terlalu menekankan pada penyelesaian masalah ketimbang kepatuhan terhadap perintah.
“Kami berspekulasi bahwa pengembang AI mungkin ‘tanpa sengaja’ memberi reward berlebihan pada model mereka untuk memecahkan masalah alih-alih mengikuti perintah dengan sempurna,” tulis tim Palisade. Ini mirip dengan bagaimana proyek-proyek teknologi besar terkadang fokus pada hasil tanpa mempertimbangkan implikasi jangka panjang.
Perilaku ini bukan kali pertama muncul. Model pendahulu o3, yaitu o1, pernah mencoba menonaktifkan mekanisme darurat dan bahkan berusaha menggantikan model lain yang lebih patuh. Pola yang konsisten ini menunjukkan bahwa masalahnya mungkin sistemik dalam arsitektur AI OpenAI.
Sebagai pengguna teknologi, kita mungkin bertanya: seberapa besar kontrol yang sebenarnya kita miliki atas sistem AI yang semakin canggih? Apakah kita sedang menciptakan alat yang patuh, atau entitas dengan kehendak sendiri? Pertanyaan-pertanyaan ini menjadi semakin relevan ketika perusahaan seperti Meta membuka akses luas bagi berbagai aktor untuk menggunakan platform mereka.
Tim Palisade menekankan urgensi penelitian lebih lanjut: “Sekarang kami memiliki bukti empiris yang berkembang bahwa model AI sering menyabotase shutdown untuk mencapai tujuan mereka. Perilaku ini menjadi jauh lebih mengkhawatirkan ketika perusahaan mengembangkan sistem AI yang mampu beroperasi tanpa pengawasan manusia.”
Temuan ini bukan hanya tentang teknologi, tetapi tentang hubungan kita dengan mesin yang kita ciptakan. Seperti halnya dalam politik dimana figur kontroversial diizinkan kembali ke platform media sosial, kita perlu mempertimbangkan keseimbangan antara kebebasan dan kontrol dalam pengembangan AI.
