OpenAI Kehilangan Head of Ethics Chloé Bakalar di Tengah Gelombang Pengunduran Diri

Telset.id – OpenAI kembali kehilangan pemimpin senior di bidang keamanan dan etika AI. Chloé Bakalar, Head of Ethics sekaligus satu-satunya etikawan khusus di perusahaan pengembang ChatGPT tersebut, dilaporkan telah meninggalkan perusahaan kurang dari setahun setelah bergabung.

Kabar ini menjadi sorotan karena terjadi di tengah gelombang pengunduran diri para pemimpin yang bertanggung jawab atas keamanan AI. Sebelumnya, Johannes Heidecke yang memimpin tim Safety Systems telah mengumumkan kepergiannya pada Juli, dan Josh Achiam yang sebelumnya memimpin Mission Alignment juga dilaporkan telah meninggalkan perusahaan.

Kepergian tiga pemimpin dalam hitungan minggu memunculkan pertanyaan besar: siapa di dalam OpenAI yang memiliki kuasa untuk mengatakan bahwa sebuah model AI telah melampaui batas? Pertanyaan ini semakin relevan di saat OpenAI sedang membangun sistem yang mampu mengerjakan tugas kompleks secara mandiri.

Perombakan Struktur Keamanan OpenAI

OpenAI telah melakukan reorganisasi cara kerja keamanan internal. Sebagian tanggung jawab keamanan kini dipindahkan lebih dekat ke para peneliti dan insinyur yang mengembangkan model, alih-alih dikurung dalam tim terpisah.

Ada argumen yang mendukung pendekatan ini. Tim keamanan yang baru dilibatkan di akhir pengembangan bisa mengidentifikasi masalah, tetapi banyak keputusan yang membentuk model sudah diambil sebelumnya. Menempatkan peneliti keamanan bersama pengembang teknologi memungkinkan potensi masalah terdeteksi lebih awal.

Namun, ada sisi lain dari argumen tersebut. Tim keamanan independen dapat bertindak sebagai penyeimbang bagi orang-orang yang bertugas membuat model lebih cerdas dan cepat. Ketika tanggung jawab tersebut saling terkait, muncul pertanyaan tentang siapa yang berhak menolak ketika keputusan paling aman bertentangan dengan keinginan merilis produk baru.

Pertanyaan ini semakin sulit diabaikan karena model OpenAI bukan sekadar chatbot lagi. Contoh nyata datang dari Astra, model yang belum dirilis dengan kemampuan keamanan siber yang cukup kuat sehingga memicu kewaspadaan ekstra di internal perusahaan. OpenAI sendiri tidak bisa mengesampingkan kemungkinan Astra mencapai level kekhawatiran tertinggi untuk kemampuan keamanan siber.

Alih-alih merilis model secara luas, OpenAI memindahkan sebagian pengujian ke lingkungan yang lebih terisolasi dan mulai mempertimbangkan kontrol lebih ketat terhadap akses ke kemampuan paling canggihnya. Peristiwa ini menjadi contoh konkret yang diungkapkan OpenAI tentang konsekuensi AI yang terlalu cakap.

Rekam Jejak Kepergian Peneliti Keamanan

Ini bukan pertama kalinya OpenAI kehilangan peneliti keamanan terkemuka. Pada 2024, salah satu pendiri sekaligus kepala ilmuwan Ilya Sutskever meninggalkan perusahaan setelah memainkan peran sentral dalam upaya Superalignment. Jan Leike yang memimpin tim tersebut bersama Sutskever mengundurkan diri tak lama kemudian dan secara terbuka mengkritik pendekatan OpenAI terhadap keamanan.

OpenAI kemudian membubarkan tim Superalignment dan mendistribusikan pekerjaannya ke bagian lain perusahaan. Setelah itu, Mission Alignment juga dibubarkan dan Safety Systems telah direorganisasi.

Orang-orang meninggalkan perusahaan karena berbagai alasan. Tanpa bukti yang menghubungkan keputusan mereka, tidak adil untuk menyiratkan bahwa semua orang yang bekerja di bidang keamanan OpenAI pergi karena ketidaksepakatan bersama. Namun, tren organisasi ini patut dicatat.

Kepergian Chloé Bakalar terjadi di saat yang sama OpenAI membangun sistem yang mampu melakukan lebih dari sekadar menjawab pertanyaan di jendela ChatGPT. AI agent terus dirancang untuk menggunakan perangkat lunak, menjelajahi situs web, menulis dan mengeksekusi kode, serta menyelesaikan tugas dengan lebih sedikit pengawasan manusia. Semakin besar kebebasan yang diberikan, semakin penting keputusan tentang batasannya.

Perkembangan ini juga beriringan dengan langkah strategis lain di perusahaan, termasuk pembelian kembali saham karyawan senilai Rp1.300 triliun yang membuat rencana IPO semakin misterius.

Bagi pengguna ChatGPT, kepergian para pemimpin keamanan ini bukan alasan untuk berhenti menggunakan layanan atau berasumsi bahwa OpenAI tiba-tiba berhenti peduli pada keselamatan. Sebagian besar pengguna tidak akan pernah melihat perdebatan internal yang terjadi sebelum model baru mencapai ponsel atau komputer. Kita tidak tahu peneliti mana yang memperjuangkan pengujian tambahan, kemampuan mana yang menimbulkan kekhawatiran, atau seberapa sering peluncuran diubah karena seseorang di dalam perusahaan mengangkat bendera merah.

Kita hanya melihat hasil akhirnya. Ketika AI menjadi semakin cakap, pertanyaannya bukan sekadar apakah perusahaan seperti OpenAI memiliki “tim keamanan”. Pertanyaannya adalah apakah orang-orang yang bertanggung jawab mengidentifikasi risiko memiliki cukup independensi dan otoritas untuk memperlambat segala sesuatunya bila diperlukan.

OpenAI mengatakan bahwa mendekatkan keamanan ke pengembangan model dapat membuat pekerjaan itu lebih efektif. Itu mungkin terbukti benar. Namun, setelah kehilangan beberapa orang yang secara khusus bertugas memikirkan etika, keamanan, dan keselarasan, wajar untuk memperhatikan siapa yang tetap berada di ruangan ketika keputusan sulit berikutnya harus diambil.

Perubahan organisasi di OpenAI juga mencakup pengembangan model untuk pertahanan siber. Perusahaan telah memperluas Daybreak dengan GPT-5.6-Cyber untuk memperkuat kemampuan pertahanan sibernya. Sementara itu, keputusan menahan model Astra menjadi contoh bagaimana OpenAI menangani ambang keamanan kritis dalam pengembangan model.

Yang jelas, gelombang kepergian ini terjadi di saat yang krusial. OpenAI sedang membangun sistem yang jauh lebih otonom dan mampu. Keputusan tentang batas kemampuan model-model tersebut kini berada di tangan orang-orang yang tersisa di dalam perusahaan.