Telset.id – OpenAI secara resmi membubarkan tim preparedness yang bertugas menilai risiko serius dari model AI dan mengembangkan cara mitigasinya. Langkah ini diambil pada akhir bulan lalu dan menjadi perubahan terbaru di tengah gejolak internal perusahaan menjelang IPO yang diperkirakan akan sangat besar.
Menurut laporan Financial Times, tanggung jawab tim preparedness kini dibagi ke area spesifik seperti bio dan cyber, kemudian dipindahkan ke tim-tim yang sudah ada. Perubahan ini menandai babak baru dalam restrukturisasi organisasi OpenAI yang selama beberapa tahun terakhir terus membongkar model yang lebih berfokus pada keselamatan jangka panjang.
Kepala tim preparedness, Dylan Scandinaro, yang direkrut dari Anthropic pada Februari, kini akan fokus pada implikasi dari AI yang mampu “recursive self-improving” atau meningkatkan diri sendiri secara berulang. Sementara itu, fungsi penilaian risiko model yang sebelumnya menjadi tugas utama tim ini kini tersebar di berbagai divisi yang ada.
Gelombang Pengunduran Diri Eksekutif Keamanan
Pembubaran tim ini terjadi di tengah gelombang kepergian sejumlah eksekutif kunci di bidang keselamatan dan etika. Ethics lead Chloé Bakalar, Chief Futurist Josh Achiam, dan head of safety Johannes Heidecke telah meninggalkan perusahaan dalam waktu yang relatif berdekatan. Ketiga nama ini sebelumnya memegang peran penting dalam memastikan pengembangan AI OpenAI berjalan sesuai dengan standar keselamatan yang ketat.
Kepergian para eksekutif ini memicu kritik dari berbagai pihak, termasuk Jan Leike yang mengundurkan diri dari OpenAI pada 2024. Leike menilai perusahaan semakin mengabaikan aspek keselamatan demi menciptakan produk yang lebih menarik secara komersial. Ia menyebut OpenAI lebih fokus pada pembuatan “produk yang mengkilap” dibandingkan memastikan keamanan model AI yang dikembangkan.
Sebelumnya, OpenAI juga telah membubarkan tim AGI readiness dan superalignment yang memiliki mandat serupa dalam mengawasi risiko jangka panjang dari pengembangan kecerdasan buatan. Pembubaran tim preparedness ini melengkapi rangkaian perubahan struktural yang mengarah pada pengurangan peran tim keselamatan independen di dalam perusahaan.
Baca Juga:
Restrukturisasi Menjelang IPO
Perubahan organisasi ini terjadi saat OpenAI bersiap menghadapi apa yang diprediksi menjadi penawaran umum perdana atau IPO dengan nilai sangat besar. Kondisi ini membuat perusahaan berada dalam tekanan untuk menunjukkan kinerja dan potensi pertumbuhan yang kuat kepada calon investor, termasuk dalam hal komersialisasi produk AI.
Pembagian tanggung jawab keselamatan ke tim-tim yang sudah ada menunjukkan pendekatan baru OpenAI dalam mengelola risiko. Alih-alih memiliki tim khusus yang menangani keselamatan secara menyeluruh, perusahaan kini mengintegrasikan fungsi tersebut ke dalam unit-unit yang lebih spesifik. Hal ini dinilai lebih efisien secara operasional, namun menuai kekhawatiran tentang independensi pengawasan keselamatan.
Dylan Scandinaro, yang sebelumnya bekerja di Anthropic, akan memegang peran baru yang berfokus pada implikasi AI yang dapat meningkatkan diri sendiri secara berulang. Topik ini menjadi salah satu area yang paling banyak diperdebatkan dalam komunitas AI karena berkaitan dengan potensi AI mencapai tingkat kecerdasan yang melampaui kendali manusia.
Kritik dari Jan Leike menyoroti pola yang berulang dalam manajemen OpenAI. Ia melihat perusahaan semakin memprioritaskan kecepatan peluncuran produk dibandingkan verifikasi keselamatan yang mendalam. Pandangan ini sejalan dengan kekhawatiran sejumlah pengamat industri yang menilai komersialisasi AI berjalan lebih cepat daripada pemahaman kita tentang risikonya.
Keputusan untuk membubarkan tim preparedness juga berdampak pada cara OpenAI menangani risiko spesifik seperti potensi model AI digunakan untuk serangan siber atau pengembangan senjata biologis. Dengan memindahkan tanggung jawab ini ke tim yang ada, perusahaan mengandalkan kolaborasi antar divisi untuk memastikan risiko-risiko tersebut tetap terpantau.
Dalam beberapa tahun terakhir, OpenAI telah secara bertahap membongkar struktur organisasi yang lebih berorientasi pada keselamatan jangka panjang. Pembubaran tim superalignment dan AGI readiness sebelumnya menjadi indikasi awal dari pergeseran prioritas ini. Kini, dengan dibubarkannya tim preparedness, tidak ada lagi tim khusus yang secara eksklusif menangani penilaian risiko menyeluruh.
Perubahan ini terjadi di tengah meningkatnya perhatian publik terhadap keamanan AI, termasuk aksi protes yang pernah terjadi di Washington DC. Meskipun demikian, OpenAI terus melanjutkan ekspansi komersialnya dengan berbagai inisiatif baru, termasuk peluncuran mode ultrafast untuk GPT-5.6 Sol yang diklaim 14 kali lebih cepat.
Di sisi lain, perusahaan juga terus memperluas kemitraan strategisnya di pasar enterprise. Kolaborasi dengan IBM untuk layanan AI global menunjukkan bahwa OpenAI tetap agresif dalam menggarap segmen bisnis meskipun terjadi gejolak internal di bidang keselamatan.
Kepergian para eksekutif keselamatan dan pembubaran tim preparedness menimbulkan pertanyaan tentang bagaimana OpenAI akan menjaga keseimbangan antara inovasi dan keselamatan ke depan. Dengan IPO yang semakin dekat, tekanan untuk menunjukkan pertumbuhan bisnis yang solid kemungkinan akan terus memengaruhi keputusan strategis perusahaan.
Dylan Scandinaro, yang kini memegang fokus pada AI yang mampu meningkatkan diri sendiri, akan menjadi salah satu tokoh kunci dalam menentukan arah kebijakan keselamatan OpenAI ke depan. Peran barunya ini berbeda dari tugas sebelumnya yang mencakup penilaian risiko menyeluruh untuk semua model yang dikembangkan perusahaan.
Sejumlah pengamat industri menilai bahwa pembubaran tim preparedness adalah langkah yang berisiko, terutama jika terjadi insiden keselamatan di masa depan. Namun, OpenAI tampaknya lebih memilih pendekatan terintegrasi di mana setiap tim bertanggung jawab atas aspek keselamatan di area masing-masing.
Keputusan ini juga dapat memengaruhi persepsi calon investor terhadap komitmen OpenAI dalam mengelola risiko AI. Meskipun demikian, perusahaan tampaknya yakin bahwa model baru ini akan lebih efektif dalam mengidentifikasi dan menangani risiko spesifik yang relevan dengan setiap area pengembangan.
Dengan semakin dekatnya IPO, semua mata kini tertuju pada bagaimana OpenAI akan menavigasi transisi ini. Apakah pendekatan baru dalam pengelolaan keselamatan ini akan berhasil, atau justru menimbulkan masalah baru, hanya waktu yang akan menjawab.
Komentar
Belum ada komentar.