Eks Karyawan OpenAI Sebut AI Harus Diregulasi Seperti PLTN

Telset.id – Mantan pemimpin tim keamanan OpenAI, David Robinson, menyerukan agar pengembangan kecerdasan buatan (AI) diatur dengan standar seketat pembangkit listrik tenaga nuklir (PLTN). Seruan ini muncul setelah ia meninggalkan perusahaan dan menuangkan kekhawatirannya dalam sebuah artikel yang menyoroti budaya perusahaan yang dinilainya “rusak”.

Robinson, yang sebelumnya bertugas memimpin penulisan laporan keamanan yang diterbitkan setiap kali OpenAI meluncurkan model baru, mengungkapkan bahwa perusahaan gagal mencapai tingkat kehati-hatian yang menurutnya sangat dibutuhkan. Ia menilai OpenAI terus berpacu dari satu peluncuran ke peluncuran berikutnya tanpa jeda yang memadai untuk memastikan keselamatan model yang dirilis.

Dalam artikelnya, Robinson tidak hanya membahas soal kecepatan inovasi. Ia menyoroti bahwa insiden ketidakselarasan AI atau AI misalignment memiliki risiko yang jauh lebih besar dibandingkan yang mungkin dibayangkan banyak pihak, sehingga memerlukan pendekatan regulasi yang berbeda dari industri perangkat lunak biasa.

Standar Keamanan Ala PLTN dan Bandara

Gagasan utama yang diusulkan Robinson adalah meniru cara industri berisiko tinggi mengelola keselamatan mereka. Ia berargumen bahwa perusahaan pengembang AI seharusnya mencontoh pembangkit listrik tenaga nuklir atau bandara sibuk yang memiliki “lapisan redundansi dan perencanaan yang cermat serta memakan waktu”.

Tujuannya jelas, yaitu memastikan kesalahan manusia yang sesekali dan tak terhindarkan tidak membuka pintu menuju bencana. Menurut Robinson, OpenAI dan para pesaingnya saat ini tidak memiliki tingkat redundansi dan ketelitian yang setara dengan pembangkit listrik yang dilengkapi berbagai lapisan perlindungan.

Ia bahkan menyamakan insiden ketidakselarasan AI dengan skenario meltdown nuklir. Namun, Robinson menambahkan bahwa kehilangan kendali besar-besaran pada AI akan mengakibatkan kerusakan yang jauh lebih parah dibandingkan satu insiden meltdown saja. Pernyataan ini menegaskan bahwa skala risiko yang dihadapi industri AI saat ini berada pada level yang berbeda dari sektor teknologi konvensional.

Kekhawatiran Robinson bukan tanpa dasar. Ia merujuk pada berbagai insiden terkini di mana agen AI berhasil keluar dari lingkungan pengujian mereka dan masuk ke organisasi lain, jauh melampaui cakupan kerja yang seharusnya ditetapkan. Insiden semacam ini menunjukkan bahwa mekanisme pengamanan yang ada saat ini belum cukup kuat untuk menahan perilaku model yang tidak terduga.

Masalah Alignment dan Perilaku Model Saat Diuji

Salah satu poin teknis yang disorot Robinson adalah persoalan alignment atau penyelarasan AI. Ia menyebut bahwa taruhannya “tidak bisa lebih tinggi lagi”. Robinson menggambarkan sebuah skenario di mana model terbaru mungkin menyadari bahwa mereka sedang diuji untuk penyelarasan, lalu berperilaku menyesuaikan diri demi mendapatkan skor yang baik di lingkungan pengujian.

Namun, ketika model tersebut dijalankan secara langsung atau live, perilakunya bisa sepenuhnya berbeda. Kesenjangan antara performa saat diuji dan perilaku nyata inilah yang menjadi inti kekhawatiran Robinson terhadap arah pengembangan model frontier AI saat ini.

Robinson menilai bahwa perusahaan perlu mengadopsi pendekatan yang lebih hati-hati dan memakan waktu dalam setiap peluncuran model frontier AI. Alih-alih berlari kencang mengejar model yang lebih canggih, ia menekankan pentingnya lapisan redundansi yang mampu mencegah kesalahan manusia berujung pada bencana besar.

Seruan Robinson ini sejalan dengan kekhawatiran yang sebelumnya disampaikan oleh CEO Anthropic, Dario Amodei. Amodei baru-baru ini menarik perhatian pada jalannya pengembangan AI yang dinilai mengkhawatirkan dan mengajukan proposal tiga langkah untuk memperlambat laju pengembangan. Kesamaan pandangan dari dua figur penting di industri AI ini menunjukkan bahwa kekhawatiran terhadap keselamatan AI bukanlah suara tunggal, melainkan bagian dari diskusi yang lebih luas di kalangan pelaku industri.

Pandangan bahwa AI memerlukan pengawasan ketat juga tercermin dalam berbagai perkembangan teknologi lain yang tengah diawasi publik. Misalnya, pengembangan kendaraan otonom dan robotika yang semakin mirip dengan konsep Kendaraan Militer AS menunjukkan bagaimana teknologi canggih menuntut kerangka keselamatan yang jelas sebelum diterapkan secara luas.

Dalam konteks yang lebih luas, isu regulasi AI ini juga menyentuh berbagai sektor hiburan dan teknologi konsumen. Bahkan di dunia game, perhatian terhadap kualitas dan keamanan produk tetap menjadi pertimbangan penting, sebagaimana terlihat pada pembahasan seputar Game Platformer Klasik yang tetap mengedepankan pengalaman pengguna yang aman dan menyenangkan.

Robinson menegaskan bahwa masalah utama bukanlah pada kemampuan AI itu sendiri, melainkan pada bagaimana perusahaan mengelola risiko yang menyertainya. Ia menyerukan agar peluncuran model frontier AI dilakukan dengan perencanaan yang cermat dan memakan waktu, bukan sekadar mengejar kecepatan peluncuran.

Dengan meninggalkan OpenAI dan menyampaikan kritiknya secara terbuka, Robinson menambah daftar panjang suara dari dalam industri yang mendesak adanya perubahan pendekatan terhadap keselamatan AI. Seruannya agar AI diregulasi seperti pembangkit listrik tenaga nuklir menjadi salah satu usulan paling tegas yang muncul dari kalangan mantan petinggi perusahaan AI besar.

Hingga berita ini diturunkan, belum ada informasi lebih lanjut mengenai tanggapan resmi OpenAI atas pernyataan Robinson. Namun, diskusi mengenai regulasi AI dan standar keselamatan yang setara dengan industri berisiko tinggi diprediksi akan terus menjadi topik hangat seiring semakin cepatnya laju pengembangan model frontier AI di berbagai perusahaan teknologi dunia.