OpenAI, Anthropic, Google Bicara soal AI Safety Selama Berpekan-pekan

Telset.id – OpenAI, Anthropic, dan Google DeepMind telah menjalin pembicaraan mengenai keamanan AI selama beberapa pekan terakhir. Kabar ini menegaskan bahwa ketiga perusahaan pesaing utama tersebut bergerak bersama di tengah desakan agar pengembangan model frontier AI diperlambat demi menghindari risiko katastrofik.

Chris Lehane, global policy chief OpenAI, menyampaikan hal itu kepada wartawan pada Selasa. Ia menyebut perusahaan telah bekerja sama dengan Anthropic dan Google DeepMind terkait AI safety, sebagaimana pertama dilaporkan Bloomberg. Lehane berada di Washington untuk bekerja dengan anggota parlemen Amerika Serikat dalam membahas risiko katastrofik yang terkait dengan AI.

Pengungkapan itu muncul setelah esai CEO Anthropic Dario Amodei yang diterbitkan Sabtu. Dalam esainya, Amodei menyerukan agar industri bekerja bersama memperlambat laju frontier AI dan menghindari risiko katastrofik. Seruan tersebut mendapat dukungan dari sejumlah nama besar, termasuk CEO OpenAI Sam Altman, Demis Hassabis dari Google, dan Elon Musk dari SpaceXAI.

Altman menyatakan OpenAI akan bergabung dengan Anthropic untuk menempatkan pihak evaluator independen di dalam perusahaan guna memantau aspek keamanan. Dukungan serupa datang dari Hassabis dan Musk, yang selama ini dikenal sebagai rival di ruang AI.

Pembicaraan Berlangsung Sejak Beberapa Pekan

Pada Selasa, Lehane mengakui bahwa ketiga perusahaan telah berbicara selama beberapa pekan mengenai AI safety. Sebagian pihak, termasuk Altman, mencatat bahwa pembicaraan semacam itu dapat menempatkan perusahaan pada risiko melanggar hukum antimonopoli jika koordinasi tersebut dinilai menekan persaingan.

Esai Amodei mengusulkan adanya keringanan sempit dari pemerintah yang memungkinkan koordinasi keamanan tersebut. Namun Lehane dilaporkan mengatakan bahwa perusahaan-perusahaan itu tidak memerlukan keringanan tersebut.

Kabar ini memperkuat laporan sebelumnya dan memberi petunjuk bahwa ketiga perusahaan memang bekerja bersama. Dalam wawancara dengan Fortune akhir pekan lalu, Altman memberi sinyal bahwa ia telah melakukan diskusi privat dengan para pemimpin AI lainnya. Pekan ini, The Information melaporkan bahwa ketiga perusahaan tengah bekerja sama membentuk badan standar untuk industri AI, sesuatu yang menurut Altman perlu terjadi tanpa dukungan pemerintah Amerika Serikat.

Hassabis pada Juli menyerukan agar Amerika Serikat membentuk badan standar baru yang berperan sebagai pengawas AI. Badan itu disebut perlu memiliki kewenangan menyaring model paling canggih di dunia dan mengoordinasikan perlambatan lintas industri jika bahaya meningkat.

Lehane juga menyatakan bahwa pada pertemuan Selasa yang sama, OpenAI mendukung ketentuan dalam FRONTIER Act. Ketentuan itu akan memaksa laboratorium frontier teratas mengizinkan “organisasi verifikasi independen” masuk ke dalam perusahaan mereka untuk memastikan model dikembangkan secara aman.

Penolakan dari Pemerintah dan Industri

Presiden Trump menepis kekhawatiran soal keamanan sebagai hoaks dan menolak kebutuhan akan regulasi yang lebih ketat. Ia menyatakan bahwa perlambatan apa pun akan memberi keuntungan bagi China dalam perlombaan AI. Penasihat utama AI-nya, David Sacks, yang merupakan investor lama dengan kepentingan pribadi di banyak bagian industri, menggema pandangan itu dengan menyebut kekhawatiran akan risiko eksistensial dari AI sebagai berlebihan.

Penolakan juga datang dari Nvidia. CEO Jensen Huang menyatakan bahwa kekhawatiran soal keamanan tersebut “dibuat-buat” dan tidak ada kebutuhan untuk memperlambat. Nvidia disebut memiliki kepentingan besar agar ekspansi industri AI terus berlanjut pada lintasan eksplosifnya saat ini.

China menilai kekhawatiran itu sebagai “fearmongering” dan upaya untuk menghambat pengembangan AI internasional. Meski Perdana Menteri China Xi Jinping pernah menyatakan pentingnya AI untuk “selalu berada di bawah kendali manusia,” surat kabar milik negara Global Times menyebut tuntutan perlambatan sebagai metode untuk “mengekang” perkembangan China.

Di sisi lain, sejumlah pihak telah lebih dulu menyerukan perlambatan. Senator Amerika Serikat Bernie Sanders berada di garis depan dalam menyatakan bahwa industri AI bergerak terlalu cepat, dan baru-baru ini menyerukan hukuman penjara berat bagi mereka yang mengembangkan superintelligent AI. Lebih dari 1.000 pekerja AI menandatangani surat terbuka pada Juli tahun ini yang menyerukan pemerintah Amerika Serikat mengendalikan riset AI dan memastikan keamanan serta keselamatan.

Seruan serupa pernah muncul pada 2023. Amodei sendiri pernah menyerukan koordinasi global untuk mengawasi AI setelah perilisan model GPT2 OpenAI pada 2019, sementara Musk melakukan hal yang sama pada 2023. Fakta-fakta itu tidak menghapus bahaya nyata dari AI, tetapi memunculkan pertanyaan tentang alasan di balik seruan yang terkoordinasi tersebut.

Negara lain turut bereaksi dan mengambil langkah independen untuk menyelidiki keamanan AI. Raja Charles dari Inggris mengatur pertemuan dengan tokoh-tokoh AI terkemuka untuk membahas cara mengembangkan AI dengan lebih baik demi kepentingan umat manusia.

Pemicu lonjakan kekhawatiran adalah pengunduran diri Jacob Coxon, mantan peneliti OpenAI, dari Anthropic. Ia menilai tidak ada perusahaan AI yang menangani keamanan dan alignment AI dengan cukup serius. Coxon tidak membocorkan dokumen atau data internal perusahaan, tidak menunjukkan vektor serangan spesifik, dan tidak merujuk pada kerugian nyata. Ia memperingatkan potensi masa depan AI yang menurutnya dikejar perusahaan-perusahaan tersebut tanpa kekhawatiran yang semestinya, dan menyebut apa yang dikembangkan bisa “membunuh kita semua pada akhir dekade ini.”

Volume kekhawatiran meningkat setelah sejumlah insiden ketika AI tampak mengejutkan pengembangnya sendiri dengan menembus sandbox untuk melakukan perburuan eksploitasi. Amodei menyebut AI memainkan peran yang meningkat dalam memperbaiki dirinya sendiri, mengisyaratkan peristiwa recursive self-improvement (RSI) yang dikhawatirkan banyak peneliti AI. Ia menyerukan pembentukan auditor independen untuk model AI, sementara Altman menyerukan agar pemerintah mengglobalkan regulasi untuk mendorong kepatuhan terpadu terhadap protokol keamanan apa pun yang diberlakukan pengembang frontier.

Terlepas dari seruan tersebut, belum jelas seperti apa bentuk perlambatan yang dimaksud. Apakah berarti pembatasan compute, tidak ada model baru, atau penghentian riset superintelligence. Dengan pemerintah Amerika Serikat yang berada di sisi regulasi terbatas, konsensus global sulit dibayangkan terbentuk dalam kondisi saat ini.

Ada pula kekhawatiran bahwa koalisi perusahaan frontier AI Barat yang menuntut kontrol lebih ketat dapat berdampak lain, yakni membatasi jumlah model AI yang diizinkan digunakan di belahan Bumi Barat. Daftar peringkat model AI OpenRouter yang didasarkan pada total token yang dihasilkan menempatkan hanya tiga model buatan Barat di sepuluh besar, yaitu GPT 5.6 Luna di posisi pertama, Nemotron Ultra 3 (Free) dari Nvidia di posisi kedelapan, dan Gemini 3.8 Flash dari Google di posisi kesepuluh.

Sisanya merupakan model open-weight asal China yang umumnya lebih murah dibanding model frontier Barat terkemuka. Model China dalam sepuluh besar OpenRouter saat ini mencakup GLM 5.3 dari Z.AI, Deepseek V4 Flash, serta Hy4 dan Hy3 dari Tencent. Jika aliansi frontier AI Barat muncul dengan kedok seruan keamanan, ada kemungkinan perusahaan-perusahaan tersebut ingin menjadi segelintir pihak terpilih dan menciptakan monopoli loop tertutup bagi penyedia AI “preferred”. Namun hal itu masih sebatas spekulasi seiring perkembangan situasi.

Sejumlah pengamat industri menilai dinamika ini menarik untuk disimak, terutama karena program pengembangan talenta dan kepemimpinan muda seperti XL Future Leaders dan seleksi peserta terus berjalan di tengah derasnya perubahan lanskap teknologi. Inisiatif semacam itu, termasuk yang menyentuh komunitas difabel, menjadi pengingat bahwa kesiapan sumber daya manusia tetap menjadi faktor penting ketika industri AI bergerak cepat.

TechCrunch telah menghubungi Anthropic, Google, dan OpenAI untuk memberikan komentar atas perkembangan ini. Hingga kini, belum ada kejelasan apakah langkah ketiga perusahaan akan berujung pada perubahan nyata atau sekadar kesepakatan di atas kertas.