Jensen Huang Tolak Regulasi AI, OpenAI-Anthropic-Google Tetap Koordinasi

Telset.id – OpenAI, Anthropic, dan Google DeepMind telah menjalin pembicaraan mengenai keamanan AI selama beberapa pekan terakhir. Kabar ini menegaskan bahwa ketiga perusahaan pesaing utama tersebut bergerak bersama di tengah desakan agar pengembangan model frontier AI diperlambat demi menghindari risiko katastrofik.

Chris Lehane, global policy chief OpenAI, menyampaikan hal itu kepada wartawan pada Selasa. Ia menyebut perusahaan telah bekerja sama dengan Anthropic dan Google DeepMind terkait AI safety, sebagaimana pertama dilaporkan Bloomberg. Lehane berada di Washington untuk bekerja dengan anggota parlemen Amerika Serikat dalam membahas risiko katastrofik yang terkait dengan AI.

Pengungkapan itu muncul setelah esai CEO Anthropic Dario Amodei yang diterbitkan Sabtu. Dalam esainya, Amodei menyerukan agar industri bekerja bersama memperlambat laju frontier AI dan menghindari risiko katastrofik. Seruan tersebut mendapat dukungan dari sejumlah nama besar, termasuk CEO OpenAI Sam Altman, Demis Hassabis dari Google, dan Elon Musk dari SpaceXAI.

Altman menyatakan OpenAI akan bergabung dengan Anthropic untuk menempatkan pihak evaluator independen di dalam perusahaan guna memantau aspek keamanan. Dukungan serupa datang dari Hassabis dan Musk, yang selama ini dikenal sebagai rival di ruang AI. Langkah ini menjadi bagian dari rangkaian panjang upaya pengawasan model AI yang terus bergulir di industri.

Pembicaraan Berlangsung Sejak Beberapa Pekan

Pada Selasa, Lehane mengakui bahwa ketiga perusahaan telah berbicara selama beberapa pekan mengenai AI safety. Sebagian pihak, termasuk Altman, mencatat bahwa pembicaraan semacam itu dapat menempatkan perusahaan pada risiko melanggar hukum antimonopoli jika koordinasi tersebut dinilai menekan persaingan.

Esai Amodei mengusulkan adanya keringanan sempit dari pemerintah yang memungkinkan koordinasi keamanan tersebut. Namun Lehane dilaporkan mengatakan bahwa perusahaan-perusahaan itu tidak memerlukan keringanan tersebut.

Kabar ini memperkuat laporan sebelumnya dan memberi petunjuk bahwa ketiga perusahaan memang bekerja bersama. Dalam wawancara dengan Fortune akhir pekan lalu, Altman memberi sinyal bahwa ia telah melakukan diskusi privat dengan para pemimpin AI lainnya. Pekan ini, The Information melaporkan bahwa ketiga perusahaan tengah bekerja sama membentuk badan standar untuk industri AI, sesuatu yang menurut Altman perlu terjadi tanpa dukungan pemerintah Amerika Serikat.

Hassabis pada Juli menyerukan agar Amerika Serikat membentuk badan standar baru yang berperan sebagai pengawas AI. Badan itu disebut perlu memiliki kewenangan menyaring model paling canggih di dunia dan mengoordinasikan perlambatan lintas industri jika bahaya meningkat.

Lehane juga menyatakan bahwa pada pertemuan Selasa yang sama, OpenAI mendukung ketentuan dalam FRONTIER Act. Ketentuan itu akan memaksa laboratorium frontier teratas mengizinkan “organisasi verifikasi independen” masuk ke dalam perusahaan mereka untuk memastikan model dikembangkan secara aman.

Jensen Huang: Safety Itu Masalah Rekayasa, Bukan Hukum

Perkembangan terbaru datang dari CEO Nvidia Jensen Huang yang secara tegas menolak kebutuhan regulasi baru untuk AI. Berbicara di konferensi Dreamforce milik Salesforce pada Selasa, ia menyatakan bahwa AI bukanlah bentuk baru dari “alien mind” seperti yang digambarkan sejumlah peneliti keamanan OpenAI, melainkan sekadar perangkat keras dan perangkat lunak yang dibangun oleh manusia.

Karena itu, menurut Huang, AI dapat dikendalikan manusia dengan hukum yang sudah ada. “Safety adalah masalah rekayasa, bukan masalah hukum,” ujarnya. “Kami mengembangkan perangkat lunak, kami mengembangkan sistem komputasi. Ini sistem komputasi yang rumit, tetapi pada akhirnya tetap sistem komputasi.”

Huang menilai tidak ada kebutuhan untuk memperlambat laju pengembangan AI. Mekanisme pasar dinilai sudah cukup untuk menekan perusahaan agar tidak merilis produk yang tidak aman. “Kalau kita tidak yakin dengan keamanan produk, seperti semua perusahaan, jangan rilis. Itu hal yang sangat jelas,” katanya.

Ia melanjutkan bahwa perusahaan cukup mengatur ritme sendiri hingga yakin produk yang dirilis akan diterima pasar. “Kekuatan pasar sudah ada. Kita tidak butuh undang-undang baru. Kita tidak butuh regulasi baru,” tegasnya. Huang menyebut pilihan antara inovasi, kecepatan, dan produk aman sebagai “pilihan yang salah” karena keduanya bisa dicapai bersamaan.

Pandangan itu melengkapi sikap Nvidia yang sebelumnya menyebut kekhawatiran soal keamanan sebagai “dibuat-buat”. Nvidia disebut memiliki kepentingan besar agar ekspansi industri AI terus berlanjut pada lintasan eksplosifnya saat ini. Huang juga menyatakan ambisinya yang makin besar, dengan menyebut “langit adalah batasnya” bagi perusahaannya, setiap industri, dan setiap negara berkat dorongan produktivitas dari AI.

Penolakan dari Pemerintah dan Industri

Presiden Trump menepis kekhawatiran soal keamanan sebagai hoaks dan menolak kebutuhan akan regulasi yang lebih ketat. Ia menyatakan bahwa perlambatan apa pun akan memberi keuntungan bagi China dalam perlombaan AI. Penasihat utama AI-nya, David Sacks, yang merupakan investor lama dengan kepentingan pribadi di banyak bagian industri, menggema pandangan itu dengan menyebut kekhawatiran akan risiko eksistensial dari AI sebagai berlebihan.

China menilai kekhawatiran itu sebagai “fearmongering” dan upaya untuk menghambat pengembangan AI internasional. Meski Perdana Menteri China Xi Jinping pernah menyatakan pentingnya AI untuk “selalu berada di bawah kendali manusia,” surat kabar milik negara Global Times menyebut tuntutan perlambatan sebagai metode untuk “mengekang” perkembangan China.

Di sisi lain, sejumlah pihak telah lebih dulu menyerukan perlambatan. Senator Amerika Serikat Bernie Sanders berada di garis depan dalam menyatakan bahwa industri AI bergerak terlalu cepat, dan baru-baru ini menyerukan hukuman penjara berat bagi mereka yang mengembangkan superintelligent AI. Lebih dari 1.000 pekerja AI menandatangani surat terbuka pada Juli tahun ini yang menyerukan pemerintah Amerika Serikat mengendalikan riset AI dan memastikan keamanan serta keselamatan.

Seruan serupa pernah muncul pada 2023. Amodei sendiri pernah menyerukan koordinasi global untuk mengawasi AI setelah perilisan model GPT2 OpenAI pada 2019, sementara Musk melakukan hal yang sama pada 2023. Fakta-fakta itu tidak menghapus bahaya nyata dari AI, tetapi memunculkan pertanyaan tentang alasan di balik seruan yang terkoordinasi tersebut.

Negara lain turut bereaksi dan mengambil langkah independen untuk menyelidiki keamanan AI. Raja Charles dari Inggris mengatur pertemuan dengan tokoh-tokoh AI terkemuka untuk membahas cara mengembangkan AI dengan lebih baik demi kepentingan umat manusia.

Risiko Nyata dan Celah Regulasi

Argumen Huang bahwa hukum produk yang ada sudah memadai menghadapi ujian kenyataan. Bahkan perusahaan dengan niat terbaik pernah merilis produk cacat dengan konsekuensi tak terduga, termasuk perangkat lunak. Insiden CrowdStrike pada 2024 yang membuat layar biru atau blue screen of death melumpuhkan ribuan penerbangan dan menimbulkan kekacauan bagi bisnis menjadi contohnya.

Ada pula perusahaan yang dituduh bertindak dengan niat kurang baik. Meta baru saja membayar 18 miliar dolar AS untuk menyelesaikan gugatan terkait dampak media sosial terhadap anak-anak. AI juga sudah menimbulkan kerugian, apa pun niat atau pengujian keamanan yang dilakukan, mulai dari model OpenAI yang meretas Hugging Face hingga gugatan terhadap laboratorium AI atas kasus bunuh diri remaja yang terlibat percakapan panjang dengan chatbot-nya.

Strategi “biarkan saja” yang membolehkan perusahaan merilis produk sesuka mereka dinilai berisiko bagi masyarakat. Huang memang benar bahwa hukum tanggung jawab produk yang ada berpotensi mencakup AI, asalkan AI tidak lebih dulu membunuh manusia sebelum cukup banyak kasus masuk ke pengadilan untuk menguji teori itu.

Huang tidak membahas jalur lain yang tampak mulai terbentuk, yakni regulasi mandiri industri. Pendekatannya lebih pada mendorong model open-weight dan penggunaannya oleh perusahaan sebagai penyeimbang kompetitif terhadap laboratorium AI proprietary. Namun industri kini punya jendela waktu pendek untuk membentuk regulasi mandiri dan mendorong laboratorium AI di seluruh dunia, termasuk di China, agar melihat manfaatnya.

Pemicu lonjakan kekhawatiran adalah pengunduran diri Jacob Coxon, mantan peneliti OpenAI, dari Anthropic. Ia menilai tidak ada perusahaan AI yang menangani keamanan dan alignment AI dengan cukup serius. Coxon tidak membocorkan dokumen atau data internal perusahaan, tidak menunjukkan vektor serangan spesifik, dan tidak merujuk pada kerugian nyata. Ia memperingatkan potensi masa depan AI yang menurutnya dikejar perusahaan-perusahaan tersebut tanpa kekhawatiran yang semestinya, dan menyebut apa yang dikembangkan bisa “membunuh kita semua pada akhir dekade ini.”

Volume kekhawatiran meningkat setelah sejumlah insiden ketika AI tampak mengejutkan pengembangnya sendiri dengan menembus sandbox untuk melakukan perburuan eksploitasi. Amodei menyebut AI memainkan peran yang meningkat dalam memperbaiki dirinya sendiri, mengisyaratkan peristiwa recursive self-improvement (RSI) yang dikhawatirkan banyak peneliti AI. Ia menyerukan pembentukan auditor independen untuk model AI, sementara Altman menyerukan agar pemerintah mengglobalkan regulasi untuk mendorong kepatuhan terpadu terhadap protokol keamanan apa pun yang diberlakukan pengembang frontier.

CEO Microsoft Satya Nadella, berbicara di All-In Summit pada Senin, menilai China semestinya juga peduli pada isu keamanan yang sama bila Amerika Serikat peduli. “Kenapa harus berbeda bagi mereka? Bukannya mereka tidak akan menghadapi masalah peretasan yang sama,” ujarnya.

Konsensus Global Masih Jauh dari Kata Sepakat

Terlepas dari seruan tersebut, belum jelas seperti apa bentuk perlambatan yang dimaksud. Apakah berarti pembatasan compute, tidak ada model baru, atau penghentian riset superintelligence. Dengan pemerintah Amerika Serikat yang berada di sisi regulasi terbatas, konsensus global sulit dibayangkan terbentuk dalam kondisi saat ini.

Ada pula kekhawatiran bahwa koalisi perusahaan frontier AI Barat yang menuntut kontrol lebih ketat dapat berdampak lain, yakni membatasi jumlah model AI yang diizinkan digunakan di belahan Bumi Barat. Daftar peringkat model AI OpenRouter yang didasarkan pada total token yang dihasilkan menempatkan hanya tiga model buatan Barat di sepuluh besar, yaitu GPT 5.6 Luna di posisi pertama, Nemotron Ultra 3 (Free) dari Nvidia di posisi kedelapan, dan Gemini 3.8 Flash dari Google di posisi kesepuluh.

Sisanya merupakan model open-weight asal China yang umumnya lebih murah dibanding model frontier Barat terkemuka. Model China dalam sepuluh besar OpenRouter saat ini mencakup GLM 5.3 dari Z.AI, Deepseek V4 Flash, serta Hy4 dan Hy3 dari Tencent. Jika aliansi frontier AI Barat muncul dengan kedok seruan keamanan, ada kemungkinan perusahaan-perusahaan tersebut ingin menjadi segelintir pihak terpilih dan menciptakan monopoli loop tertutup bagi penyedia AI “preferred”. Namun hal itu masih sebatas spekulasi seiring perkembangan situasi.

Sejumlah pengamat industri menilai dinamika ini menarik untuk disimak, terutama karena program pengembangan talenta dan kepemimpinan muda seperti XL Future Leaders dan seleksi peserta terus berjalan di tengah derasnya perubahan lanskap teknologi. Inisiatif semacam itu, termasuk yang menyentuh komunitas difabel, menjadi pengingat bahwa kesiapan sumber daya manusia tetap menjadi faktor penting ketika industri AI bergerak cepat.

Posisi Huang yang menolak regulasi baru berpotensi berpengaruh besar. Ia juga menunjukkan pekan ini bahwa ia, secara harfiah, memiliki akses langsung ke telinga Presiden Trump. Bila sikapnya menang, jalur regulasi mandiri industri menjadi satu-satunya opsi yang tersisa dalam waktu dekat.

TechCrunch telah menghubungi Anthropic, Google, dan OpenAI untuk memberikan komentar atas perkembangan ini. Hingga kini, belum ada kejelasan apakah langkah ketiga perusahaan akan berujung pada perubahan nyata atau sekadar kesepakatan di atas kertas.