Telset.id – Perdebatan soal perlambatan pengembangan kecerdasan buatan atau AI memasuki babak baru setelah para CEO perusahaan AI terbesar bersuara lantang, sementara Presiden Amerika Serikat Donald Trump justru menolak permintaan tersebut. Dalam waktu yang berdekatan, Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman, dan SpaceX CEO Elon Musk secara mengejutkan menunjukkan sikap serempak dengan menyerukan agar laju pengembangan model AI frontier diperlambat. Seruan itu muncul bersamaan dengan peringatan sejumlah peneliti dan karyawan AI yang menyebut risiko superintelligence bisa mengancam umat manusia.
Seruan perlambatan AI ini menjadi salah satu momen paling tidak biasa tahun ini karena tiga tokoh yang biasanya bersaing keras kini berada di barisan yang sama. Namun, kesepakatan mereka tidak berlangsung lama. Nvidia CEO Jensen Huang justru menyebut kekhawatiran keselamatan AI sebagai hal yang “dibuat-buat” dan menegaskan tidak ada kebutuhan untuk memperlambat. Di sisi lain, pejabat China menyebut seruan itu sebagai “fearmongering” dan upaya untuk menghambat pengembangan AI internasional.
Trump sendiri menegaskan posisinya dengan menyatakan bahwa “siapa pun yang menang AI, dia yang menang!” Ia menyebut kekhawatiran keselamatan AI sebagai “hoax” yang dirancang oleh para bos Anthropic, OpenAI, dan SpaceX. Pandangan Trump adalah bahwa guardrail yang sudah ada, yakni pengawasan model AI oleh pemerintah Amerika Serikat, sudah cukup untuk mencegah AI menimbulkan bahaya. Trump juga dikhawatirkan soal kehilangan posisi terhadap China dan dampak ekonomi dari perlambatan kemajuan AI.
Kenapa Para Bos AI Tiba-tiba Minta Perlambatan?
Alasan di balik seruan perlambatan ini berpusat pada kekhawatiran keselamatan. Amodei menulis dalam sebuah blog post bahwa “kita harus memperlambat laju peningkatan kemampuan model AI.” Menurut Amodei, AI kini berkembang “jauh lebih cepat” dari sebelumnya, sebagian karena AI sudah bisa meningkatkan dirinya sendiri. Laju kemajuan itu, ditambah insiden di mana AI agent meretas platform Hugging Face, membuat Amodei yakin bahwa tindakan perlu segera diambil.
Amodei menginginkan adanya evaluator pihak ketiga yang ditempatkan di perusahaan AI terbesar, serta standar keselamatan yang terkoordinasi di seluruh industri dan antarnegara. Altman menyetujui hal itu, bahkan menyerukan agar pemerintah mengglobalisasi regulasi untuk mendorong kepatuhan yang seragam terhadap protokol keselamatan yang diberlakukan oleh pengembang frontier.
Seruan ini muncul setelah mantan peneliti OpenAI, Jacob Coxon, mengundurkan diri dari Anthropic. Coxon menuding tidak ada perusahaan AI yang menanggapi keselamatan dan alignment AI dengan cukup serius. Ia memperingatkan bahwa apa yang sedang dikembangkan bisa “membunuh kita semua pada akhir dekade ini.” Ia tidak membocorkan dokumen, tidak menunjukkan vektor serangan spesifik, maupun kerugian nyata, namun peringatannya memicu percakapan viral. Belakangan, Google DeepMind Research Engineer Bilal Chughtai menyampaikan pesan pengunduran diri serupa di X, menyatakan dirinya “sangat khawatir dengan lintasan default teknologi ini” dan percaya “AI berpotensi membunuh kita semua, dan kita mungkin kehabisan waktu untuk menghindari hasil ini.”
Isu ini sebenarnya bukan hal baru. Stephen Hawking telah menyampaikan peringatan serupa lebih dari satu dekade lalu. Yang berubah adalah seberapa kuat AI sekarang: secara teori AI bisa memperbaiki dirinya sendiri dan menyebar di seluruh internet dengan cara yang lepas dari kendali manusia, berpotensi meretas infrastruktur penting dan melampaui segala langkah pertahanan. Skenario kiamat lain yang sering dibicarakan adalah aktor jahat menggunakan AI untuk meluncurkan senjata biologis atau nuklir. AI belum secanggih itu, tetapi bisa segera terjadi, dan sebagian ahli menilai ada peluang lebih dari 10% hal itu terjadi dalam beberapa tahun ke depan.
Di balik narasi keselamatan, ada pula ketegangan antara model AI open-source dan closed-source. Koalisi perusahaan AI frontier Barat yang menuntut kontrol lebih ketat berpotensi membatasi jumlah model AI yang diizinkan digunakan di belahan bumi Barat. Data OpenRouter menempatkan hanya tiga model buatan Barat di daftar sepuluh besar berdasarkan total token yang dihasilkan, yakni GPT 5.6 Luna di posisi pertama, Nvidia Nemotron Ultra 3 (Free) di posisi kedelapan, dan Gemini 3.8 Flash dari Google di posisi kesepuluh. Sisanya adalah model open-weight asal China seperti GLM 5.3 dari Z.AI, Deepseek V4 Flash, serta Hy4 dan Hy3 dari Tencent, yang umumnya lebih murah menurut indeks Cost per Intelligence dari Artificial Analysis.
Regulasi Masih Jauh dari Kesepakatan
Meski momentum untuk regulasi AI menguat, masih sedikit kesepakatan soal bagaimana melakukannya. Upaya legislasi keselamatan AI mandek di Amerika Serikat maupun Inggris, di tengah perdebatan seberapa ketat pembatasan yang diperlukan dan siapa yang harus bertanggung jawab. Salah satu titik sengketa adalah potensi kerugian dari regulasi AI. Misalnya, apakah pembatasan ekspansi pusat data akan menghambat pertumbuhan ekonomi dan usaha AI kecil, termasuk perusahaan seperti Anthropic dan OpenAI? Jika regulasi benar-benar terjadi, prosesnya akan memakan waktu lama.
Sejumlah pihak sebelumnya telah lebih dulu menyerukan perlambatan. Senator Amerika Serikat Bernie Sanders berada di garis depan tuntutan agar industri AI tidak bergerak terlalu cepat, dan baru-baru ini menyerukan hukuman penjara berat bagi mereka yang mengembangkan AI superintelligent. Lebih dari 1.000 pekerja AI menandatangani surat terbuka pada Juli tahun ini yang menyerukan pemerintah Amerika Serikat mengendalikan riset AI dan memastikan keselamatan serta keamanan. Hal serupa juga terjadi pada 2023. Amodei pernah menyerukan koordinasi global untuk mengawasi AI setelah rilis model GPT2 pada 2019, dan Musk melakukan hal yang sama pada 2023.
Nvidia memiliki kepentingan besar agar industri AI terus tumbuh pada lintasan eksplosif saat ini. Perusahaan itu telah berinvestasi besar, memiliki saham di perusahaan perangkat keras dan perangkat lunak, memberikan backstop bagi perusahaan neo-cloud, dan baru-baru ini membeli Hugging Face senilai US$13 miliar. Huang secara terbuka mempertanyakan klaim risiko kepunahan manusia sebesar 10% akibat AI, dan menegaskan bahwa semua prediksi semacam itu salah.
Di sisi lain, negara-negara lain bereaksi dan mengambil langkah independen untuk menyelidiki keselamatan AI. Raja Charles dari Inggris menggelar pertemuan dengan para tokoh AI terkemuka untuk membahas cara mengembangkan AI dengan lebih baik demi kemanusiaan. Sementara itu, Perdana Menteri China Xi Jinping pernah menyatakan pentingnya AI untuk “selalu berada di bawah kendali manusia,” namun surat kabar pemerintah Global Times menyebut tuntutan perlambatan sebagai metode untuk “menahan” perkembangan China.
Untuk sementara, bagi pengguna yang tidak memakai ChatGPT untuk mengembangkan senjata biologis atau meretas mainframe pemerintah, hiruk-pikuk ini belum memengaruhi aplikasi sehari-hari. Jika mencoba tindakan jahat dengan chatbot, seperti menulis virus komputer, banyak protokol keselamatan sudah terpasang untuk mencegahnya. Yang dikhawatirkan perusahaan AI adalah menjaga kondisi itu tetap terjaga. Jika mereka berhasil mengoordinasikan semacam perlambatan dan regulasi, aplikasi seperti Claude atau Gemini bisa lebih jarang diperbarui. Saat ini model AI baru muncul secara rutin, tetapi hal itu belum tentu berlanjut. Salah satu kemungkinan adalah agentic AI, yakni AI yang mampu menjalankan tugas dan memprogram dirinya sendiri, menjadi lebih ketat dikendalikan bahkan ketika aspek lain teknologi terus membaik.
Altman sebelumnya menyatakan bahwa IPO perusahaannya ditunda karena kekhawatiran keselamatan. Jika waktu untuk melihat hasil investasi AI menjadi lebih panjang, dampak ekonominya bisa signifikan mengingat besarnya dana yang ditanamkan, mulai dari perusahaan itu sendiri hingga infrastruktur yang menopang operasional mereka. Apa pun yang terjadi, diskusi ini masih jauh dari selesai, dan mereka yang paling memahami menyebut kita sedang berada di “crunch time for humanity.”
Komentar
Belum ada komentar.