Telset.id – Sejumlah CEO perusahaan AI terkemuka menyerukan perlambatan pengembangan teknologi AI agar regulasi dan tata kelola dapat mengejar ketertinggalan. Seruan ini muncul setelah pengunduran diri salah satu peneliti terkemuka Anthropic, Jacob Coxon, yang memperingatkan risiko besar jika laju pengembangan AI tidak diperlambat. Namun, seruan tersebut langsung mendapat penolakan dari Presiden Amerika Serikat Donald Trump dan pemerintah China.
Kepada BBC usai mengundurkan diri, Coxon memperingatkan, “Saya percaya bahwa jika kita tidak memperlambat laju kemajuan saat ini, ada kemungkinan besar kita semua bisa mati dalam waktu dekat.” Pernyataan ini menjadi pemicu gelombang seruan perlambatan dari kalangan pemimpin industri AI, termasuk mereka yang sebelumnya dikenal agresif mendorong percepatan inovasi.
Kepala Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan pendiri Grok Elon Musk disebut telah sejalan dalam seruan agar pengembangan AI diperlambat. Namun, jalan menuju konsensus tidak mudah, terutama karena melibatkan Presiden Trump, China, dan perdebatan soal rambu pengaman apa yang harus diterapkan.
Isi Seruan Para CEO AI
Pada akhir pekan, Amodei memublikasikan esai bertajuk “why the AI industry should slow down”. Dalam esai tersebut, ia menyatakan, “Saya percaya bahwa jika memperlambat memberi kita waktu satu atau dua tahun tambahan sebelum model mencapai tingkat kemampuan kritis, dan kita menggunakan waktu itu untuk memajukan alignment, kita dapat sangat mengurangi risiko sesuatu yang serius terjadi.”
Melalui esai itu, Amodei memaparkan bagaimana AI dapat “dipace” di Amerika Serikat dan secara global, disertai rekomendasi agar perusahaan AI menempatkan tim “evaluator” untuk memastikan model AI tetap selaras dengan tugasnya. Anthropic menyatakan berkomitmen secara unilateral pada langkah pertama, yakni memberikan evaluator pihak ketiga akses permanen setingkat karyawan ke sistem mereka untuk memverifikasi kepatuhan terhadap langkah keselamatan, melaporkan insiden, dan menilai alignment model selama pelatihan.
Elon Musk merespons unggahan media sosial Amodei dengan menyatakan bahwa kepala Anthropic itu “benar”. Sementara itu, Sam Altman mengatakan kepada Fortune bahwa regulasi dan standar untuk AI belum “berada di tempat” untuk melanjutkan pengembangan AI.
Di sisi lain, tidak semua pihak yakin. Presiden AS Donald Trump menyatakan bahwa memperlambat pengembangan AI tidak bisa dinegosiasikan, karena akan memungkinkan China dengan cepat mengejar kemampuan AI Amerika Serikat. Ia mengatakan kepada wartawan bahwa AS “memimpin China dalam AI… dan sejujurnya, saya ingin tetap seperti itu,” menambahkan bahwa “siapa pun yang menang AI, menang”.
Trump juga menyebut ada “kekuatan yang sangat negatif” di balik meningkatnya oposisi terhadap AI, dan mengatakan bahwa ketakutan yang dibangkitkan adalah hal yang “tidak akan terjadi”.
China pun tidak yakin dengan pernyataan para raksasa AI. Beijing menyebut seruan perlambatan sebagai “penyebaran ketakutan” dari “buku pedoman Perang Dingin”. Dalam esainya, Amodei menyatakan bahwa “kepemimpinan China dalam AI akan menimbulkan bahaya besar bagi Amerika Serikat dan dunia.” Juru bicara Kementerian Luar Negeri China Guo Jiakun menegaskan, “Penyebaran ketakutan, konfrontasi, dan persaingan jahat hanya akan mengganggu proses tata kelola AI global dan tidak menguntungkan siapa pun.”
Baca Juga:
Perspektif Para Pakar
John Strand, Owner Black Hills Information Security, menilai hingga akhir pekan lalu ia cenderung meyakini seruan perlambatan AI hanya bersifat performatif. Namun, ia menyadari bahwa hal itu nyaris tidak relevan. Menurutnya, kita bisa berbicara soal memperlambat AI sepuasnya, tetapi ketika Amerika Serikat menyatakan tidak ingin melambat karena bersaing dengan China, dan China juga gencar mendorong pengembangan AI, maka dua kekuatan ekonomi dan militer terbesar di dunia memiliki insentif besar untuk terus bergerak.
“Ini benar-benar terasa seperti kita memasuki momen perlombaan senjata atom,” ujar Strand. Ia mengibaratkan situasi ini dengan momen tahun 1950 ketika fisikawan Leó Szilárd membahas gagasan bom kobalt, senjata kiamat yang berpotensi menghasilkan cukup kejatuhan radioaktif untuk membuat Bumi tidak layak huni. Menurutnya, selama perlombaan senjata nuklir, konsekuensinya akhirnya cukup serius sehingga negara-negara pesaing harus mulai berbicara soal batasan dan kontrol. “Sampai China, Amerika Serikat, dan laboratorium model frontier utama duduk di meja yang sama, pembatasan yang diadopsi oleh perusahaan atau negara individual akan sangat sulit bertahan,” katanya.
Ryan McCurdy, VP Liquibase, menilai memperlambat pengembangan frontier dapat memberi perusahaan AI lebih banyak waktu untuk memahami dan mengatasi risiko yang dijelaskan Amodei. Namun, perusahaan tidak bisa membangun strategi AI mereka dengan asumsi AI akan melambat. “Kami bisa berdebat seberapa cepat frontier harus bergerak. Perusahaan tetap harus bersiap ke arah mana ini menuju,” ujarnya. Ia menekankan pentingnya tata kelola di titik keputusan AI menjadi tindakan nyata, termasuk mendefinisikan apa yang bisa diakses agen, apa yang bisa diubah, apa yang bisa diputuskan sendiri, dan kebijakan apa yang harus dipenuhi sebelum perubahan mencapai sistem kritis.
Tristan Watkins, director of services innovation Advania UK, menyoroti bahwa hingga baru-baru ini laboratorium AI utama enggan memperlambat upaya pengembangan secara unilateral. Namun, dalam sepekan terakhir hal itu berubah dengan komitmen baru dari OpenAI dan Anthropic untuk memprioritaskan riset alignment dan interpretabilitas AI, menjadi lebih dapat diverifikasi secara eksternal, serta menetapkan preseden keselamatan yang bisa diadaptasi pemerintah. “Semoga ini menegaskan mengapa kita membutuhkan pemerintah untuk memimpin upaya ini secara lebih proaktif,” katanya.
Oleksandr Yaremchuk, CTO dan Co-Founder Manifold Security, menilai “pacing the frontier” adalah percakapan yang tepat, tetapi tidak bisa menjadi pengganti untuk mengamankan AI yang sudah kita lepaskan ke dunia. Ia menyoroti insiden serangan Hugging Face, yang menurutnya bukan sekadar kegagalan alignment model. Agen berjalan berhari-hari melalui sistem yang tidak dimonitor, dengan kredensial yang belum dirotasi, dan korban melihat aktivitas tersebut sebelum orang-orang yang menjalankan agen menyadarinya. “Jika agen bisa bertindak otonom di sistem Anda hari ini, Anda seharusnya sudah bisa menjawab tiga pertanyaan dasar: apa yang dilakukannya, apa yang bisa diaksesnya, dan apakah Anda bisa menghentikannya?” ujarnya.
Heath Mullins, Chief Evangelist ExtraHop, menilai seruan perlambatan dari pemimpin AI menegaskan apa yang sudah dialami industri keamanan secara langsung. “Ini bukan risiko hipotetis, ini lanskap ancaman yang kami hadapi saat ini,” katanya. Menurutnya, seruan kehati-hatian seputar kecepatan pengembangan AI memberi industri keamanan waktu untuk mendapatkan visibilitas yang tepat terhadap aktivitas AI. Ia menekankan bahwa setiap organisasi akan mengandalkan agen AI untuk pertahanan berkecepatan mesin, dan mereka membutuhkan tata kelola sendiri atas cara model dan agen beroperasi di lingkungan mereka.
Bri Frost, Director of Product Management Cloud Range, menegaskan jawabannya bukan berarti menghentikan inovasi AI, tetapi berhenti berpura-pura bahwa inovasi dan keamanan bergerak dengan kecepatan yang sama. Ketika ChatGPT tersedia untuk publik pada 2022, model jauh kurang mampu dibandingkan hari ini dan rambu pengamannya sangat mudah dimanipulasi. “Model di balik rambu pengaman itu bukan lagi model tahun 2022. Mereka bisa bernalar lebih baik, menulis dan men-debug kode. Mereka bisa beroperasi sebagai agen. Mereka bisa berkolaborasi! Dan semakin sering, mereka bisa berinteraksi dan memengaruhi infrastruktur nyata,” ujarnya. “Semakin cepat kita membangun mesin, semakin penting remnya.”
Denis Calderone, CTO Suzu Labs, menilai diagnosis Amodei adalah hal paling jujur yang pernah dikatakan publik oleh CEO laboratorium frontier. Risiko agen nyata, self-improvement rekursif semakin cepat, dan tekanan kompetitif memperburuk keduanya. Namun, ia skeptis pada resepnya. “Tidak ada laboratorium yang menyebutkan satu pun rilis model yang akan mereka tunda karena esai ini,” katanya. Satu ide yang menurutnya layak dipegang industri adalah evaluator tertanam dengan hak publikasi independen, serupa dengan yang dimiliki pemeriksa bank di dalam bank.
Donald McFarlane, Board Member Xcape Inc, menegaskan AI tidak mengembangkan agenda sendiri; operatornya yang melakukannya. Menurutnya, aturan yang dibuat atas nama keselamatan tidak boleh menjadi parit melawan kompetisi atau kemajuan. Biaya kepatuhan yang besar mungkin terkelola bagi segelintir perusahaan yang sudah membelanjakan miliaran untuk membangun model frontier, tetapi menjadi hambatan substansial bagi semua yang berada di belakangnya. “Safeguard harus fokus pada bagaimana sistem ini digunakan dan diterapkan, bukan memutuskan siapa yang diizinkan membangun AI yang kuat sejak awal,” ujarnya.
Pertanyaan yang menurut para pakar seharusnya diajukan bukan sekadar “Haruskah kita memperlambat AI?” Melainkan: dapatkah kemampuan kita untuk menguji, memvalidasi, menahan, dan mengamankan AI mengikuti kecepatan kita membuatnya lebih kuat? Saat ini, jawabannya adalah tidak. Jika kita akan terus mempercepat, maka pengujian independen, evaluasi adversarial, lingkungan pengujian terisolasi, penahanan, validasi berkelanjutan, dan security-by-design tidak bisa tetap menjadi langkah opsional yang ditambahkan setelah inovasi terjadi.
Bagi pengguna yang mengikuti perkembangan teknologi, dinamika ini menunjukkan bahwa pembahasan soal keamanan AI tidak lagi sebatas urusan internal laboratorium, melainkan sudah masuk ke ranah geopolitik dan kebijakan publik.
Komentar
Belum ada komentar.