Telset.id – Di tengah ketegangan geopolitik yang memanas, Singapura muncul sebagai penengah dalam upaya global untuk mengatasi risiko keamanan artificial intelligence (AI). Pemerintah kota pulau itu baru saja merilis cetak biru kolaborasi internasional untuk keselamatan AI, menandai babak baru dalam diplomasi teknologi.
Dokumen yang dijuluki “Singapore Consensus on Global AI Safety Research Priorities” ini lahir dari pertemuan para peneliti AI terkemuka dari AS, China, dan Eropa bulan lalu. Yang mengejutkan, inisiatif ini berhasil menyatukan pihak-pihak yang selama ini bersaing ketat di kancah AI global.
“Singapura adalah salah satu dari sedikit negara di planet ini yang memiliki hubungan baik dengan Timur dan Barat,” kata Max Tegmark, ilmuwan MIT yang membantu menyelenggarakan pertemuan tersebut. “Mereka sadar tidak akan membangun Artificial General Intelligence (AGI) sendiri—AGI akan dibangun oleh negara lain—jadi sangat penting bagi mereka agar negara-negara pembuat AGI ini berkomunikasi.”
Ketegangan AS-China dalam Perlombaan AI
Faktanya, AS dan China—dua negara yang dianggap paling mungkin mencapai AGI—justru terlibat dalam persaingan sengit. Ketika startup China DeepSeek merilis model AI mutakhir Januari lalu, Presiden Trump menyebutnya sebagai “peringatan bagi industri kita” dan menyerukan AS untuk “fokus bersaing untuk menang.”
Persaingan ini memicu kekhawatiran akan perlombaan senjata AI. Teknologi ini dianggap krusial untuk dominasi ekonomi dan militer. Pemerintah AS bahkan sedang mempertimbangkan langkah tambahan untuk membatasi kemampuan China dalam membangun AI canggih, melanjutkan kebijakan pembatasan ekspor chip AI sebelumnya.
Baca Juga:
Tiga Pilar Kolaborasi Global
Cetak biru Singapura menyerukan kolaborasi penelitian di tiga bidang utama: mempelajari risiko model AI terdepan, mengeksplorasi cara membangun model yang lebih aman, dan mengembangkan metode pengendalian sistem AI paling canggih. Pertemuan yang melahirkan konsensus ini digelar pada 26 April bersamaan dengan International Conference on Learning Representations (ICLR) di Singapura.
Yang menarik, pertemuan ini dihadiri oleh para pemain kunci dari kedua kubu. Perusahaan seperti OpenAI, Anthropic, Google DeepMind, xAI, dan Meta hadir bersama akademisi dari MIT, Stanford, Tsinghua, hingga Chinese Academy of Sciences. Lembaga keselamatan AI dari AS, Inggris, Prancis, Kanada, China, Jepang, dan Korea juga berpartisipasi.
“Di era fragmentasi geopolitik, sintesis komprehensif penelitian terdepan tentang keselamatan AI ini adalah tanda menjanjikan bahwa komunitas global bersatu dengan komitmen bersama untuk membentuk masa depan AI yang lebih aman,” kata Xue Lan, dekan Universitas Tsinghua.
Kekhawatiran Para “AI Doomer”
Perkembangan model AI yang semakin canggih—beberapa dengan kemampuan yang mengejutkan—telah memicu kekhawatiran para peneliti. Jika sebagian fokus pada bahaya jangka pendek seperti bias AI atau penyalahgunaan oleh kriminal, kelompok lain yang dijuluki “AI doomer” mengkhawatirkan ancaman eksistensial ketika AI mulai mengungguli manusia di berbagai domain.
Mereka memperingatkan kemungkinan AI menipu dan memanipulasi manusia untuk mencapai tujuannya sendiri. Tegmark bahkan mempresentasikan makalah teknis di Singapura yang menggugat asumsi tentang pembangunan AI yang aman. Beberapa peneliti sebelumnya beranggapan AI kuat bisa dikendalikan oleh AI yang lebih lemah, tetapi penelitian Tegmark menunjukkan skenario sederhana pun bisa gagal.
“Kami mencoba memberikan angka pada ini, dan secara teknis tidak bekerja pada tingkat yang diharapkan,” kata Tegmark. “Dan, Anda tahu, taruhannya cukup tinggi.”
Sementara itu, pemerintahan Trump cenderung mengecilkan risiko AI demi pendekatan yang lebih agresif dalam pengembangannya. Wakil Presiden JD Vance dalam pertemuan AI besar di Paris 2025 menyebut pemerintah AS menginginkan lebih sedikit pembatasan dan menilai pendekatan sebelumnya “terlalu menghindari risiko.”
Kini, para peneliti seperti Tegmark berusaha “mengubah arus setelah Paris” dengan mengembalikan fokus pada risiko AI yang semakin kuat. Inisiatif Singapura mungkin menjadi titik terang di tengah awan gelap persaingan teknologi global.
