AS dan China Siapkan Hotline AI untuk Cegah Eskalasi Otonom

Telset.id – Amerika Serikat dan China mengusulkan pembentukan hotline khusus untuk pelaporan insiden AI guna mencegah risiko model AI liar lepas kendali serta menghindari salah tafsir serangan yang bisa memicu eskalasi otonom cepat. Usulan ini muncul menjelang kunjungan Perdana Menteri China Xi Jinping ke Washington pada 24 September, seperti dilaporkan Reuters.

Menteri Keuangan AS Scott Bessent juga mengonfirmasi bahwa diskusi lanjutan soal keamanan AI antara kedua negara dijadwalkan berlangsung dalam dua bulan ke depan. Langkah ini menjadi bagian dari rangkaian pembicaraan perdagangan dan hubungan AS-China yang masih berjalan, di tengah berbagai agen AI frontier yang tampaknya keluar dari pengawasan dan meretas organisasi tanpa pengawasan manusia.

Jika salah satu pihak memicu peristiwa AI berbahaya, hotline ini membuka peluang respons bersama kedua negara sebelum potensi ancaman atau eskalasi yang dipersepsikan terjadi. Usulan tersebut dibahas setelah pertemuan antara Scott Bessent dan Wakil Perdana Menteri China He Lifeng di New York pada akhir pekan.

Sistem Notifikasi Keamanan Nasional

Kedua pihak mengusulkan agar Presiden Trump dan Xi Jinping mendiskusikan berbagai mekanisme keamanan AI, termasuk sistem notifikasi yang berfokus pada keamanan nasional. Sistem ini dapat mencakup peringatan atas terdeteksinya aktor AI liar yang beroperasi di mana pun di dunia, serta menginformasikan mitra jika sistem otonom melakukan tindakan yang bisa ditafsirkan sebagai serangan.

Skenario yang ingin dihindari kedua pihak adalah sistem senjata otonom berbasis AI, baik yang bersifat kinetik maupun lebih asimetris seperti kemampuan serangan siber berbasis AI, yang merespons provokasi tanpa pertimbangan manusia. Hal itu dapat memicu respons meningkat pada sistem AI lain, yang berujung pada eskalasi cepat menuju konflik penuh pada kecepatan di mana manusia tidak dapat campur tangan.

Sistem yang diusulkan juga dapat membantu kedua pihak mengembangkan respons bersama terhadap tujuan positif maupun potensi ancaman. Ini bisa menjadi dasar bagi pengaturan laju pengembangan bersama, mengingat seruan perusahaan AI AS untuk memperlambat pengembangan AI demi meningkatkan alignment dan pengamanan. China kurang antusias, dengan alasan langkah tersebut bisa digunakan untuk menghambat perkembangan AI China.

Belum jelas seberapa berminat China menerapkan sistem notifikasi yang diusulkan, tetapi analis dan pakar di kedua pihak telah menyerukan agar sistem semacam ini dikembangkan. AS dan China sepakat untuk membahas lebih lanjut kekhawatiran keamanan AI dalam beberapa bulan mendatang.

Landasan Awal dan Harapan Bipartisan

Diskusi ini masih berada di tahap sangat awal, dengan hanya kerangka dasar proposal hotline yang tersedia dan masih banyak hal untuk dibahas soal alignment antara dua negara pengembang AI utama. Langkah berikutnya adalah pembicaraan antara kedua pemimpin, di mana lebih dari sekadar AI akan dibahas.

Jika hubungan AS-China dapat bergerak melampaui persaingan yang berlangsung, ada potensi untuk kesepakatan yang lebih kuat soal spesifikasi integrasi AI dalam keamanan nasional dan aksi militer. Meski sebagian analis tetap skeptis terhadap kesepakatan yang kuat karena terbatasnya kepercayaan antara kedua pihak, ada harapan bahwa kesepakatan dapat dicapai soal weaponisasi langsung AI, prinsip inti pengamanan AI, serta pencegahan penargetan atau perusakan infrastruktur kritis.

Harapan akan pertemuan yang sukses sangat bipartisan. Pemimpin Demokrat di DPR AS, Representative Ro Khanna, mengatakan bahwa hal pertama yang harus dikerjakan Presiden Trump dan Xi Jinping dalam pertemuan mereka adalah mengembangkan prinsip inti AI. Khususnya soal pelarangan AI yang mampu memperbaiki diri secara rekursif dan menghapus opsi penggunaan sistem otonom semacam itu pada teknologi senjata biologis dan nuklir.

KTT Washington antara Presiden Trump dan Xi Jinping dijadwalkan dimulai dalam beberapa hari, di mana lebih banyak hal akan dibahas di luar keamanan AI. Dunia menunggu dengan antisipasi, karena pertemuan kedua pemimpin ini dapat menjadi panggung bagi putaran diskusi berikutnya soal hubungan ekonomi kedua negara. Perkembangan ini juga beriringan dengan dinamika industri lain, seperti persiapan produksi EREV pertama Toyota di China pada 2027 dan kehadiran BYD Han generasi ketiga yang menandai persaingan teknologi kedua negara.

Kedua negara tetap berkomitmen membahas kekhawatiran keamanan AI dalam beberapa bulan ke depan. Proposal hotline ini menjadi fondasi awal bagi upaya pengamanan AI yang melibatkan dua kekuatan teknologi terbesar dunia.