CEO DeepMind Desak AS Pimpin Regulasi AI Global Demi Keamanan

Telset.id – Demis Hassabis, CEO dan salah satu pendiri Google DeepMind, menyerukan pembentukan lembaga pengawas kecerdasan buatan (AI) global yang memiliki wewenang untuk menghentikan pengembangan model AI jika dinilai terlalu berbahaya. Dalam sebuah posting blog, Hassabis menekankan bahwa Amerika Serikat (AS) harus memimpin inisiatif ini, mengingat posisi ekonomi dan teknologinya yang dominan.

Lembaga yang diusulkan ini, yang dapat menyerupai regulator yang sudah ada seperti Financial Industry Regulatory Authority, akan terdiri dari para pakar independen terkemuka dan perwakilan dari komunitas open-source. Wewenang utamanya adalah mengevaluasi model-model AI canggih (frontier models) sebelum dirilis ke publik dan mengoordinasikan perlambatan di seluruh industri jika model tersebut dinilai terlalu berisiko untuk digunakan. Usulan ini merupakan langkah paling konkret dari seorang pemimpin industri untuk menciptakan kerangka kerja regulasi AI yang terpadu di tengah kekosongan aturan global.

Dalam blognya yang berjudul “A Framework for Frontier AI and the Dawning of a New Age,” Hassabis berargumen bahwa kebutuhan akan regulasi global semakin mendesak seiring dengan meningkatnya kecanggihan sistem AI. Ia bahkan menyatakan bahwa Kecerdasan Umum Buatan (AGI) “mungkin hanya berjarak beberapa tahun lagi.” “Ketika kita melihat ke belakang pada masa ini beberapa dekade mendatang, saya pikir kita akan menyadari bahwa kita sedang berdiri di kaki bukit singularitas – tidak lain adalah awal dari era baru bagi umat manusia,” tulisnya.

Menurut laporan Axios, Hassabis telah menghabiskan waktu berbulan-bulan untuk membangun dukungan bagi proposalnya secara diam-diam. Ia telah melakukan briefing dengan pemerintahan Trump, laboratorium AI lainnya, dan pejabat Eropa. Hassabis berharap organisasi baru ini dapat beroperasi sebelum akhir tahun. Ia mengungkapkan kepada Axios bahwa “sinyal yang saya dengar [dari pemerintahan Trump] sangat positif.”

Proposal ini merupakan upaya terbaru dari Hassabis dan para pemimpin industri lainnya untuk menetapkan kerangka kerja yang koheren dalam mengatur sistem AI yang semakin kuat, sekaligus mengurangi risiko yang mungkin ditimbulkannya. Saat ini, belum ada seperangkat aturan global yang mengatur AI secara spesifik, dan AS juga belum memiliki aturan nasional yang komprehensif. Kehadiran regulator dengan kekuatan mengikat ini bisa menjadi titik balik dalam tata kelola AI dunia.

Hassabis, yang merupakan salah satu penerima bersama Hadiah Nobel Kimia 2024 atas karyanya dalam prediksi protein berbasis AI, juga turut menandatangani pernyataan yang menyerukan perlindungan yang lebih ketat terhadap produksi senjata biologis yang dibantu AI pada bulan lalu. Komentar terbaru Hassabis ini mengikuti pernyataan dari para ekonom top dan tokoh teknologi ternama, termasuk salah satu pendiri Anthropic Jack Clark dan mantan CEO Google Eric Schmidt, yang mendesak para pemimpin dunia untuk menanggapi dampak ekonomi AI yang akan segera terjadi.

Usulan Hassabis muncul di saat yang krusial. Perkembangan AI yang eksponensial, terutama dengan munculnya model-model generatif seperti yang dikembangkan oleh Google dan mitranya, telah melampaui kemampuan regulator di seluruh dunia. Kekhawatiran akan penyalahgunaan AI untuk tujuan jahat, seperti pembuatan senjata otonom atau penyebaran misinformasi skala besar, menjadi semakin nyata.

Model regulator yang diusulkan oleh Hassabis, yang terinspirasi dari FINRA, menawarkan pendekatan yang unik. FINRA adalah organisasi swasta nirlaba yang bertindak sebagai regulator yang disetujui pemerintah untuk industri sekuritas di AS. Model ini memberikan keseimbangan antara pengawasan pemerintah dan kemandirian industri, yang mungkin dapat diterima oleh berbagai pemangku kepentingan.

Keberhasilan proposal ini akan sangat bergantung pada dukungan dari pemerintahan AS. Hassabis melaporkan bahwa ia mendapat sambutan positif dari pemerintahan Trump, yang dikenal memiliki pandangan pro-bisnis. Namun, pertanyaan tentang seberapa besar wewenang yang akan diberikan kepada regulator baru ini, dan bagaimana ia akan berinteraksi dengan hukum nasional yang sudah ada, masih belum terjawab.

Selain AS, dukungan dari Eropa juga akan menjadi kunci. Uni Eropa telah menjadi yang terdepan dalam regulasi AI dengan Undang-Undang AI-nya (AI Act), yang mengkategorikan sistem AI berdasarkan tingkat risikonya. Namun, pendekatan yang diusulkan Hassabis lebih bersifat global dan preventif, dengan fokus pada model-model paling canggih yang berpotensi menimbulkan risiko eksistensial.

Langkah Hassabis ini juga menyoroti perdebatan yang lebih luas di dalam komunitas AI. Di satu sisi, ada kekhawatiran bahwa regulasi yang terlalu ketat dapat menghambat inovasi dan memperlambat pengembangan teknologi yang berpotensi menyelesaikan masalah-masalah besar umat manusia, seperti penyakit dan perubahan iklim. Di sisi lain, risiko dari pengembangan AI yang tidak terkendali dianggap terlalu besar untuk diabaikan.

Pertanyaan tentang komposisi regulator juga menjadi krusial. Hassabis mengusulkan agar lembaga ini terdiri dari para pakar independen dan perwakilan dari komunitas open-source. Ini menunjukkan upaya untuk memastikan bahwa regulator tidak hanya didominasi oleh kepentingan perusahaan-perusahaan AI besar, tetapi juga mempertimbangkan perspektif yang lebih luas dari komunitas pengembang dan akademisi.

Proposal ini juga memiliki implikasi signifikan bagi industri teknologi secara keseluruhan. Jika regulator semacam ini terbentuk, perusahaan-perusahaan AI mungkin harus mengubah cara mereka mengembangkan dan merilis model. Proses evaluasi pra-rilis yang ketat dapat memperpanjang siklus pengembangan, tetapi juga dapat memberikan kepastian hukum dan kerangka kerja yang jelas bagi industri.

Dalam konteks yang lebih luas, seruan Hassabis ini adalah pengakuan bahwa teknologi AI telah mencapai titik di mana pengaturan mandiri oleh industri (self-regulation) mungkin tidak lagi cukup. Kekuatan dan kecepatan perkembangan AI menuntut adanya pengawasan eksternal yang independen dan memiliki wewenang untuk bertindak tegas jika diperlukan.

Di tengah ketidakpastian ini, satu hal yang jelas: percakapan tentang masa depan AI tidak lagi hanya tentang apa yang mungkin dilakukan oleh teknologi ini, tetapi juga tentang bagaimana kita, sebagai masyarakat global, akan mengaturnya. Usulan Hassabis adalah langkah berani menuju arah itu, dan respons dari para pemimpin dunia dalam beberapa bulan ke depan akan menentukan arah tata kelola AI untuk generasi yang akan datang.

Seiring dengan perkembangan teknologi yang semakin pesat, kebutuhan akan standar dan regulasi yang jelas menjadi semakin mendesak. Inisiatif seperti yang diusulkan Hassabis ini diharapkan dapat menjadi katalis bagi terbentuknya kerangka kerja global yang dapat melindungi umat manusia dari potensi risiko AI, sambil tetap memungkinkan inovasi untuk berkembang demi kemajuan bersama.