Google DeepMind Institute Diluncurkan, Fokus Bahas Standar AGI

Telset.id – Google dan peneliti Google DeepMind resmi meluncurkan DeepMind Institute pada Rabu untuk memajukan diskusi seputar artificial general intelligence (AGI). Lembaga ini menunjuk salah satu pendiri DeepMind, Shane Legg, eksekutif Google James Manyika, serta ketua Google DeepMind Demis Hassabis sebagai direktur. Shane Legg sendiri akan menjabat sebagai managing editor di institut tersebut.

Pendirian DeepMind Institute ini menandai langkah konkret Google dan Google DeepMind dalam memetakan perbedaan pandangan antara perusahaan, unit risetnya, dan komunitas riset global soal AGI. Melalui institut ini, ketiganya berupaya menyatukan beragam perspektif yang tidak selalu sejalan. “Mereka tidak akan selalu setuju, dan mereka kemungkinan akan mengubah pikiran mereka, seiring lebih banyak data dan informasi terungkap di garis depan yang bergerak cepat,” demikian bunyi pengumuman tersebut.

Langkah ini menjadi penting karena perdebatan soal keamanan AI mulai bergeser dari pernyataan keprihatinan umum menuju proposal konkret soal keterbukaan, pengawasan pihak luar, hingga potensi perlambatan terkoordinasi bila pengamanan tertinggal. Pergeseran itu makin cepat pekan ini setelah para pemimpin industri mendukung sejumlah elemen seruan CEO Anthropic, Dario Amodei, untuk “memperlambat” pengembangan AI di garis depan.

Empat Esai Perdana dan Isu Transparansi Model

Koleksi esai perdana DeepMind Institute memuat empat tulisan yang membahas beragam topik. Keempatnya mencakup kebijakan ekonomi untuk mengelola potensi gangguan akibat AGI, upaya mempertahankan penalaran model yang dapat dibaca manusia, prinsip untuk kesejahteraan manusia, serta kerangka untuk mengevaluasi model AI di garis depan.

Salah satu esai yang ditulis peneliti keamanan DeepMind, Rohin Shah dan Anca Dragan, berargumen bahwa menyempitnya jendela transparansi AI—kemampuan untuk melihat dan memeriksa penalaran model secara langkah demi langkah—bukanlah hal yang tak terhindarkan. Seiring arsitektur baru membuat model paling kuat makin sulit dipantau, kedua penulis menilai pengembang dan regulator harus menghadapi trade-off keamanan tersebut secara langsung.

Langkah itu bisa berarti membatasi “opaque serial depth”, yakni jumlah komputasi berurutan yang dapat dilakukan sebuah model tanpa menghasilkan jejak penalaran yang bisa dibaca. Alternatif lain, pengembang dapat diminta untuk menunjukkan bahwa sistem yang kurang transparan tetap dapat dipantau dengan baik. Isu transparansi dan pengawasan model ini sejalan dengan langkah sejumlah pihak yang mulai membuka akses evaluator independen, seperti yang dibahas dalam artikel Evaluator Independen.

Usulan Badan Standar AI di Bawah AS

Dalam esai lainnya, Demis Hassabis mengusulkan sebuah badan standar AI di garis depan yang dipimpin Amerika Serikat untuk mengevaluasi model AI paling canggih. Dalam kerangkanya, pengembang pada awalnya akan menyerahkan model secara sukarela untuk ditinjau hingga 30 hari sebelum peluncuran. Setelah sistem evaluasi terbukti efektif, lulus uji tersebut bisa menjadi syarat untuk menyebarkan model di garis depan di Amerika Serikat.

Badan tersebut pada awalnya akan merancang penilaian dengan berkonsultasi bersama perusahaan AI. Namun, pada akhirnya badan ini akan mengembangkan evaluasi independen yang tidak diungkapkan—yang disebut esai itu sebagai uji “held-out”—untuk mencegah laboratorium menyesuaikan model mereka dengan evaluasi yang sudah diketahui. Hassabis menyatakan kerangka itu bisa “ditingkatkan jika keseriusan situasi menuntut”, termasuk kemungkinan melakukan perlambatan terkoordinasi di antara pengembang AI di garis depan.

Usulan pengawasan ini muncul di tengah makin banyaknya inisiatif kolaborasi lintas perusahaan di industri AI. Sebelumnya, sejumlah nama besar seperti NVIDIA dan Google juga terlibat dalam pembentukan koalisi pengelolaan energi AI, sebagaimana diulas dalam artikel AI Energy Management.

Perkembangan di ranah AI juga terus menyentuh sisi konsumen. Google, misalnya, terus memperluas kemampuan asisten dan agen AI-nya untuk mengendalikan perangkat rumah pintar, seperti yang dibahas dalam artikel Agen AI Claude. Sementara itu, di sisi perangkat, Google juga aktif menambal celah keamanan pada lini Pixel-nya, sebagaimana diulas dalam artikel Bug Pixel.

Kehadiran DeepMind Institute menegaskan bahwa diskusi soal AGI kini tidak lagi berhenti pada pernyataan keprihatinan. Melalui empat esai perdana dan struktur kepengurusan yang melibatkan nama-nama kunci Google serta Google DeepMind, institut ini berupaya menempatkan perbedaan pandangan sebagai bagian dari proses menuju kerangka pengawasan, keterbukaan, dan evaluasi yang lebih terukur.