Geoffrey Hinton: Regulasi AI Baru Muncul Setelah Insiden Serius

Telset.id – Geoffrey Hinton, ilmuwan komputer peraih Nobel yang dikenal sebagai salah satu godfather of AI, memperingatkan bahwa regulasi AI kemungkinan baru akan lahir setelah terjadi insiden serius. Ia menyamakan skenario itu dengan partial nuclear meltdown di pembangkit listrik Three Mile Island pada 1979, dan menilai tahun berikutnya bisa menjadi titik balik bagi tata kelola teknologi ini.

Peringatan tersebut disampaikan Hinton dalam wawancara dengan The Guardian. Ia menegaskan bahwa dirinya bukan seorang “doomer” dan meyakini AI bisa dipakai untuk menciptakan masa depan yang lebih baik. Namun, ia tetap khawatir akan ada masa ketika manusia gagal mengelola risiko AI sehingga muncul kesenjangan besar antara kaya dan miskin, masalah kultural yang besar, pengangguran masif, dan masyarakat yang tercabik.

Hinton secara spesifik menyoroti risiko penyalahgunaan AI untuk melumpuhkan sistem keuangan global atau memicu pemadaman listrik berskala besar. Menurutnya, insiden semacam itu yang mungkin dibutuhkan untuk menyadarkan perusahaan AI akan bahaya teknologinya sendiri.

Kritik Hinton pada Perusahaan AI

Dalam wawancara itu, Hinton juga menyoroti persaingan antarperusahaan AI yang dinilainya berlomba mengembangkan teknologi demi tetap unggul, tanpa mempertimbangkan risiko yang menyertainya. Ia menyebut Zuckerberg, Musk, dan Sam Altman memahami risiko tersebut, tetapi menurut keyakinannya mereka lebih memilih uang.

Pandangan Hinton ini sejalan dengan peringatan yang pernah ia sampaikan sebelumnya soal AI yang bisa menghancurkan manusia. Dalam kesempatan lain, ia juga menyoroti sulitnya mencegah pihak-pihak dengan niat buruk memakai AI untuk hal-hal yang merugikan.

Ia juga mengingatkan bahwa derasnya serangan siber berbasis AI belakangan ini membuat kekhawatirannya tampak semakin nyata. Sejumlah politisi, pimpinan perusahaan, dan ilmuwan AI sendiri telah mendorong perlambatan internasional dalam pengembangan AI agar risikonya bisa dipahami dan dimitigasi lebih dulu.

Meski begitu, Hinton menilai langkah pengaturan AI akan menuntut upaya kolaboratif yang sangat besar di panggung internasional. Ia mengingatkan bahwa Presiden AS Donald Trump memandang AI sebagai teknologi menang-kalah, mendorong perusahaan AI mengatur diri sendiri sambil terus memacu pengembangan agar Amerika Serikat menjaga keunggulan terhadap China.

Sejumlah pengamat yang telah lama memperingatkan bahaya pengembangan AI tanpa kendali menilai pernyataan Hinton terasa sedikit pahit. Ancaman tetap ada dan mungkin butuh insiden besar untuk memicu perubahan, sehingga regulasi AI bisa jadi hanya berjarak satu malapetaka.

Masih Ada Waktu untuk AI yang Aman

Hinton tidak sepenuhnya pesimistis. Ia menyatakan bahwa manusia menurutnya masih memegang kendali dan mungkin masih bisa melakukan sesuatu. Namun, upaya itu hanya akan berhasil jika ada usaha besar yang dikerahkan untuk mewujudkannya.

Ia juga menyinggung soal monopoli kendali atas AI sebagai salah satu sumber kekhawatiran. Persaingan yang berlangsung cepat antarpelaku industri, menurutnya, membuat risiko kerap terpinggirkan dalam pengambilan keputusan.

Sikap Hinton ini melengkapi rangkaian kritiknya terhadap arah perkembangan AI. Sebelumnya, ia pernah mengaku memilih berhenti memakai ChatGPT lantaran alasan tertentu, sebuah keputusan yang menunjukkan konsistensi sikapnya terhadap risiko teknologi yang ia ikut bangun.

Di sisi lain, serangkaian serangan agen AI nakal telah memberi dunia gambaran tentang kemampuan berbahaya dari model-model frontier, bahkan yang diuji di lingkungan yang dianggap aman. Kondisi ini memperkuat seruan agar pemahaman dan mitigasi risiko dilakukan sebelum teknologi menyebar lebih jauh.

Bagi Hinton, regulasi AI yang efektif bisa jadi baru terwujud setelah sebuah insiden besar terjadi. Ia menilai tahun ke depan berpotensi menjadi penentu, dengan skenario terburuk berupa serangan AI terhadap sistem keuangan atau pembangkit listrik yang memaksa dunia bergerak.

Pernyataan Hinton menempatkan perdebatan soal tata kelola AI pada persoalan yang lebih konkret: siapa yang mengendalikan teknologi ini, seberapa besar risiko yang siap diambil, dan apakah upaya pengamanan akan dilakukan sebelum atau sesudah krisis. Hingga saat itu terjadi, ia menegaskan bahwa manusia masih punya peluang untuk mengendalikan arah perkembangan AI.