Nick Bostrom: Risiko Kepunahan AI Sebanding dengan Manfaatnya

Telset.id – Filsuf Oxford Nick Bostrom, yang terkenal dengan teori simulasi, kini mengemukakan argumen kontroversial bahwa pengembangan kecerdasan buatan (AI) canggih mungkin akan menyebabkan kepunahan umat manusia, tetapi risiko tersebut sepadan dengan potensi manfaat luar biasa dari superintelligence.

Dalam sebuah makalah kerja terbaru, Bostrom menyatakan bahwa meskipun ada kemungkinan nyata AI akan memusnahkan manusia, keuntungan yang bisa diperoleh dari superintelligence begitu mendalam sehingga risikonya layak diambil. Ia menyebut dirinya sebagai “fretful optimist” atau optimis yang cemas.

“Saya sangat bersemangat tentang potensi untuk secara radikal meningkatkan kehidupan manusia dan membuka kemungkinan baru bagi peradaban kita,” kata Bostrom kepada Wired dalam sebuah wawancara baru-baru ini. “Itu konsisten dengan kemungkinan nyata bahwa sesuatu bisa berjalan salah.”

Bostrom, yang sebelumnya dikenal karena peringatannya pada 2019 bahwa AI menimbulkan risiko lebih besar bagi umat manusia dibandingkan perubahan iklim, kini tampaknya mengubah arah pemikirannya. Ia mengkritik argumen para “doomer” yang menyatakan bahwa membangun AI sama saja dengan membunuh diri sendiri dan anak-anak mereka.

“Saya merasa terganggu oleh beberapa argumen yang dibuat oleh para peramal kiamat yang mengatakan bahwa jika Anda membangun AI, Anda akan membunuh saya dan anak-anak saya,” ujar Bostrom, menargetkan sesama intelektual publik Eliezer Yudkowsky. “Seperti buku terbaru ‘If Anyone Builds It, Everyone Dies.’ Yang lebih mungkin adalah jika tidak ada yang membangunnya, semua orang akan mati! Itulah yang terjadi selama beberapa ratus ribu tahun terakhir.”

Ketika pewawancara Steven Levy menekankan bahwa dalam skenario kiamat semua orang mati dan tidak ada lagi yang lahir, Bostrom menjawab bahwa ia sangat peduli dengan hal itu. Namun, dalam makalahnya, ia melihat pertanyaan berbeda: apa yang terbaik bagi populasi manusia yang sudah ada saat ini.

“Harapan hidup kita akan meningkat jika kita mengembangkan AI, meskipun itu cukup berisiko,” tegas Bostrom.

Argumen ini menjadi semakin rumit mengingat keyakinan Bostrom bahwa kita kemungkinan besar sudah hidup di dalam simulasi komputer. Dalam kerangka pemikiran itu, muncul pertanyaan apakah semua level simulasi leluhur mengembangkan superintelligence mereka sendiri, dan apa hubungannya dengan simulasi baru yang mereka bangun.

Jika AI memusnahkan umat manusia, apakah ia akan membangun simulasinya sendiri? Jika ya, apakah ia mensimulasikan leluhur manusianya, atau penciptaannya oleh manusia? Jika seluruh dunia kita adalah simulasi, apakah kita adalah AI?

Levy mengakhiri wawancara dengan pernyataan bahwa percakapan tersebut telah “diedit untuk panjang dan koherensi,” sebuah pengakuan yang mungkin tepat mengingat kompleksitas topik yang dibahas.