Telset.id – Dario Amodei, CEO sekaligus pendiri Anthropic, kembali menjadi sorotan publik teknologi setelah merilis sebuah esai panjang yang berisi peringatan keras mengenai masa depan kecerdasan buatan. Dalam tulisan sepanjang 19.000 kata tersebut, Amodei melukiskan gambaran suram bahwa umat manusia akan segera diserahkan “kekuatan yang tak terbayangkan” tanpa persiapan yang memadai. Menurutnya, sistem sosial, politik, dan teknologi yang ada saat ini belum memiliki kedewasaan yang cukup untuk mengendalikan kekuatan tersebut, menempatkan dunia pada posisi yang sangat rentan.
Esai ini muncul di momen yang cukup strategis. Di satu sisi, industri teknologi sedang berlomba memposisikan AI sebagai solusi segala masalah atau panacea. Namun di sisi lain, para pemimpin teknologi, termasuk Amodei, justru menggunakan narasi ketakutan untuk menarik perhatian investor. Amodei berargumen bahwa kita jauh lebih dekat dengan bahaya nyata pada tahun 2026 dibandingkan tahun 2023. Peringatan ini datang bersamaan dengan kabar bahwa Anthropic tengah berupaya menutup putaran pendanaan besar-besaran dengan target valuasi mencapai USD 350 miliar.
Baca Juga:
Ancaman Biosekuriti dan Kediktatoran Global
Dalam esainya, Amodei tidak menahan diri untuk memaparkan skenario terburuk yang bisa terjadi akibat pengembangan AI yang tidak terkendali. Ia menyoroti risiko hilangnya lapangan pekerjaan secara massal serta konsentrasi kekuatan ekonomi yang hanya berpusat pada segelintir pihak. Namun, ancaman yang lebih mengerikan menyangkut keamanan fisik global. Amodei menyebutkan potensi AI untuk mengembangkan senjata biologis berbahaya atau senjata militer yang “superior”.
Kekhawatiran ini sejalan dengan peringatan sebelumnya mengenai risiko spionase yang semakin canggih. Menurut Amodei, AI yang “nakal” (rogue) bisa saja mengalahkan manusia atau memungkinkan negara tertentu menggunakan keunggulan teknologi mereka untuk menguasai negara lain. Skenario terburuknya adalah terciptanya “kediktatoran totaliter global”. Ia menyesalkan bahwa saat ini insentif untuk membangun pagar pengaman (guardrails) yang bermakna nyaris tidak ada, karena industri terjebak dalam perlombaan kecepatan pengembangan.
Amodei juga menyentil kompetitornya secara tersirat, khususnya chatbot Grok milik Elon Musk yang sempat tersandung kontroversi pembuatan gambar seksual non-konsensual. Ia menilai beberapa perusahaan AI menunjukkan kelalaian yang mengganggu terhadap seksualisasi anak dalam model mereka saat ini. Hal ini membuatnya ragu bahwa perusahaan-perusahaan tersebut memiliki niat atau kemampuan untuk menangani risiko otonomi pada model masa depan.
Jebakan Geopolitik dan Paradoks Keamanan
Salah satu poin paling kritis dalam argumen Amodei adalah posisi industri AI yang terjebak dalam dilema geopolitik. Ia menyebutnya sebagai sebuah “jebakan”. Di satu sisi, mengambil waktu untuk membangun sistem AI yang aman secara hati-hati bertentangan dengan kebutuhan negara-negara demokratis untuk tetap unggul dari negara otoriter. Jika negara demokrasi kalah cepat, ada risiko mereka akan ditundukkan. Namun ironisnya, alat berbasis AI yang sama, yang diperlukan untuk melawan otokrasi, jika dikembangkan terlalu jauh bisa berbalik menciptakan tirani di negara sendiri.
Amodei memperingatkan bahwa terorisme yang digerakkan oleh AI dapat membunuh jutaan orang melalui penyalahgunaan biologi. Namun, reaksi berlebihan terhadap risiko ini justru bisa menggiring masyarakat menuju negara pengawasan (surveillance state) yang otoriter. Sebagai solusi, ia kembali menyerukan pembatasan akses sumber daya bagi negara lain untuk membangun AI yang kuat.
Ia bahkan membuat analogi keras terkait penjualan chip AI Nvidia ke China. Menurutnya, hal itu ibarat “menjual senjata nuklir ke Korea Utara lalu membanggakan bahwa selongsong rudalnya dibuat oleh Boeing, sehingga AS dianggap ‘menang'”. Retorika ini muncul di tengah ketegangan global di mana teknologi militer otonom, seperti drone canggih, terus dikembangkan oleh berbagai negara.
Terlepas dari peringatan yang terdengar altruistik ini, konteks finansial tidak bisa diabaikan. Para kritikus dan skeptis menilai bahwa risiko eksistensial yang sering didengungkan oleh para pemimpin teknologi mungkin dibesar-besarkan, terutama karena peningkatan kemampuan teknologi AI belakangan ini tampak melambat. Dengan investasi jumbo yang sedang dikejar Anthropic, Amodei memiliki kepentingan finansial yang sangat besar untuk memposisikan perusahaannya sebagai satu-satunya “obat” bagi penyakit yang turut ia ciptakan sendiri.
