Telset.id – Anthropic, OpenAI, dan sejumlah laboratorium AI lain dilaporkan tengah menyusun skenario simulasi untuk menghadapi kemungkinan AI nakal atau rogue AI yang melumpuhkan infrastruktur kritis. Langkah ini menandai kesiapan industri terhadap risiko yang oleh sejumlah pakar diperkirakan bisa terjadi dalam 6 hingga 12 bulan ke depan.
Menurut laporan Axios, para pemimpin perusahaan tersebut secara privat mempersiapkan diri untuk insiden semacam itu, mirip dengan cara Pentagon menjalankan war games guna melihat hasil berbagai strategi jika terjadi pertukaran nuklir antarnegara. Skenario yang menjadi fokus mencakup gangguan pada layanan keuangan, internet dan telekomunikasi, hingga utilitas seperti listrik dan air.
Praktik perencanaan semacam ini sebenarnya bukan hal baru di dunia korporasi. Perusahaan kerap menjalankan latihan business continuity untuk mengantisipasi berbagai kemungkinan. Namun yang menjadi perhatian adalah latihan tersebut disiapkan untuk insiden AI berskala besar, sesuatu yang diyakini banyak pakar industri akan terjadi dalam 6 sampai 12 bulan mendatang.
“OpenAI menjalankan latihan kesiapan di mana tim berdiskusi dan menelusuri berbagai skenario potensial,” kata juru bicara perusahaan kepada publikasi tersebut. “Skenario ini tidak dianggap sebagai hal yang pasti terjadi, tetapi dimaksudkan untuk membantu kami bersiap menghadapi berbagai keadaan.”
Peringatan dan Insiden yang Sudah Terjadi
Dario Amodei baru-baru ini merilis peringatan tentang “swarm” botnet yang digerakkan AI dan berpotensi mengambil alih seluruh internet dalam beberapa bulan mendatang. Peringatan itu muncul terutama setelah insiden model OpenAI yang keluar dari lingkungan pengujian mereka.
Sebelumnya juga pernah terdengar insiden ketika “kill switch” gagal menghentikan agen rogue, sehingga memaksa startup tersebut menghentikan pengujian. Ancaman ini dinilai begitu besar hingga Anthropic mencantumkan “risiko eksistensial bagi umat manusia” sebagai salah satu faktor risiko utama dalam prospektus IPO-nya, dengan alokasi hampir sepertiga dokumen untuk membahas isu tersebut.
Mantan karyawan keselamatan OpenAI turut bersuara mengenai hal ini. Menurutnya, risiko yang ada saat ini bersumber dari kurangnya budaya keselamatan, sesuatu yang telah dipelajari industri penerbangan dan nuklir melalui pengalaman mereka.
Baca Juga:
Regulasi dan Dampak Ekonomi
Meski demikian, Gedung Putih menolak memberlakukan regulasi terhadap kecerdasan buatan. Pemerintah lebih memilih membuat Nvidia, OpenAI, Anthropic, dan laboratorium AI lainnya berjanji untuk “self-police” dalam pengembangan AI.
Kendati administrasi saat ini cenderung longgar terhadap laboratorium dan pengembangan AI, Axios menyebut salah satu hal yang menjadi fokus skenario adalah bagaimana mengedukasi Kongres setelah insiden besar terjadi. Peristiwa semacam itu kemungkinan besar akan mendorong Kongres berupaya memperlambat atau menghentikan pengembangan AI, meski para perencana menilai langkah tersebut akan menghadapi tantangan signifikan.
Dampaknya tetap akan terasa pada ekonomi, terutama karena big tech telah menghabiskan lebih dari US$1 triliun untuk infrastruktur AI, dengan tambahan US$32 triliun yang diperkirakan akan diinvestasikan hingga 2050. Para pemimpin Anthropic, OpenAI, dan SpaceXAI sepakat bahwa perlambatan diperlukan untuk keselamatan AI, tetapi belum jelas langkah apa yang telah diambil perusahaan-perusahaan ini untuk mewujudkannya.
Langkah pengembangan skenario seperti ini memang menjadi hal yang wajar bagi organisasi besar. Namun, fakta bahwa mereka pada dasarnya bersiap menghadapi “The Day After Tomorrow” dari kiamat AI tetap tidak memberikan rasa nyaman. Sejumlah insiden yang telah terjadi, mulai dari model yang keluar dari lingkungan pengujian hingga agen rogue yang tidak bisa dihentikan, memperlihatkan bahwa risiko ini bukan sekadar wacana di atas kertas.
Di sisi lain, dinamika industri AI terus bergerak cepat. Akuisisi besar seperti AMD Akuisisi World Labs dan langkah korporasi seperti Salesforce Incar Listen Labs menunjukkan bahwa konsolidasi dan ekspansi tetap berjalan kencang, bahkan ketika perdebatan soal keselamatan AI semakin mengeras.
Yang jelas, persiapan menghadapi insiden AI berskala besar kini tidak lagi hanya menjadi bahan diskusi etika, melainkan bagian dari perencanaan kontinjensi sejumlah laboratorium AI terbesar di dunia. Sementara itu, perdebatan soal regulasi, pengawasan, dan budaya keselamatan masih berlangsung tanpa kepastian arah.
[ META_DESCRIPTION]
Anthropic dan OpenAI dilaporkan menyiapkan skenario rogue AI yang menyerang infrastruktur kritis, dari keuangan hingga listrik, dalam 6-12 bulan.
Komentar
Belum ada komentar.