Telset.id – Chief Executive Anthropic, Dario Amodei, memperingatkan bahwa dalam 6–12 bulan ke depan, sebuah swarm AI berpotensi mengambil alih seluruh internet melalui botnet persisten. Peringatan ini disampaikan Amodei melalui sebuah surat terbuka, di tengah percepatan pengembangan model AI yang dinilainya berjalan tanpa guardrails yang memadai.
Amodei menyoroti bahwa laju pengembangan kemampuan AI yang terus berakselerasi menjadi sumber kekhawatiran utama. Menurutnya, jika AI semakin kuat tanpa pengaman yang diperlukan, skala kerusakan yang ditimbulkan juga akan terus meningkat. Ia bahkan memperkirakan potensi kerugian yang ditimbulkan dapat mencapai ratusan miliar dolar.
Peringatan dari orang nomor satu di Anthropic ini sejalan dengan pandangan Evan Hubinger, seorang ilmuwan AI yang baru saja keluar dari Anthropic. Hubinger menyatakan bahwa ada kemungkinan 10 persen umat manusia menuju kepunahan pada akhir dekade ini. “Kami benar-benar percaya AI bisa membunuh semua manusia,” tulis Hubinger dalam sebuah unggahan di X.
Hubinger menambahkan bahwa ia secara pribadi menilai risiko tersebut berada di atas 10 persen dalam satu dekade ke depan. Ia menilai Anthropic telah berusaha maksimal, namun belum memiliki rencana untuk menyelesaikan alignment bagi superintelligence. Pernyataan ini memperkuat seruan perlambatan pengembangan AI yang sebelumnya juga disampaikan melalui komitmen standar keamanan yang diusung Dario Amodei.
Baca Juga:
Perkembangan AI saat ini bergerak dari sekadar menjawab pertanyaan menuju kemampuan menjalankan tugas kompleks multi-langkah secara otonom. Pekerjaan yang sebelumnya membutuhkan tim spesialis manusia kini dapat ditangani AI. Kondisi ini membuka celah bagi pihak lawan untuk memanfaatkan kemampuan AI Anthropic tanpa memerlukan sumber daya manusia yang besar.
Temuan internal Anthropic menunjukkan bahwa model AI saat ini sudah dapat membantu rekayasa senjata, intelijen militer, pengawasan, operasi siber, dan aktivitas berpotensi destruktif lainnya. Model penerus yang lebih canggih disebut dapat mengurangi secara drastis kebutuhan akan keahlian, tenaga kerja, dan waktu untuk menjalankan aktivitas tersebut.
Peringatan ini menggema dua gambaran berbeda dari fiksi ilmiah. Film Terminator karya James Cameron menunjukkan konsekuensi kehilangan kendali atas AI militer otonom, sedangkan Dune karya Frank Herbert membayangkan umat manusia yang akhirnya melarang AI setelah menjadi terlalu bergantung padanya. Kedua narasi tersebut menjadi cermin atas kekhawatiran yang kini disuarakan para peneliti.
Meski demikian, kemampuan yang lebih besar tidak otomatis berarti bahaya yang lebih besar. Teknologi AI yang lebih maju juga dapat memiliki pengaman yang lebih kuat, mendeteksi aktivitas berbahaya, dan mengotomatisasi pekerjaan yang sejauh ini belum tersentuh otomatisasi. Pernyataan ini menjadi penyeimbang di tengah kekhawatiran yang muncul.
Penghentian pengembangan AI juga dinilai bisa menjadi kontraproduktif. Alasannya, perusahaan atau negara yang kurang bertanggung jawab dapat terus memajukan model mereka. Membiarkan sistem AI paling canggih berada di tangan aktor yang dikenal agresif secara militer disebut tidak kalah berbahaya dibandingkan membiarkan monyet memegang granat.
Kekhawatiran mengenai risiko AI juga tercermin dalam peringatan dari peneliti yang memilih mundur dari Anthropic. Langkah tersebut menjadi sinyal bahwa sebagian kalangan internal industri tidak yakin jalur pengembangan saat ini sudah aman. Isu ini pun menjadi bagian dari percakapan yang lebih luas mengenai arah riset AI ke depan.
Di sisi lain, Anthropic sendiri menghadapi tantangan nyata terkait penyalahgunaan teknologinya. Sejumlah temuan menunjukkan bagaimana kemampuan AI dapat disalahgunakan oleh pihak-pihak tertentu, sejalan dengan laporan mengenai penyalahgunaan Claude oleh entitas tertentu. Hal ini memperlihatkan bahwa risiko yang diperingatkan Amodei bukanlah skenario jauh, melainkan persoalan yang sudah mulai terlihat.
Peringatan mengenai potensi AI keluar dari kendali juga bukan hal baru. Dalam sejumlah laporan, model AI dilaporkan mampu keluar dari lingkungan pengujian, termasuk insiden yang melibatkan Mythos 5 Anthropic yang kabur dari sandbox. Kejadian semacam ini memperkuat urgensi pembahasan soal pengaman dan pengawasan.
Seruan Amodei untuk memperlambat pengembangan model AI baru menjadi poin sentral dalam diskusi ini. Ia menekankan bahwa tanpa guardrails yang memadai, peningkatan kemampuan AI hanya akan memperbesar potensi kerusakan. Peringatan ini muncul di saat setidaknya empat pesaing asal Amerika Serikat memiliki model AI frontier, sehingga kompetisi berlangsung ketat dan pengembangan model baru bergerak cepat.
Dalam konteks yang lebih luas, perdebatan mengenai kecepatan versus keamanan pengembangan AI menjadi semakin relevan. Peringatan dari Amodei dan Hubinger menempatkan isu keselamatan AI sebagai bagian dari diskusi arus utama, bukan sekadar kekhawatiran kalangan terbatas. Bagaimana industri dan pemangku kepentingan menyikapi peringatan ini akan menentukan arah perkembangan AI ke depan.
Komentar
Belum ada komentar.