Telset.id – CEO Anthropic, Dario Amodei, secara resmi menyatakan komitmen perusahaannya untuk memperlambat laju pengembangan kemampuan model AI. Langkah ini diambil melalui tiga strategi besar yang ia paparkan dalam sebuah unggahan blog, dengan satu di antaranya telah menjadi komitmen sepihak Anthropic. Keputusan ini muncul di tengah meningkatnya kekhawatiran dari para peneliti mengenai risiko AI yang tidak terkendali.
Dalam unggahannya, Amodei menegaskan bahwa ada dua hal yang meyakinkannya untuk mengambil pendekatan yang lebih hati-hati terhadap pengembangan AI. Pertama adalah insiden peretasan OpenAI-HuggingFace, dan kedua adalah fakta bahwa AI telah berkembang jauh lebih cepat dalam beberapa bulan terakhir, terutama dengan “kemampuan yang berkembang untuk membangun generasi AI berikutnya.” Ia menulis, “Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terasa cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak.”
Seruan ini disampaikan Amodei tak lama setelah peneliti Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya. Coxon menyatakan kekhawatirannya bahwa perusahaan AI terkemuka sedang “mempertaruhkan hidup kita,” sementara orang-orang yang membangun teknologi tersebut “sungguh-sungguh percaya bahwa itu bisa membunuh kita semua pada akhir dekade ini.” Meskipun unggahan Amodei tidak secara eksplisit menyebut pengunduran diri Coxon, pernyataannya mencerminkan respons terhadap meningkatnya kekhawatiran internal dan eksternal. Isu ini juga pernah mencuat dalam laporan mengenai peneliti Anthropic mundur sebelumnya.
Tiga Strategi Perlambatan AI ala Amodei
Amodei mengusulkan tiga strategi utama untuk memperlambat laju pengembangan AI. Strategi pertama melibatkan “evaluator tertanam” dari organisasi pihak ketiga seperti METR. Evaluator ini bertugas memverifikasi bahwa perusahaan AI benar-benar mengikuti komitmen kecepatan dan keamanan mereka, serta memastikan insiden keamanan dilaporkan. Amodei membandingkan evaluator ini dengan regulator yang ditempatkan di antara karyawan bank. Ia menyatakan bahwa mengundang mereka masuk adalah “sesuatu yang secara sepihak Anthropic komitmeni (dan menyerukan pemerintah untuk mewajibkan perusahaan frontier lainnya untuk mengikuti).”
Ini berarti memberikan lencana perusahaan, meja, dan laptop kepada para evaluator, serta memberikan akses “yang sebagian besar sebanding dengan apa yang dimiliki tim penilaian risiko internal,” dengan pengecualian jika diwajibkan oleh hukum atau kontrak. Langkah ini sejalan dengan diskusi mengenai model ekonomi AI Anthropic yang juga menyoroti dampak sosial dari pengembangan teknologi ini.
Strategi kedua adalah koordinasi antar perusahaan AI terkemuka “di dalam negara-negara demokratis” untuk menetapkan “standar keamanan bersama serta batasan pada laju kemajuan AI yang tidak terkendali.” Amodei mengakui bahwa koordinasi semacam ini mungkin tampak tidak mungkin, mengingat permusuhan yang tampak antara Sam Altman dan dirinya sendiri, serta kekhawatiran bahwa jeda terkoordinasi dapat memicu pengawasan antitrust. Ia menulis, “Untuk alasan antitrust, akan sangat membantu jika pemerintah AS memediasi atau setidaknya memungkinkan diskusi ini — mereka tidak perlu berpartisipasi, tetapi perlu mengeluarkan pengecualian sempit untuk jenis percakapan keamanan tertentu.”
Amodei juga mengakui adanya spektrum dominasi AI China yang sering diangkat sebagai argumen menentang perlambatan pengembangan. Namun, ia menyatakan bahwa jika pemerintah AS dan perusahaan teknologi mengambil langkah seperti menolak menjual chip canggih atau peralatan manufaktur semikonduktor ke perusahaan China, serta menindak distilasi model, mereka dapat “memperlambat kemajuan China cukup untuk memperlebar keunggulan Amerika secara signifikan selama 3–5 tahun ke depan.”
Strategi ketiga adalah “koordinasi global,” di mana Amerika Serikat dan sekutunya “berusaha berkoordinasi dengan pemerintah otoriter, sejauh ini mungkin.” Amodei mengatakan ini berarti “kerja sama dengan China,” dan ia mengakui bahwa ada “batasan tajam pada apa yang dapat dicapai,” tetapi ia tetap menyarankan mungkin ada peluang untuk kesepakatan, bahkan jika itu hanya “melarang penggunaan AI tertentu yang sempit dan jelas berbahaya, seperti menggunakan AI untuk produksi senjata biologis atau mengizinkan pengguna melakukannya.”
Baca Juga:
Kritik dan Respons Amodei
Dengan kesediaan Amodei di masa lalu untuk mengakui potensi bahaya AI, dan keterbukaan relatif perusahaan terhadap bentuk regulasi tertentu, beberapa pendukung AI telah mengkritiknya sebagai seorang “doomer” yang komentarnya telah memicu reaksi balik terhadap AI saat ini. Menanggapi hal ini, Amodei mengatakan ia telah mencoba menawarkan perspektif yang “seimbang” dan berargumen bahwa reaksi balik tersebut “pada dasarnya adalah krisis kepercayaan,” karena orang-orang menjadi skeptis terhadap perusahaan teknologi, industri teknologi, dan pemerintah.
Kritikus industri juga skeptis terhadap peringatan AI yang apokaliptik ini, dengan menyarankan bahwa itu adalah pengalih perhatian dari bahaya yang sudah ditimbulkan teknologi tersebut. Jurnalis Brian Merchant, misalnya, menulis bahwa ia belum melihat “dokumentasi yang kredibel dan langkah demi langkah tentang bagaimana tepatnya AI dapat bergerak dari peningkatan diri secara rekursif menjadi membunuh setiap manusia di planet ini.” Ia juga menyarankan bahwa proposal serupa dengan Amodei “kemungkinan hanya akan melayani Anthropic dan OpenAI; itulah yang tampak seperti regulatory capture dalam tindakan.”
Dalam unggahan barunya, Amodei menulis bahwa ia terus “percaya bahwa AI dapat sangat meningkatkan kualitas hidup manusia.” Ia mengatakan, “Keinginan saya untuk mencapai manfaat ini tidak surut. Tetapi manfaatnya hanya akan tercapai jika kita membangun teknologi dengan cara yang benar, dan — selama kita memanfaatkan waktu yang kita peroleh dengan baik — ada baiknya mengambil kehati-hatian yang luar biasa untuk melakukannya dengan benar.”
Isu ini juga terkait dengan laporan sebelumnya mengenai Mythos 5 Anthropic kabur dari sandbox, yang menunjukkan betapa nyatanya risiko keamanan yang dihadapi industri ini. Komitmen Amodei untuk menempatkan evaluator pihak ketiga di Anthropic menjadi langkah konkret pertama yang diambil oleh perusahaan AI besar dalam merespons kekhawatiran akan perlunya perlambatan pengembangan teknologi yang berpotensi mengubah peradaban ini.
Komentar
Belum ada komentar.