Telset.id – Anthropic, startup AI paling bernilai di dunia, secara resmi menyerukan moratorium atau jeda global pengembangan kecerdasan buatan. Dalam sebuah pernyataan resmi, Anthropic mengklaim teknologi AI sudah mendekati titik di mana sistem bisa lepas dari kendali manusia.
Dalam unggahan blog yang panjang pada Kamis lalu, Anthropic memaparkan kekhawatirannya tentang model Claude yang dinilai berada di jalur menuju “recursive self-improvement.” Ini adalah kemampuan bagi AI untuk meningkatkan dirinya sendiri secara otonom, sebuah titik kritis hipotetis yang bisa mengarah pada penciptaan AI super-kuat yang beroperasi di luar kepentingan manusia dan membahayakan masyarakat.
Anthropic menekankan bahwa kondisi tersebut belum terjadi, tetapi “bisa datang lebih cepat daripada yang dipersiapkan oleh sebagian besar institusi.” Pernyataan ini menjadi dasar bagi seruan mereka untuk melakukan moratorium global.
Seruan Jeda dan Kontroversi di Baliknya
“Kami percaya akan menjadi hal yang baik bagi dunia jika ada opsi untuk memperlambat atau menghentikan sementara pengembangan AI frontier,” tulis Anthropic dalam pernyataannya. Mereka menambahkan bahwa “perlambatan atau jeda yang berarti membutuhkan banyak laboratorium yang memiliki sumber daya baik, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama.”
Meski demikian, Anthropic mengakui bahwa hal ini akan sulit ditegakkan. “Proses pelatihan jauh lebih mudah disembunyikan daripada silo rudal,” tulis mereka, menyoroti tantangan pengawasan dalam industri AI.
Seruan Anthropic ini muncul pada waktu yang sangat strategis. Dalam beberapa bulan terakhir, perusahaan berhasil melompati OpenAI untuk menjadi perusahaan AI paling bernilai di dunia dengan valuasi mencapai $1 triliun. Model-model mereka kini secara umum dianggap sebagai yang terbaik di bidangnya, terutama dalam tugas coding. Jika industri benar-benar mengerem sekarang, posisi dominan Anthropic akan terkunci.
Kritikus pun langsung bereaksi. Pengkritik AI terkemuka, Gary Marcus, menyebut pernyataan panjang Anthropic sebagai “bait and switch.” “Anthropic mencoba menanamkan teror ke hati semua orang (‘recursive self-improvement penuh juga bisa meningkatkan risiko manusia kehilangan kendali atas sistem AI’), tetapi yang benar-benar mereka tunjukkan hanyalah coding yang lebih cepat — sepenuhnya di bawah kendali manusia,” tulis Marcus di Substack-nya. “Alat coding yang lebih cepat mungkin tidak akan mengakhiri dunia.”
Anthropic memang sejak lama berusaha mencitrakan diri sebagai pihak yang etis dan sangat peduli di industri AI. Salah satu pilar mitologinya adalah CEO Dario Amodei yang disebut menahan diri untuk tidak meluncurkan model AI revolusioner pada 2022 karena masalah keamanan, sehingga membiarkan OpenAI mendapat semua perhatian saat merilis ChatGPT beberapa bulan kemudian.
Dua bulan lalu, dalam sekuel dari narasi pendiri perusahaan ini, Anthropic mengumumkan model baru bernama Mythos. Namun, mereka pamer tidak merilisnya ke publik dengan klaim model itu cukup kuat untuk “menembus setiap sistem operasi utama dan setiap peramban web utama.”
Namun, citra tersebut semakin sulit dipertahankan. Awal tahun ini, Anthropic bentrok dengan Pentagon karena kekhawatiran sistem AI mereka bisa digunakan dalam persenjataan otonom dan pengawasan massal warga AS. Belakangan, terungkap bahwa Claude digunakan untuk membantu memilih target serangan di Iran. Di tengah pertikaian dengan militer, Anthropic juga menjatuhkan komitmen keamanan yang merupakan alasan utama keberadaan perusahaan: untuk berhenti melatih sistem AI jika tidak bisa menjamin pengamanan yang tepat.
Semakin mempertegas kemunafikan Anthropic, profesor University College London, Steven Murdoch, mengutip laporan terbaru dari Financial Times yang mengungkap bahwa Anthropic membantu Badan Keamanan Nasional AS menggunakan model Mythos untuk melancarkan perang siber melawan musuh potensial seperti China dan Iran. “Anthropic mungkin memberikan kesan hangat dan ramah, tetapi definisi mereka tentang keamanan AI sangat sempit,” kata Murdoch kepada The Guardian. “Mendukung otoritas AS dalam pengembangan kemampuan ofensif tidak pernah menjadi hal yang mereka tolak.”
Baca Juga:
Terlepas dari apakah Anthropic benar-benar yakin memiliki peluang realistis untuk mewujudkan moratorium global — atau ini hanyalah taktik lain untuk meningkatkan citra peduli keamanan — perusahaan berjanji untuk melanjutkan aksi lebih lanjut. “Dalam beberapa bulan ke depan, kami akan mengorganisir percakapan di mana para pembuat kebijakan, peneliti, masyarakat sipil, dan perusahaan AI lainnya dapat membantu menjawab beberapa pertanyaan yang diangkat tulisan ini, terutama seputar recursive self-improvement penuh dan cara menciptakan opsi yang lebih baik untuk koordinasi dan musyawarah,” tulis Anthropic. “Kami akan mempublikasikan hasilnya.”
Implikasi dari seruan ini sangat jelas: industri AI berada di persimpangan jalan. Di satu sisi, ada kekhawatiran nyata tentang keamanan dan kendali. Di sisi lain, ada kepentingan bisnis dan persaingan yang sangat besar. Apakah moratorium global benar-benar mungkin terjadi, atau hanya retorika dari pemain dominan yang ingin mengamankan posisinya? Waktu yang akan menjawab.
Komentar
Belum ada komentar.