Anthropic Klaim Diri Sebagai Pahlawan AI di Tengah Kontroversi Etika

Telset.id – Anthropic, perusahaan AI yang didirikan oleh mantan eksekutif OpenAI, secara terbuka mengklaim dirinya sebagai “good guys” atau pihak yang bertanggung jawab dalam pengembangan kecerdasan buatan. Namun, klaim ini terus diuji oleh serangkaian keputusan kontroversial yang justru memperkuat kekuasaannya di industri.

Perusahaan yang kini bernilai hampir US$1 triliun ini memiliki dua keyakinan inti yang membedakannya dari kompetitor. Pertama, Anthropic percaya bahwa kecerdasan buatan adalah teknologi paling transformatif dalam sejarah manusia dan kedatangannya tidak bisa dihindari. Kedua, perusahaan yakin dunia akan lebih baik jika mereka tetap berada di garis depan perlombaan AI.

“Tidak ada satu pun dari kami yang ingin mendirikan perusahaan, kami hanya merasa itu adalah tugas kami,” ujar Sam McCandlish, salah satu pendiri dan chief architect Anthropic, dalam sebuah pernyataan yang dikutip dari halaman karir perusahaan.

Helen Toner, direktur eksekutif Georgetown’s Center for Security and Emerging Technology dan mantan anggota dewan OpenAI, menggunakan analogi untuk menggambarkan pandangan dunia Anthropic. Ia membandingkan AI yang kuat dengan hutan yang dipenuhi harta karun magis dan monster berbahaya. Semua penduduk desa bergegas masuk, tergiur oleh harta karun tersebut.

“Yang membedakan Anthropic adalah mereka berkata, ‘Orang-orang akan masuk ke hutan, kita harus melakukannya lebih dulu.’ Ini adalah strategi yang sangat eksplisit: membangun AI mutakhir untuk menjadi pemain serius yang bisa berbicara tentang bagaimana seharusnya sistem AI canggih, risiko apa yang ditimbulkannya, dan mendorong pengamanan yang wajar,” jelas Toner.

Strategi ini diakui cukup aneh sehingga banyak orang kesulitan memahaminya. CEO Anthropic Dario Amodei secara gamblang menjelaskan pendekatan ini dalam sebuah percakapan dengan rekan pendirinya yang diposting di halaman karir perusahaan: “Kamu harus menemukan cara untuk benar-benar kompetitif, benar-benar memimpin industri dalam beberapa kasus, namun tetap melakukannya dengan aman. Jika kamu bisa melakukannya, tarikan gravitasi yang kamu berikan akan sangat besar.”

Kontroversi Kemitraan Militer

Salah satu kontroversi terbesar terjadi pada musim gugur 2024, ketika Anthropic menjadi laboratorium AI pertama yang bermitra dengan Palantir untuk menyediakan layanan AI kepada badan intelijen dan pertahanan AS. Beberapa mantan karyawan mengungkapkan bahwa pertanyaan tentang kesepakatan tersebut muncul secara internal, namun perdebatan itu tidak menghasilkan perubahan pada kebijakan perusahaan.

Kurang dari dua tahun kemudian, Pentagon dilaporkan mulai menggunakan Claude untuk mengidentifikasi target serangan dalam perang Israel-Iran. Ketika ditanya dalam sebuah wawancara dengan Bloomberg apakah model Anthropic digunakan dalam serangan ke sebuah sekolah dasar Iran yang menewaskan lebih dari 120 orang, Amodei mengatakan ia tidak tahu, tetapi itu akan menjadi penggunaan teknologi yang disetujui selama manusia yang membuat keputusan akhir.

Ini adalah contoh nyata bagaimana visi Anthropic untuk AI yang bertanggung jawab mungkin tidak selalu sejalan dengan visi publik yang lebih luas. Perusahaan ini juga baru saja merilis model AI mutakhir, Claude Fable 5, dengan pengaman yang unik: jika peneliti mencoba menggunakannya untuk pengembangan AI mutakhir yang melanggar persyaratan layanan, Anthropic secara efektif akan menyabotase pekerjaan mereka secara diam-diam.

Langkah itu langsung menuai kritik dari para peneliti di seluruh industri AI, dan Anthropic menariknya kembali beberapa hari kemudian. Dalam pernyataannya, Anthropic mengaku tidak mendapatkan keseimbangan yang tepat dan niatnya adalah untuk menggagalkan musuh asing AS.

Masalah Homogenitas Pemikiran

Shazeda Ahmed, seorang peneliti pascadoktoral di UCLA yang mempelajari asal-usul ideologis gerakan keamanan AI, mengatakan bahwa organisasi seperti Anthropic cenderung bergulat dengan kurangnya pluralisme. Penelitiannya menemukan bahwa gerakan keamanan AI menderita homogenitas pemikiran dan cenderung mengarah pada tata kelola mandiri.

“Kamu tidak ditantang pada ide-ide ini ketika kamu mengelilingi dirimu dengan orang lain yang mempercayainya,” kata Ahmed. “Dan ketika metrik kesuksesanmu adalah, ‘Sejauh mana aku bertindak berdasarkan keyakinan ideologis ini?’ mereka tidak benar-benar berpikir bahwa ini bisa salah jika kita bukan orang yang tepat untuk memiliki kekuasaan sebanyak ini.”

Salah satu mantan karyawan menggambarkan gambaran yang suram, di mana kritik yang lebih jujur tetap terbatas pada grup chat pribadi dan jarang berkembang menjadi tantangan langsung terhadap keputusan Amodei. Mereka menggambarkan pertemuan seluruh karyawan dengan Amodei, yang disebut Dario Vision Quests, seperti “pergi ke khotbah untuk mendengar seorang pendeta.”

Amodei sendiri secara terbuka mengakui bahaya membiarkan terlalu banyak kekuasaan atas AI terkonsentrasi di tangan beberapa laboratorium, termasuk miliknya sendiri. “Agak canggung mengatakan ini sebagai CEO perusahaan AI, tetapi saya pikir tingkat risiko berikutnya sebenarnya adalah perusahaan AI itu sendiri,” tulisnya dalam sebuah esai awal tahun ini.

Namun, solusi yang ia sarankan—bahwa perusahaan AI “harus diawasi dengan hati-hati” dan mungkin membuat komitmen publik untuk “tidak mengambil tindakan tertentu”—hanya akan melakukan sedikit untuk mendistribusikan kembali kekuasaan tersebut secara fundamental. Dalam bagian esai yang lebih panjang, Amodei merenungkan besarnya pengaruhnya sendiri dan tanggung jawab yang menyertainya, tetapi sebagian besar menghindari membingkai hal-hal tersebut dalam istilah pribadi, malah memposisikannya sebagai masalah spesies.

“Kemanusiaan akan segera diberikan kekuatan yang hampir tak terbayangkan, dan masih belum jelas apakah sistem sosial, politik, dan teknologi kita memiliki kedewasaan untuk menggunakannya,” tulis Amodei. Ia menambahkan bahwa tanggung jawab “mereka yang paling dekat dengan teknologi adalah mengatakan yang sebenarnya tentang situasi yang dihadapi kemanusiaan.”

Kritik umum terhadap posisi Anthropic adalah bahwa perusahaan tersebut menganggap dirinya lebih tahu “kebenaran tentang situasi yang dihadapi kemanusiaan” daripada yang lain. Anthropic melihat AI sebagai sesuatu yang sangat kuat namun pada akhirnya dapat diatur, asalkan orang yang tepat memimpin pengembangannya. Namun kenyataannya, tidak ada yang tahu persis bagaimana AI akan mengubah dunia—beberapa orang hanya memiliki lebih banyak suara dalam hal itu daripada yang lain.

Anthropic menolak berkomentar untuk cerita ini. Perusahaan yang didirikan pada tahun 2021 oleh sekelompok mantan karyawan OpenAI ini terus bergerak maju dengan keyakinan bahwa mereka adalah pihak yang paling bertanggung jawab untuk memimpin pengembangan AI, meskipun banyak pihak mempertanyakan apakah klaim tersebut dapat dipertahankan.