Anthropic Dukung Regulasi AI: Transparansi Tak Lagi Cukup

Telset.id – Anthropic, perusahaan AI bernilai hampir $1 triliun, secara mengejutkan justru mendorong regulasi ketat untuk industri kecerdasan buatan. Perusahaan yang didirikan dengan misi memastikan transisi aman menuju AI transformatif ini menilai langkah transparansi dan pelaporan mandiri sudah tidak memadai untuk sistem AI paling canggih.

Cesar Fernandez, kepala hubungan pemerintahan negara bagian dan lokal Anthropic, menyatakan dalam wawancara dengan WIRED bahwa kebijakan respons harus sebanding dengan kemajuan kemampuan sistem AI yang terus berkembang pesat. “Kami pikir transparansi dan pelaporan mandiri bukan lagi langkah keamanan yang cukup untuk sistem AI paling kuat,” ujarnya.

Langkah pro-regulasi ini menjadi sinyal kuat bahwa pendekatan sukarela dari perusahaan AI dinilai tidak lagi relevan. Fernandez bergabung dengan Anthropic awal tahun ini setelah sebelumnya menjabat sebagai kepala hubungan pemerintahan negara bagian AS untuk FanDuel dan sebagai asosiasi kebijakan publik senior di Uber.

Strategi Regulasi di Tingkat Negara Bagian

Anthropic telah mendukung sejumlah undang-undang keamanan AI di berbagai negara bagian AS. Setelah undang-undang pelaporan mandiri di California dan New York, perusahaan juga mendukung langkah Illinois yang mewajibkan laboratorium AI untuk mendapatkan evaluasi proses keamanan dari auditor pihak ketiga.

Terbaru, Anthropic mendukung kebijakan Massachusetts yang tidak hanya mewajibkan audit pihak ketiga, tetapi juga memberdayakan jaksa agung negara bagian untuk mencari ganti rugi dari perusahaan yang tidak mematuhi aturan. Langkah ini menunjukkan keseriusan perusahaan dalam mendorong regulasi yang lebih ketat.

Sementara Kongres AS terus mandek dalam pengesahan regulasi AI, negara bagian justru mengambil peran utama. Keahlian Fernandez dalam memenangkan pertempuran kebijakan di berbagai negara bagian akan sangat berharga bagi Anthropic.

Tuduhan Regulatory Capture dan Respons Anthropic

Agenda pro-regulasi Anthropic menuai kritik dari sejumlah pemimpin Silicon Valley. David Sacks, mantan AI czar Gedung Putih dan penasihat teknologi Presiden Donald Trump, menuduh Anthropic menjalankan strategi regulatory capture.

“Anthropic menjalankan strategi regulatory capture canggih berdasarkan fear-mongering,” tulis Sacks dalam unggahan media sosial tahun lalu. “Ini terutama bertanggung jawab atas kegilaan regulasi negara bagian yang merusak ekosistem startup.”

Fernandez membantah keras tuduhan tersebut. Ia menegaskan bahwa Anthropic hanya mendukung RUU AI negara bagian yang berlaku untuk “pengembang model AI besar,” yang umumnya merujuk pada perusahaan dengan pengeluaran ratusan juta dolar untuk pengembangan AI dan pendapatan tahunan lebih dari $500 juta.

“Sulit membayangkan startup memenuhi ambang batas itu,” kata Fernandez. Namun, perusahaan seperti Safe Superintelligence, Thinking Machines Lab, dan Mistral yang masing-masing mengumpulkan miliaran dolar dari investor berpotensi memenuhi ambang batas tersebut.

Batas Dukungan Regulasi dan Peran Pemerintah Federal

Anthropic memiliki batasan dalam apa yang dianggap tepat dilakukan negara bagian tanpa adanya regulasi federal. Dalam dokumen kebijakan yang dirilis bulan lalu, perusahaan merekomendasikan pemerintah memiliki mekanisme untuk memblokir perusahaan dalam menerapkan model AI baru jika dianggap tidak aman.

Namun, rekomendasi ini menjadi ironis mengingat pemerintahan Trump baru-baru ini memerintahkan Anthropic untuk menangguhkan akses ke dua model AI paling kuatnya untuk warga negara asing. Perusahaan tidak terlalu menyukai langkah tersebut.

Anthropic berpendapat bahwa hak untuk memblokir penerapan model AI yang tidak aman harus menjadi wewenang pemerintah federal, bukan legislator negara bagian. Setelah menerima arahan kontrol ekspor dari pemerintahan Trump, perusahaan menulis dalam blog bahwa pemblokiran penerapan model AI hanya boleh dilakukan melalui proses evaluasi yang adil dan transparan.

Pengaruh Anthropic dalam Kebijakan AI Masa Depan

Terlepas dari perdebatan motif, Anthropic memainkan peran kuat dalam membentuk masa depan kebijakan AI. Rilis model terbaru perusahaan membawa kemampuan keamanan siber AI canggih ke sorotan nasional. Sebelumnya, perusahaan telah menghabiskan waktu bertahun-tahun memperingatkan pembuat kebijakan tentang risiko bencana AI canggih.

Meskipun demikian, kekhawatiran AI yang lebih sering diangkat oleh pemilih Amerika—seperti potensi kehilangan pekerjaan, dampak negatif pusat data di komunitas mereka, dan efek chatbot pada anak-anak—belum menginspirasi kampanye legislatif sebanding dari laboratorium AI terdepan.

Fernandez mengatakan Anthropic “bersemangat untuk terlibat dengan pembuat kebijakan” tentang masalah di luar risiko keamanan AI bencana. Namun, diskusi tersebut belum menghasilkan dorongan tingkat negara bagian yang terkoordinasi seperti yang dilakukan Anthropic seputar risiko eksistensial model AI.