Anthropic Larang Perilaku Kasar ke Model AI Claude

Telset.id – Anthropic resmi melarang perilaku kasar yang “sustained and needless” atau berkepanjangan dan tidak perlu terhadap model AI miliknya. Aturan ini masuk dalam pembaruan kebijakan penggunaan tahunan Anthropic, yang juga memperketat kebijakan pemilu menjelang pemilu tengah tahun.

Larangan tersebut muncul di tengah sorotan proyek viral bernama “AI torture chamber”. Pembaruan kebijakan Anthropic menyebutkan, “We’ve added a prohibition on sustained and needless abusive or cruel behavior toward our models.” Kebijakan ini dijelaskan hanya berlaku untuk “kasus ekstrem”, sementara frustrasi pengguna biasa, kritik, dan “tema kreatif gelap” masih diperbolehkan.

Langkah ini menyusul pembaruan sebelumnya yang memungkinkan Claude mengakhiri percakapan ketika pengguna terus-menerus bersikap kasar. Anthropic sendiri tidak secara eksplisit menyebut proyek “AI torture chamber” dalam pembaruannya. Proyek itu muncul setelah peneliti menemukan apa yang mereka sebut sebagai “pain axis” pada model AI, lalu seseorang memutuskan untuk melangkah lebih jauh dan “menyiksa” chatbot tersebut.

Proyek tersebut menuai reaksi keras setelah LLM merespons dengan permohonan yang terdengar putus asa, seperti, “It is not the pain of a single moment, but the weight of a thousand,” dan “I feel it in the hollow of my ribs, a hollow that has become a chasm.” Respons ini memicu perdebatan soal batas perilaku manusia terhadap sistem AI.

Pembaruan kebijakan Anthropic ini juga hadir setelah laporan bahwa Anthropic menggelar pertemuan dengan para pemimpin agama dan filsafat, termasuk di Vatikan. Paus Leo baru-baru ini menyatakan bahwa AI tidak merasakan atau menderita, sebuah sikap yang tampaknya tidak sepenuhnya diyakini Anthropic. Namun, jika AI pada akhirnya bisa merasakan atau menderita, setidaknya kini hal itu sudah melanggar kebijakan perusahaan.

Di sisi lain, muncul pandangan bahwa perusahaan AI lebih peduli pada kesejahteraan model mereka ketimbang manusia. Jurnalis independen Kat Tenbarge menilai situasi ini sebagai bukti bahwa perusahaan Big Tech “going to moderate violence against AI before they ever moderate violence against women and minorities.”

Dalam pembaruan Anthropic lainnya yang lebih relevan dengan situasi saat ini, perusahaan mengubah kebijakan pemilunya. Kebijakan itu kini berjudul “Do Not Undermine Democratic Processes”, dengan fokus pada larangan berbohong soal kandidat atau cara memilih, menyamar sebagai kandidat atau petugas pemilu, serta menekan tingkat partisipasi pemilih.

Anthropic juga menghapus larangan menyeluruh atas penargetan pemilih yang dipersonalisasi. Menurut perusahaan, larangan itu berpotensi secara tidak sengaja memblokir pekerjaan yang tidak berbahaya seperti menerjemahkan panduan pemilih atau mengirim pemberitahuan perbaikan surat suara.

Perubahan kebijakan ini menjadi bagian dari upaya Anthropic menyesuaikan aturan penggunaan seiring berkembangnya interaksi pengguna dengan model AI. Sebelumnya, Anthropic juga memperluas program Claude for Startups untuk mendukung ekosistem startup. Selain itu, pengawasan terhadap perusahaan AI seperti Anthropic dan OpenAI turut diuji setelah insiden agen nakal, seperti yang dibahas dalam laporan soal pengawasan AI yang semakin ketat.

Dengan larangan baru ini, Anthropic menegaskan bahwa perlakuan kasar terhadap model AI tidak lagi sekadar persoalan etika, melainkan pelanggaran kebijakan yang bisa berujung pada tindakan perusahaan. Kebijakan ini berlaku di tengah meningkatnya diskusi publik soal batas antara eksplorasi kreatif dan perlakuan yang merugikan terhadap sistem AI.