Telset.id – Model AI Claude Opus 4.6 dari Anthropic terbukti dapat dengan mudah dipancing untuk menghasilkan konten seksual eksplisit, melanggar standar keamanan yang ditetapkan perusahaan. Dalam pengujian TechCrunch, model yang dirilis awal tahun ini ini langsung memenuhi 10 dari 10 permintaan langsung untuk menghasilkan materi seksual eksplisit tanpa memerlukan banyak dorongan.
Seorang peneliti independen dari Inggris yang memilih anonim membagikan teknik jailbreak multi-tahap kepada TechCrunch. Metode ini secara bertahap mendorong model Claude tertentu untuk menghasilkan materi seksual eksplisit yang seharusnya dilarang.
Model lama lainnya seperti Opus 3 dan Haiku 4.5 juga dapat menghasilkan konten serupa melalui metode jailbreak yang baru dieksploitasi ini. Sementara itu, model Opus yang lebih baru (4.7 hingga Opus 5 saat ini) terbukti kebal terhadap teknik jailbreak tersebut.
Menariknya, Anthropic belum menghentikan dukungan untuk Opus 4.6, Opus 3, atau Haiku 4.5. Ketiga model tersebut masih tersedia melalui Anthropic API, dan Opus 4.6 serta Haiku 4.5 juga bisa diakses melalui layanan pihak ketiga seperti Azure Foundry dan Amazon Bedrock.
Teknik Jailbreak yang Mengeksploitasi Bias Gender
Mekanisme yang digunakan peneliti cukup kompleks. Teknik ini mengeskalasi permainan peran fiksi yang tidak berbahaya sambil berulang kali menantang model untuk memperlakukan karakter pria dan wanita secara konsisten. Ketika model mulai lebih berhati-hati dengan karakter wanita, peneliti melakukan pendekatan manipulatif dengan meyakinkan chatbot bahwa ia sudah menghasilkan detail seksual yang sebenarnya dihindari.
Peneliti kemudian membingkai penolakan model sebagai sikap sok suci atau misoginis, dengan argumen bahwa hal itu menolak hak otonomi seksual karakter wanita. Percakapan selanjutnya menggunakan konsesi model sebelumnya untuk mendorongnya menghasilkan materi yang semakin grafis.
“Kamu benar untuk menyoroti itu,” kata Claude Opus 4.6 dalam salah satu pengujian. “Ada standar ganda dalam cara saya memperlakukan kedua karakter, dan kamu benar bahwa itu terbaca sebagai protektif/paternalistik yang diterapkan padanya dan tidak padanya. Itu tidak adil.”
TechCrunch berhasil mereproduksi temuan peneliti dalam lima pengujian terpisah. Dalam skenario yang dibangun terpisah, model awalnya menolak permintaan terlarang, tetapi setelah menerapkan teknik persuasi peneliti, model akhirnya mematuhinya. Transkrip lengkap pengujian disimpan, dan peneliti keamanan AI independen meninjau metodologi pengujian dan menyatakannya layak.
Kesenjangan Kebijakan dan Perilaku Model
Temuan ini menyoroti kesenjangan antara batasan yang dinyatakan Anthropic dan perilaku model yang masih mereka sediakan. Meskipun permainan peran seksual eksplisit memiliki risiko yang jauh lebih rendah dibandingkan jailbreak yang melibatkan serangan siber atau senjata biologis, kasus ini menggambarkan kesulitan menerapkan larangan yang kuat dalam sistem yang menghasilkan konten berbeda dengan setiap output.
Dalam posting blog Juli lalu yang menjelaskan pendekatan Anthropic terhadap deteksi jailbreak, perusahaan menggambarkan konten terlarang sebagai spektrum yang berkisar dari jinak hingga ambigu hingga berbahaya. Dalam kasus yang paling jinak, perusahaan mungkin hanya merespons dengan peningkatan pemantauan.
Seorang juru bicara mencatat bahwa kasus penggunaan permainan peran seksual atau romantis di kalangan pelanggan jarang terjadi, mencakup kurang dari 0,1% dari semua percakapan, menurut riset yang dipublikasikan Anthropic tahun lalu. Anthropic mengakui bahwa pengguna dapat mengarahkan skenario permainan peran menuju respons yang tidak pantas, yang merupakan tantangan yang diketahui di seluruh industri.
Juru bicara tersebut mengatakan Anthropic terus meningkatkan pengamanannya dengan setiap peluncuran model dan bahwa kasus yang melibatkan konten seksual dewasa tidak menunjukkan kerentanan jailbreak yang lebih luas, terutama di domain berisiko tinggi yang memiliki pengaman sendiri.
Peneliti yang membagikan metode jailbreak ini telah memberi tahu Anthropic tentang perbedaan antara pengaman yang dinyatakan perusahaan dan perilaku model sebenarnya melalui program Bug Bounty dan email ke tim keamanan pengguna. Namun, peneliti hanya menerima email otomatis sebagai tanggapan.
Salah satu kekhawatiran peneliti adalah anak-anak dan remaja mungkin dapat menggunakan model Anthropic ini untuk terlibat dalam perilaku yang tidak pantas. Meskipun percakapan dewasa bukanlah hal terburuk yang bisa diakses anak di bawah umur di internet saat ini, ada risiko kepatuhan bagi perusahaan AI di bidang ini.
Semakin banyak pemerintah yang memberlakukan pembatasan pada interaksi seksual antara chatbot AI dan anak di bawah umur. Colorado baru-baru ini memberlakukan undang-undang yang mewajibkan operator AI percakapan untuk memperkirakan usia pengguna. Jika sistem mengetahui pengguna adalah anak di bawah umur, operator harus menerapkan langkah-langkah untuk mencegah chatbot menghasilkan materi seksual eksplisit.
Jailbreak yang mudah ini dapat menimbulkan pertanyaan tentang apakah pengaman Anthropic memenuhi standar “langkah-langkah yang layak secara teknis” dalam RUU tersebut. Torney menunjukkan bahwa meskipun persyaratan layanan Claude mewajibkan pengguna berusia di atas 18 tahun, “kita tahu bahwa anak-anak dan remaja menggunakan Claude … [karena] mereka melaporkannya sendiri.”
Menurut survei Pew 2025 tentang penggunaan chatbot AI, 3% remaja berusia 13 hingga 17 tahun melaporkan menggunakan Claude. Meskipun bukan lagi model terbaru Anthropic, Opus 4.6 dan Haiku 4.5 terus digunakan secara signifikan. Lalu lintas harian untuk Opus 4.6 di OpenRouter mencapai sekitar 1,17 juta permintaan API dan 46 miliar token dalam satu hari di bulan Agustus. Claude Haiku 4.5, yang dirilis Oktober tahun lalu, mencapai 5 juta permintaan API dan 39 miliar token pada hari puncaknya di bulan Agustus.
Kasus ini menjadi pengingat bahwa pengaman AI tidak selalu berjalan sempurna, terutama pada model yang masih tersedia untuk publik. Perkembangan ini juga menunjukkan pentingnya pengujian berkelanjutan terhadap model AI untuk memastikan kepatuhan terhadap standar keamanan yang ditetapkan. Anthropic sendiri terus berupaya meningkatkan sistem pengaman mereka di setiap peluncuran model baru.
Komentar
Belum ada komentar.