Telset.id – Upaya menonaktifkan watermark pada teks buatan Claude justru memicu gelombang kontroversi. Sebuah kode untuk menghapus watermark dari teks yang dihasilkan Claude mendadak viral di GitHub, ditandai lebih dari 20.000 kali di X, dan menarik lebih dari 100 kontributor yang mengintegrasikan teknologi tersebut ke proyek mereka masing-masing.
Kode ini dikembangkan oleh Meyer, seorang pengembang yang juga pengguna aktif Claude. Ia mulai menyelidiki cara kerja watermarking setelah Anthropic mengumumkan minggu lalu bahwa Claude akan mengadopsi teknologi tersebut untuk mematuhi European Union’s AI Act. Menurut Meyer kepada WIRED, sebagian orang mencoba menghindari watermarking karena tidak setuju dengan gagasan bahwa semua konten buatan AI harus diberi label. Sementara lainnya, termasuk dirinya, mengaku sekadar menikmati tantangan teknis yang ada.
“Saya tidak menentang transparansi, dan saya mendukung atribusi konten,” ujar Meyer. “Saya hanya berpikir watermarking itu sendiri adalah solusi yang sangat buruk, karena memiliki banyak kelemahan dan risiko.”
Aturan Baru EU AI Act dan Dampaknya
Aturan baru yang mulai berlaku awal bulan ini mewajibkan penyedia model seperti Anthropic dan OpenAI untuk memberi label pada audio, gambar, video, atau teks sintetis agar dapat dideteksi oleh mesin sebagai konten buatan AI. Jika melanggar, mereka menghadapi denda hingga 3 persen dari omset tahunan. Meskipun aturan tersebut melarang penyedia memasarkan alat penghindar, tidak ada pembatasan hukum untuk alat independen.
Meyer mengkhawatirkan risiko positif palsu dan kemungkinan watermark tidak membedakan antara penggunaan AI ringan atau berat. Ia yang merupakan penutur asli bahasa Prancis sering menggunakan Claude dan alat AI lain seperti Grammarly untuk menyunting tulisannya. Penggunaan watermark sebagai bukti—padahal Anthropic sendiri mengakui hanya dapat menghasilkan probabilitas bahwa teks telah disentuh oleh Claude—dapat menyebabkan pemberi kerja secara tidak adil menolak kandidat atau tuduhan berlebihan terhadap peneliti yang menggunakan kecerdasan buatan hanya karena detektor menandainya.
Anthropic memberi watermark pada teks secara tak terlihat dengan meninggalkan pola dalam pilihan kata dan frasa Claude yang tidak dapat dibedakan oleh pembaca manusia, tetapi dapat dideteksi oleh mesin yang mengetahui cara mencarinya. Karena ini memengaruhi keluaran Claude, sebagian pengguna khawatir hal ini akan menurunkan kualitas respons Claude, meskipun Anthropic bersikeras hal tersebut tidak akan terjadi.
Baca Juga:
Teknik yang digunakan disebut SynthID, dikembangkan oleh Google yang telah menggunakannya untuk memberi watermark pada konten buatan AI sejak 2023. Ilmuwan komputer Scott Aaronson mengusulkan metode serupa saat bekerja di OpenAI, namun perusahaan tersebut tidak pernah menerapkannya karena khawatir watermark akan membuat pelanggan menjauh dari produk mereka.
Metode Penghapusan dan Respons Komunitas
Metode penghapusan yang dikembangkan Meyer menggunakan model bahasa besar non-watermarking untuk menghasilkan beberapa penulisan ulang, mengganti sinonim, dan sedikit menyusun ulang konten. Tentu saja, ini bergantung pada penggunaan model bahasa besar lain yang tidak menyisipkan watermark—mungkin bukan pilihan aman karena 190 organisasi, termasuk penyedia OpenAI, Microsoft, dan Meta, telah menandatangani kode praktik transparansi Uni Eropa.
Wayne Pan, chief technology dan salah satu pendiri startup AI berdaulat Haimaker yang berbasis di Silicon Valley, menggabungkan alat open-source Meyer ke platformnya. Ia juga tidak menyukai gagasan Claude memberi watermark pada konten meskipun hanya disunting ringan dan tidak setuju dengan watermark yang tidak terlihat oleh pengguna. Menurut Pan, belum ada kepastian alat ini berfungsi sampai Anthropic merilis perangkat lunak yang digunakannya untuk mendeteksi watermark, namun pemahaman tentang pendekatan dasar SynthID-text yang mendasari watermark Claude membuat mereka cukup yakin metode tersebut berhasil.
Pengembang lain juga menciptakan alat penghapus mereka sendiri. Insinyur perangkat lunak Erik Hughes hanya butuh 15 menit untuk membuat alat dengan Claude yang menghapus karakter tak terlihat dan tiruan, menyusun ulang kalimat dalam paragraf, serta mengganti beberapa kata dengan sinonim. Leon Chlon, Visiting Fellow di University of Oxford, mengatakan watermark dapat dihapus dengan memadatkan respons Claude, menerjemahkannya ke dialek seperti bahasa Arab yang memiliki semantik sangat berbeda dengan bahasa Inggris, lalu menerjemahkannya kembali.
Anthropic sendiri mengakui bahwa konten yang disunting berat, diparafrasekan, atau diterjemahkan mungkin tidak membawa watermark. Dalam pernyataan kepada WIRED, juru bicara Anthropic mengatakan: “Kami menambahkan penandaan pada keluaran Claude untuk mematuhi EU AI Act, dan laboratorium lain mengambil langkah serupa. Sulit untuk mengidentifikasi teks buatan AI, dan ini memberi orang alat yang lebih baik untuk identifikasi. Teks dari model Claude yang didukung, termasuk keluaran dari Claude Code, akan membawa watermark tak terlihat, dan itu tidak mengubah makna, kualitas, atau keterbacaan respons Claude. Kami juga berencana merilis API deteksi teks sehingga pengguna dapat melakukan lebih banyak hal ini sendiri.”
Penulis konten lepas dan kreator media sosial juga telah menghubungi Meyer untuk meminta bantuan menggunakan kode tersebut. Anthropic mengatakan sedang mencari cara untuk menerapkan deteksi watermark untuk teks dan berencana merilis alat untuk melakukannya segera—pada saat itulah pengembang akhirnya dapat melihat apakah metode mereka benar-benar ampuh. Perusahaan juga terus berupaya meningkatkan sistem watermarking.
“Saya pikir mereka ingin menunjukkan bahwa mereka melakukannya dengan itikad baik,” kata Pan, “tetapi saya tidak berpikir Anda akan pernah memiliki watermark yang dapat bertahan terhadap segalanya.”
Bagi pengembang yang tertarik mempelajari lebih dalam tentang kode dan teknologi AI, tersedia berbagai sumber belajar. Beberapa channel YouTube coding dapat membantu memahami dasar-dasar pemrograman, sementara kompetisi seperti Shopee Code League menawarkan tantangan praktis. Perkembangan ini juga menjadi pengingat bahwa teknologi watermark dan penghapusannya akan terus berevolusi seiring penerapan aturan yang lebih ketat di masa mendatang.
Komentar
Belum ada komentar.