Telset.id – Pengguna AI yang selama ini memanfaatkan chatbot untuk berbagai keperluan, mulai dari mengerjakan tugas hingga menulis email, kini dihadapkan pada kekhawatiran baru. Anthropic resmi mengumumkan bahwa chatbot Claude akan membubuhkan tanda air atau watermark pada teks yang dihasilkannya, berpotensi membuka identitas pengguna yang ingin memakai teknologi ini tanpa terdeteksi.
Keputusan ini memicu reaksi keras di kalangan pengguna AI. Banyak yang merasa kebijakan watermark ini akan merugikan mereka yang mengandalkan AI untuk pekerjaan kreatif maupun akademis. Kekhawatiran terbesar adalah risiko ketahuan menggunakan AI untuk menyelesaikan pekerjaan yang seharusnya dikerjakan secara mandiri.
Seorang pengguna di subreddit r/ClaudeAI meluapkan kemarahannya dengan menyebut watermark ini sebagai hal paling bodoh yang pernah didengarnya. Sementara pengguna lain mengkhawatirkan tanda air tersebut akan menjadi stigma yang melekat pada setiap karya tulis yang dihasilkan, membuat orang enggan membayar untuk konten yang jelas-jelas dibuat oleh AI.
Alasan Dibalik Penerapan Watermark
Anthropic menyatakan bahwa penerapan sistem watermark ini merupakan respons terhadap Undang-Undang AI (AI Act) yang disahkan Uni Eropa pada tahun 2024. Regulasi tersebut mewajibkan perusahaan AI untuk menandai konten yang dihasilkan atau diedit oleh sistem mereka. Ini menjadi langkah transparansi yang diminta langsung oleh regulator.
Cara kerja watermark ini terbilang unik. Sistem ini membuat perubahan halus pada pilihan kata yang digunakan AI dalam teks yang dihasilkan. Perubahan tersebut dirancang agar tidak terlihat oleh mata manusia, namun dalam agregat membentuk pola yang dapat dideteksi menggunakan alat khusus. Dengan demikian, setiap teks yang dihasilkan Claude bisa dilacak asal-usulnya.
Meski demikian, metode ini bukan tanpa kelemahan. Anthropic sendiri mengakui bahwa watermark akan bertahan melalui beberapa proses pengeditan. Namun jika teks tersebut disalin dan ditulis ulang menggunakan chatbot lain, sinyal watermark bisa hilang. Hal ini diungkapkan dalam analisis yang dilakukan Ars Technica.
Reaksi Keras dari Komunitas Pengguna
Kekhawatiran terhadap sistem watermark ini tidak hanya datang dari pengguna biasa. Seorang pengguna dengan nama visionode di subreddit r/artificial membuat unggahan panjang yang membandingkan skema watermarking dengan taktik kepolisian yang tidak adil dan penindasan sistematis. Pernyataannya cukup dramatis dan menuai beragam tanggapan.
Visionode menulis bahwa yang akan tertangkap adalah para pelajar yang menggunakan Claude untuk merapikan paragraf, jurnalis yang meminta AI merangkum transkrip, atau penulis yang meminta sinonim saat mengalami kebuntuan kreatif. Ia menyebut mereka akan keluar dengan tato digital di dahi mereka, sebuah stigma yang akan melekat selamanya.
Ia bahkan menyamakan kebijakan ini dengan operasi kepolisian yang menangkap pengguna narkoba namun membiarkan pengedar bebas. Namun sayangnya, unggahan visionode ini justru mendapat banyak suara negatif dari pengguna lain. Salah satu komentar menyindirnya dengan bertanya apakah tulisannya yang dramatis itu juga dibuat menggunakan chatbot.
Risiko Penurunan Kualitas dan Potensi Penghapusan Watermark
Selain kekhawatiran tentang privasi dan stigma, ada juga kekhawatiran bahwa upaya untuk menyisipkan watermark dapat menurunkan kualitas prosa yang dihasilkan AI. Pemilihan kata yang dimodifikasi demi kepentingan watermark berpotensi membuat teks menjadi kurang natural atau mengalir. Ini tentu menjadi pertimbangan bagi pengguna yang mengandalkan kualitas output Claude.
Ancaman yang lebih besar datang dari potensi penghapusan watermark. Ars Technica memperingatkan bahwa setelah Anthropic merilis cara kerja alat deteksinya, akan mudah bagi pihak-pihak tertentu untuk menciptakan alat yang dapat menghapus watermark tersebut. Ini menjadi kelemahan mendasar dari sistem yang sedang dibangun.
Fenomena serupa sebenarnya sudah mulai terlihat pada sistem SynthID milik Google DeepMind, yang dirancang untuk menyematkan tanda tersembunyi pada gambar. Meskipun demikian, sejauh ini belum ada yang berhasil menghapus watermark SynthID secara penuh. Namun celah keamanan pada sistem Anthropic berpotensi lebih besar mengingat sifatnya yang berbasis teks.
Implikasi bagi Masa Depan Penggunaan AI
Kebijakan watermark Claude ini membawa perubahan signifikan bagi cara orang menggunakan AI dalam kehidupan sehari-hari. Pengguna yang selama ini mengandalkan AI untuk membantu pekerjaan kini harus berpikir ulang, terutama jika mereka tidak ingin karya mereka diketahui berasal dari AI. Ini menjadi dilema baru di tengah maraknya penggunaan teknologi AI.
Bagi para pelajar dan akademisi, kebijakan ini bisa menjadi tamparan keras. Mereka yang selama ini menggunakan AI untuk membantu menyusun makalah atau tugas kuliah harus lebih berhati-hati. Sementara itu, para pekerja kreatif seperti penulis dan jurnalis juga harus mempertimbangkan kembali apakah mereka akan menggunakan AI untuk membantu proses kreatif mereka.
Di sisi lain, kebijakan ini juga membuka peluang bagi pengembangan alat-alat deteksi AI yang lebih canggih. Perusahaan dan institusi yang ingin memastikan keaslian karya tulis kini memiliki alat bantu yang lebih baik. Namun di saat yang sama, perkembangan ini juga memicu perlombaan antara pembuat watermark dan mereka yang ingin menghapusnya.
Sistem watermark Claude ini menjadi pengingat bahwa penggunaan AI tidak lagi bisa dilakukan secara sembunyi-sembunyi. Setiap teks yang dihasilkan akan membawa jejak digital yang bisa dilacak. Meskipun teknologi ini belum sempurna dan masih memiliki celah, arah kebijakan ini menunjukkan bahwa transparansi penggunaan AI akan semakin ditekankan di masa depan. Pengguna AI perlu bersiap menghadapi era baru di mana jejak digital dari setiap karya yang dihasilkan AI akan semakin sulit disembunyikan.
Komentar
Belum ada komentar.