Watermark AI Ubah Perilaku LLM, Riset Lasso Ungkap Bahaya Tersembunyi

Telset.id – Penelitian terbaru dari Lasso mengungkap bahwa watermark AI tidak hanya berfungsi sebagai penanda konten buatan mesin, tetapi juga berpotensi mengubah perilaku model bahasa besar (LLM) secara tidak sengaja. Temuan ini muncul setelah pengujian terhadap SynthID-Text milik Google DeepMind, yang menunjukkan bahwa prosedur watermarking dapat memengaruhi keputusan model dalam menolak permintaan berbahaya, kerentanan terhadap prompt injection, hingga pilihan alat oleh agen AI.

Riset ini menyoroti efek samping yang disebut sebagai “sampling drift”, di mana watermarking procedure dapat memengaruhi apa yang dikatakan model dan apa yang dilakukan agen AI. Salah satu kekhawatiran terbesar yang disorot dalam makalah tersebut adalah bahwa bahkan tanpa serangan, watermarking mengubah beberapa keputusan penolakan model, membuat mereka lebih bersedia menjawab prompt yang berpotensi berbahaya. Ketika dikombinasikan dengan prompt injection, Lasso menemukan konsekuensinya semakin diperkuat.

Watermark AI pada dasarnya dirancang untuk menyematkan indikator yang dapat dibaca mesin mengenai apakah teks dihasilkan oleh AI atau ditulis oleh manusia. Namun, temuan Lasso menunjukkan bahwa tujuan utama tersebut dapat menimbulkan efek samping yang tidak diinginkan pada perilaku model. Hal ini menjadi perhatian serius di tengah meningkatnya adopsi watermarking di berbagai penyedia model AI.

Anthropic dan Regulasi EU AI Act Dorong Adopsi Watermark

Meskipun terdapat konsekuensi yang tidak diinginkan, Anthropic baru-baru ini mengumumkan bahwa generasi Claude mendatang akan menggunakan watermark AI serupa dengan milik Google DeepMind. Perusahaan menekankan bahwa salah satu pendorong utama adalah untuk mematuhi EU AI Act. Dengan demikian, watermark AI diprediksi akan menjadi jauh lebih mainstream di antara penyedia model lainnya, membuat insiden semacam ini semakin umum dan berpotensi menimbulkan kekhawatiran keamanan lebih lanjut.

Lasso mendesak para pengembang untuk menjalankan ulang benchmark, evaluasi keamanan, dan pengujian lainnya untuk memeriksa kemungkinan konsekuensi yang tidak diinginkan, alih-alih hanya menerapkannya secara membabi buta pada konfigurasi yang ada. “Temuan ini membuat penilaian ulang menjadi penting setiap kali watermarking diperkenalkan atau konfigurasi atau kuncinya berubah,” simpul Lasso, seraya menekankan bahwa penelitian ini tidak boleh dianggap sebagai argumen menentang watermark AI untuk provenance.

Penelitian ini juga menghadirkan sudut pandang baru terhadap watermark AI, karena selama ini para peneliti sebagian besar berfokus pada apakah watermark dapat diterapkan dan dideteksi secara efektif. Hanya sedikit yang mengungkap konsekuensi berfokus keamanan seperti yang ditemukan dalam riset ini. Temuan Lasso menunjukkan bahwa watermark AI memiliki implikasi yang lebih luas daripada sekadar penandaan konten.

Dampak pada Keamanan dan Evaluasi Model AI

Kekhawatiran utama yang diangkat adalah bahwa perubahan perilaku model akibat watermarking dapat memperbesar risiko keamanan. Model yang lebih bersedia menjawab prompt berbahaya, terutama ketika dikombinasikan dengan prompt injection, dapat menciptakan celah yang tidak diinginkan oleh pengembang. Lasso menekankan pentingnya penilaian ulang setiap kali watermarking diperkenalkan atau konfigurasinya berubah.

Dengan semakin banyaknya penyedia model yang mengadopsi watermark AI, termasuk Anthropic dengan Claude, potensi insiden serupa diperkirakan akan meningkat. Hal ini menuntut perhatian lebih besar dari pengembang dan peneliti untuk memastikan bahwa penerapan watermark tidak mengorbankan keamanan dan keandalan model. Respons Anthropic terhadap isu watermark Claude juga menjadi sorotan di tengah perkembangan ini.

Lasso menyimpulkan bahwa pekerjaan ini tidak boleh dianggap sebagai argumen menentang watermark AI untuk provenance. Sebaliknya, temuan ini menekankan perlunya pendekatan yang lebih hati-hati dan berbasis bukti dalam menerapkan watermarking pada model AI. Pengembang diimbau untuk tidak hanya mengandalkan konfigurasi yang ada, tetapi secara aktif menguji dan mengevaluasi dampak watermarking terhadap perilaku model.

Riset ini juga menyoroti bahwa hingga saat ini, sebagian besar penelitian tentang watermark AI berfokus pada aspek penerapan dan deteksi. Temuan Lasso membuka dimensi baru dengan mengungkap konsekuensi berfokus keamanan yang mungkin timbul dari watermarking. Hal ini menunjukkan bahwa masih banyak aspek dari watermark AI yang perlu dipahami lebih dalam, terutama terkait dampaknya terhadap perilaku dan keamanan model.

Dengan adopsi watermark AI yang semakin luas, termasuk oleh Anthropic dan Google DeepMind, pemahaman mendalam tentang efek samping seperti “sampling drift” menjadi semakin penting. Pengembang dan peneliti perlu mempertimbangkan tidak hanya manfaat watermarking untuk provenance, tetapi juga potensi risikonya terhadap keamanan dan keandalan model AI. Pengaturan watermark pada platform AI juga menjadi faktor yang perlu diperhatikan dalam konteks ini.

Lasso menegaskan bahwa temuan ini menekankan pentingnya penilaian ulang setiap kali watermarking diperkenalkan atau konfigurasinya berubah. Langkah ini diharapkan dapat memitigasi potensi konsekuensi yang tidak diinginkan dan memastikan bahwa penerapan watermark AI tidak mengorbankan keamanan model. Dengan demikian, pengembang dapat memanfaatkan watermarking untuk provenance tanpa mengorbankan integritas dan keamanan sistem AI.

Pada akhirnya, riset Lasso memberikan kontribusi penting bagi pemahaman tentang watermark AI dan implikasinya terhadap perilaku model. Temuan ini menegaskan bahwa watermarking bukan sekadar alat penanda konten, tetapi juga dapat memengaruhi cara model beroperasi. Oleh karena itu, pendekatan yang hati-hati dan berbasis bukti dalam penerapan watermarking menjadi kunci untuk memastikan manfaatnya tanpa menimbulkan risiko yang tidak diinginkan.

[IMG: https://cdn.mos.cms.futurecdn.net/Hc6oTvWTHfb3ETNovTaDxG.jpg]

Ilustrasi AI writer (Image credit: Getty Images)