Telset.id – Meta meluncurkan alat deteksi berbasis web yang mampu mengidentifikasi gambar dan video buatan AI dari model terbarunya, Muse Image. Langkah ini menjadi respons terhadap kritik inkonsistensi pelabelan konten AI di platform Meta.
Alat bernama Content Seal ini menggunakan teknologi watermarking yang tetap bertahan meskipun gambar telah dipotong, dikompresi, diubah ukurannya, atau di-screenshot. “Kami mempratinjau alat deteksi yang memungkinkan Anda memeriksa apakah sebuah gambar membawa watermark Content Seal, memberikan cara awal untuk membantu Anda lebih memahami apakah gambar tersebut dibuat dengan Meta AI,” jelas Meta dalam sebuah blog post.
Teknologi watermarking ini merupakan pendekatan baru Meta. Versi yang terintegrasi dalam Muse Image bersifat proprietary, meskipun Meta sebelumnya telah merilis versi open-source dari teknologi serupa. Berbeda dengan versi sebelumnya yang menambahkan logo kecil di sudut kanan bawah, model AI generatif terbaru Meta tidak menyertakan watermark yang terlihat secara kasat mata.
Dalam pengujian yang dilakukan, alat deteksi berbasis web ini mampu mengidentifikasi watermark pada gambar yang diedit maupun yang sepenuhnya dibuat oleh AI. Alat ini juga berhasil mendeteksi watermark pada screenshot gambar. “Hasil positif berarti gambar tersebut dibuat atau diedit menggunakan aplikasi Meta AI atau meta.ai,” jelas perusahaan dalam FAQ. “Hasil negatif berarti kemungkinan besar gambar tersebut tidak diproses menggunakan aplikasi Meta AI atau meta.ai.”
Namun, kemampuan deteksi ini belum terintegrasi ke dalam aplikasi Meta AI. Saat asisten berbasis aplikasi Meta ditanya tentang gambar yang telah diidentifikasi oleh alat web sebagai buatan AI, ia menjawab tidak memiliki kemampuan untuk memeriksa. “Saya tidak bisa memberi tahu Anda secara pasti apakah gambar spesifik ini dibuat dengan Meta AI hanya dengan melihatnya,” kata asisten tersebut. “Meta AI tidak secara otomatis memberi watermark pada gambar, dan saya tidak memiliki alat yang dapat mendeteksi model AI mana yang membuat gambar yang ada.”
Keterbatasan lain dari alat ini adalah ketidakmampuannya mendeteksi gambar yang dibuat atau diedit dengan versi lama model AI Meta. Dalam pengujian, gambar dari chat lama Meta AI tidak dapat diidentifikasi. Selain itu, alat ini tunduk pada batas rate limits Meta. Setelah mengunggah beberapa contoh, pengguna akan mendapat peringatan tentang “batas harian pada pemeriksaan identifikasi.”
Baca Juga:
Meta juga mengumumkan rencana untuk memperluas watermark Content Seal ke video yang dihasilkan atau diedit oleh AI. Perusahaan sedang mengerjakan model generasi video terpisah bernama Muse Video yang akan hadir “segera.” Saat ini, kemampuan deteksi Meta AI terbatas pada gambar yang dibuat atau diedit dengan Muse Image.
Keputusan Meta merilis alat deteksi ini tidak lepas dari kritik sebelumnya. Oversight Board sebelumnya menyatakan “khawatir” bahwa Meta “secara tidak konsisten menerapkan” watermark digital pada konten AI yang dibuat oleh alatnya sendiri. Teknologi Content Seal juga tidak kompatibel dengan SynthID atau C2PA Content Credentials, dua metode watermarking yang digunakan oleh perusahaan lain.
Alat deteksi baru Meta ini diharapkan dapat memberikan transparansi lebih bagi pengguna dalam mengidentifikasi konten buatan AI. Namun, keterbatasan kompatibilitas dan batasan penggunaan harian menjadi catatan penting bagi efektivitas alat ini ke depannya.
Dengan peluncuran alat ini, Meta menunjukkan komitmennya dalam mengatasi masalah identifikasi konten AI. Meskipun masih terdapat beberapa keterbatasan, langkah ini merupakan kemajuan signifikan dalam upaya memberikan informasi yang lebih jelas kepada pengguna tentang asal-usul konten yang mereka lihat.
Perusahaan juga terus mengembangkan teknologi watermarking yang lebih canggih untuk mengimbangi perkembangan model AI generatifnya. Ke depannya, integrasi alat deteksi langsung ke dalam aplikasi Meta AI akan menjadi langkah penting untuk memudahkan akses pengguna.
Komentar
Belum ada komentar.