Microsoft Gabung StopNCII Demi Perangi Pornografi dan Deepfake

Telset.id, Jakarta – Microsoft baru-baru ini mengumumkan kemitraan dengan StopNCII untuk menangani masalah serius terkait konten intim nonkonsensual, termasuk deepfake, di mesin pencari Bing. Langkah ini merupakan upaya signifikan dalam mengatasi penyebaran konten yang merugikan di platform digital.

Dengan kerjasama ini, StopNCII akan membantu menghapus gambar-gambar atau konten intim buatan deepfake yang dibagikan tanpa izin dari hasil pencarian Microsoft Bing. Proses ini dimulai ketika korban melaporkan kasus mereka ke StopNCII.

Basis data StopNCII kemudian membuat sidik jari digital atau hash dari gambar atau video tersebut tanpa harus mengunggah file ke sistem mereka. Hasil ini lalu dikirimkan ke mitra industri yang terlibat dalam upaya ini, memungkinkan mereka untuk mencari kecocokan dan menghapus konten tersebut dari platform mereka jika melanggar kebijakan konten.

BACA JUGA:

• Kesandung Pornografi Anak, Visa Blokir Pembayaran Kartu Kredit Pornhub
• Elon Musk Gugat OpenAI di Pengadilan, Apa Penyebabnya?

Meta juga membantu dalam pengembangan alat ini dan mengintegrasikannya di platform-platformnya seperti Facebook, Instagram, dan Threads. Selain Microsoft, sejumlah perusahaan teknologi lain juga telah bergabung dalam inisiatif ini, termasuk TikTok, Bumble, Reddit, Snap, Niantic, OnlyFans, PornHub, Playhouse, dan Redgifs.

Namun, Google tidak terdaftar sebagai mitra, meskipun mereka memiliki fitur pelaporan untuk gambar dan video tidak disetujui, termasuk deepfake yang dihasilkan AI.

Ketidakhadiran Google dalam daftar mitra ini menunjukkan tantangan tambahan bagi korban yang harus menghadapi pendekatan terpisah untuk menghapus konten yang merugikan dari berbagai platform.

Meskipun Google menawarkan fitur pelaporan, kurangnya partisipasi dalam upaya terpusat seperti StopNCII dapat memperberat beban bagi korban yang mencoba memulihkan privasi mereka.

Selain inisiatif dari StopNCII, pemerintah AS juga telah mengambil langkah-langkah untuk menangani masalah ini dengan lebih serius.

Tahun ini, Kantor Hak Cipta AS telah menyerukan undang-undang baru untuk mengatasi dampak dari gambar dan video nonkonsensual, dan sekelompok senator telah memperkenalkan Undang-Undang Anti Pemalsuan pada bulan Juli untuk melindungi korban dari pemalsuan digital.

Jika Anda merasa menjadi korban penyebaran gambar intim tanpa persetujuan, Anda dapat mengajukan kasus ke StopNCII di sini. Bagi mereka yang berusia di bawah 18 tahun, laporan dapat diajukan ke NCME di sini.

BACA JUGA:

• Google Larang Keras Iklan Situs dan Aplikasi Pornografi Deepfake
• Makin Canggih! Microsoft Hadirkan Fitur Ringkasan AI di Bing

Langkah-langkah ini menunjukkan upaya serius dari sektor teknologi dan pemerintah untuk melindungi privasi individu dan mengatasi dampak negatif dari penyebaran konten yang tidak diinginkan. Kemitraan antara Microsoft dan StopNCII merupakan langkah maju dalam menciptakan lingkungan digital yang lebih aman dan bertanggung jawab. [FY/IF]