Meta Tayangkan Iklan CSAM AI Generatif, Begini Kronologinya

Telset.id – Meta kedapatan menjalankan dan menampilkan “puluhan iklan berbayar” yang memuat konten pelecehan seksual anak (CSAM) hasil generasi AI. Iklan tersebut dilaporkan menjangkau ribuan akun dan tayang di Facebook, Threads, Messenger, serta Instagram.

Temuan ini diungkap dalam laporan terbaru dari Wired. Para peneliti dari Tech Transparency Project (TTP) menemukan lebih dari 50 iklan yang melanggar kebijakan perusahaan terkait materi pelecehan seksual anak. Iklan-iklan tersebut kini telah dihapus dari platform Meta.

Iklan yang memuat gambar anak-anak dengan teks bernuansa seksual dan konten ofensif lainnya ini ditemukan di pustaka iklan Meta. Alat pihak pertama tersebut mengkatalogkan dan mengindeks iklan yang berjalan di seluruh platform perusahaan, sekaligus menjadi cara untuk mendapatkan gambaran tentang penempatan iklan dan target audiensnya.

Seluruh iklan yang ditemukan TTP diposting antara November 2025 dan Agustus 2026. Beberapa iklan bahkan menautkan ke aplikasi “nudify” atau aplikasi yang digunakan untuk melepas pakaian secara digital pada foto seseorang.

“Iklan-iklan ini tidak berusaha menutupi gambar atau menyembunyikan apa yang mereka promosikan,” ujar Direktur TTP Katie Paul kepada Wired. “Penting untuk menunjukkan bahwa ini bukan konten yang diposting pihak ketiga di Facebook atau Instagram, ini adalah iklan yang ditinjau, disetujui, dan diizinkan berjalan oleh Meta, tanpa pernah mengalami intervensi saat perusahaan mengumpulkan pendapatan iklan.”

Standar periklanan Meta secara khusus melarang iklan yang “mengandung konten yang mengeksploitasi atau membahayakan anak secara seksual”. Perusahaan juga menyatakan akan melaporkan materi ofensif apa pun yang ditemukannya ke National Center for Missing and Exploited Children (NCMEC). Iklan dengan konten dewasa eksplisit juga dilarang di sistem periklanan Meta.

Perusahaan menangkap pelanggar dengan meninjau setiap iklan sebelum diterbitkan. Namun, sebagaimana dicatat Wired, Meta mengandalkan “alat otomatis” sebagai bagian dari proses tersebut. Hal inilah yang mungkin menjadi penyebab lebih dari 50 iklan yang ditemukan TTP bisa lolos dari pemeriksaan.

“Eksploitasi seksual adalah hal yang mengerikan, dan kami bekerja keras untuk menjauhkannya dari platform kami,” kata Meta dalam pernyataannya kepada Wired. “Mayoritas iklan ini memiliki jangkauan minimal dan banyak yang dinonaktifkan sebelum Wired membagikannya. Banyak dari iklan ini juga mendahului teknologi AI baru yang kami luncurkan baru-baru ini untuk mendeteksi dan memblokir iklan yang melanggar dengan lebih baik saat diunggah — dan kami terus meningkatkan sistem ini. Dari menghapus lebih dari 36 juta konten eksploitasi seksual anak tahun lalu hingga mengambil tindakan hukum terhadap pengembang aplikasi nudify, kami akan terus melawan penyalahgunaan ini tanpa henti.”

Kumpulan iklan terkait CSAM ini hanyalah masalah periklanan terbaru yang harus dihadapi Meta dalam beberapa bulan terakhir. BBC melaporkan pada Juli bahwa Instagram menayangkan iklan yang mengiklankan materi pelecehan seksual anak di India. Pada April 2026, Consumer Federation of America juga menggugat Meta karena gagal menangani iklan penipuan di platformnya, yang juga dilarang oleh standar iklan perusahaan.

Temuan TTP ini menjadi sorotan penting bagi pengguna platform Meta, terutama orang tua dan keluarga yang peduli dengan keamanan anak di ruang digital. Keberadaan iklan CSAM yang lolos moderasi menunjukkan adanya celah dalam sistem otomasi yang digunakan Meta untuk meninjau konten iklan.

Wired melaporkan bahwa iklan-iklan tersebut telah dihapus, namun dampak dari penayangannya selama berbulan-bulan tetap menjadi perhatian serius. Para peneliti TTP menemukan bahwa iklan-iklan itu tidak hanya melanggar kebijakan Meta, tetapi juga menunjukkan kelemahan sistemik dalam proses moderasi iklan yang berjalan otomatis.

Meta sendiri mengklaim telah menghapus lebih dari 36 juta konten eksploitasi seksual anak tahun lalu. Perusahaan juga mengambil tindakan hukum terhadap pengembang aplikasi nudify. Namun, temuan TTP menunjukkan bahwa masih ada celah yang perlu ditutup dalam sistem deteksi otomatis Meta.

Katie Paul menegaskan bahwa iklan-iklan ini bukan konten yang diposting pengguna biasa, melainkan iklan yang telah melalui proses review dan disetujui oleh Meta. Hal ini menimbulkan pertanyaan tentang efektivitas proses moderasi iklan yang diterapkan perusahaan.

Kasus ini juga memperpanjang daftar masalah periklanan yang dihadapi Meta. Sebelumnya, BBC melaporkan adanya iklan CSAM di Instagram India pada Juli 2026. Consumer Federation of America juga telah menggugat Meta pada April 2026 terkait iklan penipuan yang beredar di platformnya.

Menanggapi temuan ini, Meta menekankan bahwa mayoritas iklan yang ditemukan TTP memiliki jangkauan minimal. Perusahaan juga menyebut bahwa banyak iklan yang sudah dinonaktifkan sebelum Wired membagikan temuan tersebut. Meta berdalih bahwa iklan-iklan itu mendahului teknologi AI baru yang baru diluncurkan untuk mendeteksi iklan yang melanggar.

Meski demikian, temuan ini tetap menjadi perhatian serius bagi pengguna platform Meta. Keberadaan iklan CSAM yang tayang selama berbulan-bulan menunjukkan bahwa sistem moderasi otomatis Meta masih memiliki kelemahan yang perlu segera diperbaiki.

Untuk informasi lebih lanjut mengenai perkembangan kasus hukum yang melibatkan Meta, kamu bisa membaca artikel tentang gugatan terhadap Meta serta kasus kebocoran data ke Meta yang juga menjadi sorotan publik.