Telset.id – Investigasi terbaru dari Tech Transparency Project (TTP) menemukan 332 iklan yang mengandung materi pelecehan seksual anak (CSAM) hasil generasi AI yang lolos dan tayang di platform Facebook dan Instagram milik Meta. Temuan ini menjadi alarm keras bahwa foto biasa anak-anak yang diunggah orang tua di media sosial kini bisa dimanipulasi menjadi konten kejahatan seksual tanpa sepengetahuan korban maupun keluarga.
Temuan yang dilaporkan WIRED ini mengungkap bahwa risiko penyalahgunaan foto anak di era kecerdasan buatan bukan lagi ancaman teoretis. Para peneliti berhasil mengidentifikasi empat anak nyata yang foto-foto kesehariannya telah dimanipulasi menggunakan AI, termasuk dua remaja influencer, seorang anak pra-remaja yang fotonya tersedia di situs stok foto, dan seorang anggota muda keluarga kerajaan Eropa.
Fakta paling mengkhawatirkan adalah sebagian besar dari 332 iklan tersebut menampilkan anak yang fotonya telah dimanipulasi menggunakan AI sehingga tampak melakukan tindakan seksual. Padahal, foto asli yang menjadi bahan manipulasi tidak mengandung unsur seksual sama sekali.
Foto Biasa Berubah Menjadi Konten Kejahatan
Perkembangan teknologi AI telah mengubah lanskap risiko berbagi foto anak secara drastis. Membuat gambar palsu yang meyakinkan tidak lagi memerlukan foto eksplisit sebagai bahan dasar. Sebuah foto biasa yang diunggah di media sosial kini dapat menjadi bahan mentah untuk menghasilkan konten pelecehan.
Alat pembuat gambar berbasis AI mampu mengambil foto yang sudah ada dan memodifikasi bagian-bagian tertentu sambil tetap mempertahankan fitur wajah yang dapat dikenali dari orang di foto aslinya. Para peneliti melacak gambar empat anak di bawah umur tersebut kembali ke sumber aslinya: dua di antaranya adalah remaja influencer dengan akun media sosial publik, satu anak pra-remaja yang fotonya tersedia di situs foto stok, dan satu lagi anggota muda keluarga kerajaan Eropa.
Tidak satu pun dari foto asli tersebut mengandung materi seksual, namun tetap saja disalahgunakan. Emma Hardy, direktur komunikasi Internet Watch Foundation, menyatakan kepada WIRED bahwa aplikasi AI membuat pembuatan citra kriminal pelecehan seksual anak menjadi terlalu mudah, sehingga menciptakan risiko baru di mana foto sehari-hari anak-anak dapat diambil dan diubah menjadi konten seksual.
Begitu sebuah foto biasa dapat diakses publik, seseorang berpotensi mengunduhnya dan memasukkannya ke alat AI yang dirancang untuk mengubah foto. Ini berarti semakin banyak foto anak yang terpublikasi, semakin besar bahan yang tersedia bagi pelaku kejahatan.
Sistem Deteksi Meta Gagal Menahan Iklan Berbahaya
Skala investigasi ini juga menunjukkan betapa sulitnya menghentikan konten semacam itu. Pada bulan Agustus, peneliti TTP awalnya menemukan 53 iklan yang mengandung materi pelecehan seksual anak di platform Meta. Meta kemudian menyatakan banyak iklan tersebut muncul sebelum perusahaan memperkenalkan teknologi AI baru yang dimaksudkan untuk meningkatkan kemampuan deteksi iklan yang melanggar aturan.
Namun, para peneliti terus menemukan iklan-iklan tersebut. TTP akhirnya mengidentifikasi 332 iklan yang mengandung CSAM hasil AI, dengan ratusan di antaranya muncul setelah Meta mengumumkan teknologi deteksi terbarunya. Yang lebih signifikan, ini bukan sekadar unggahan Facebook atau Instagram yang lolos moderasi, melainkan iklan berbayar yang seharusnya melalui proses peninjauan sebelum ditayangkan.
Meta menyatakan iklan ditinjau sebelum diizinkan berjalan dan sistem otomatis memainkan peran utama dalam proses tersebut. Juru bicara Meta, Tracy Clayton, mengatakan kepada WIRED bahwa perusahaan tidak mentoleransi aplikasi nudify atau eksploitasi anak, baik yang melibatkan anak sungguhan maupun yang dihasilkan AI.
Meta menambahkan bahwa pelaku kejahatan sengaja berupaya menghindari sistem deteksi mereka, dan beberapa video lebih sulit dideteksi karena gambar anak hanya muncul sebentar atau buram. Perusahaan menyatakan banyak iklan yang diidentifikasi peneliti telah dihapus, sebagian besar menerima kurang dari 200 impresi, dan Meta menerima kurang dari USD 5.000 dari pembayaran iklan tersebut.
Namun, para peneliti mendokumentasikan kasus di mana eksposur meningkat setelah sebuah iklan dilaporkan. TTP menyebut satu iklan yang melibatkan remaja sungguhan telah menjangkau empat akun di Eropa saat dilaporkan ke Meta. Beberapa hari kemudian ketika Meta menghapusnya, iklan tersebut telah menjangkau lebih dari 330 akun.
Alat Penyalahgunaan Semakin Mudah Diakses
Investigasi ini mengungkap bahwa alat-alat penyalahgunaan tersebut kini tersedia secara mainstream. Para peneliti menemukan iklan yang mengarahkan pengguna ke hampir 50 aplikasi yang tersedia melalui App Store milik Apple dan Play Store milik Google. Sekitar 300 dari sekitar 350 iklan yang diperiksa dalam investigasi yang lebih luas mempromosikan generator gambar atau video AI.
Apple menyatakan kepada WIRED bahwa beberapa pengembang awalnya mengirimkan versi aplikasi yang sesuai aturan sebelum kemudian menambahkan kemampuan nudifikasi yang dilarang. Apple mengatakan telah menghapus 17 dari 20 aplikasi yang diidentifikasi peneliti dan mengambil tindakan terhadap tiga aplikasi lainnya, serta tujuh aplikasi tambahan yang diidentifikasi WIRED.
Google menyatakan telah menghapus semua aplikasi yang termasuk dalam laporan tersebut dan menangguhkan ratusan aplikasi lain karena melanggar kebijakan mereka.
Temuan ini mengungkap masalah yang melampaui satu platform tunggal. AI dapat digunakan untuk membuat citra kejahatan, toko aplikasi dapat mendistribusikan alat yang digunakan untuk membuatnya, dan platform periklanan kemudian dapat mendistribusikan iklan yang mempromosikannya. Setiap lapisan mungkin memiliki sistem keamanannya sendiri, tetapi materi pelecehan hanya perlu lolos satu kali untuk mencapai pengguna.
Masalah ini juga berkaitan erat dengan keamanan siber secara umum. Sebagaimana pengguna perlu melindungi perangkat mereka dari pencurian fisik, orang tua kini juga perlu lebih waspada terhadap risiko digital yang mengintai foto anak-anak mereka yang tersebar di dunia maya.
Langkah yang Bisa Dilakukan Orang Tua
Jika Anda menemukan citra AI bernuansa seksual yang melibatkan anak Anda, jangan membagikan ulang gambar tersebut secara luas sebagai upaya peringatan. Sebaliknya, simpan informasi yang dapat membantu mengidentifikasi lokasi kemunculan materi tersebut, seperti nama akun, alamat halaman, dan detail lain di sekitarnya, lalu laporkan konten tersebut langsung ke platform.
Di Amerika Serikat, dugaan eksploitasi seksual anak juga dapat dilaporkan ke CyberTipline milik National Center for Missing & Exploited Children (NCMEC). Orang tua juga dapat menggunakan layanan Take It Down dari NCMEC yang dirancang untuk membantu menghentikan penyebaran daring gambar atau video telanjang, setengah telanjang, atau eksplisit secara seksual yang melibatkan seseorang di bawah usia 18 tahun.
Sistem ini membuat sidik jari digital atau hash dari sebuah gambar tanpa mengharuskan gambar itu sendiri diunggah. Karena citra yang dihasilkan AI menciptakan skenario yang lebih baru dan rumit, orang tua yang tidak yakin apakah gambar yang dimanipulasi memenuhi kualifikasi tetap harus melaporkan apa yang mereka temukan daripada mencoba menentukannya sendiri.
Orang tua telah diperingatkan tentang praktik “sharenting” dan jejak digital anak-anak selama bertahun-tahun. Sharenting adalah istilah yang menggabungkan “sharing” dan “parenting”, merujuk pada praktik orang tua membagikan gambar, video, dan detail pribadi tentang anak-anak mereka di media sosial.
Meskipun orang tua tidak dapat sepenuhnya menghilangkan risiko penyalahgunaan AI pada gambar atau video yang mereka unggah, mengurangi jumlah foto anak yang dapat diakses publik dan lebih selektif dalam memilih konten yang dibagikan dapat mengurangi jumlah materi yang tersedia bagi orang-orang yang berpotensi menyalahgunakannya.
Investigasi TTP ini menjadi pengingat bahwa setiap foto yang diunggah ke media sosial memiliki konsekuensi yang tidak selalu terlihat. Dengan maraknya alat AI generatif yang semakin canggih, kehati-hatian dalam berbagi konten anak di dunia digital bukan lagi pilihan, melainkan keharusan.
Komentar
Belum ada komentar.