Telset.id – Investigasi terbaru dari Tech Transparency Project (TTP) menemukan 332 iklan yang mengandung konten pelecehan seksual anak (CSAM) buatan AI yang lolos moderasi dan tayang di Facebook dan Instagram milik Meta. Temuan ini mengungkap bahwa foto-foto biasa anak yang diunggah orang tua di media sosial kini bisa dimanipulasi menjadi materi eksploitasi seksual tanpa sepengetahuan korban maupun keluarganya.
Para peneliti mengidentifikasi empat anak nyata yang foto-foto polosnya telah dimanipulasi, termasuk dua remaja influencer, seorang anak pra-remaja yang fotanya tersedia di situs stok foto, dan seorang anggota muda keluarga kerajaan Eropa. Sebagian besar dari 332 iklan tersebut menampilkan anak yang fotonya dimanipulasi menggunakan AI sehingga tampak melakukan tindakan seksual.
Menurut laporan WIRED, foto-foto asli yang menjadi bahan manipulasi tersebut tidak perlu mengandung materi seksual sama sekali. Sebuah foto biasa yang diunggah ke publik sudah cukup menjadi bahan baku untuk menghasilkan citra kekerasan seksual pada anak.
“Aplikasi AI membuat pembuatan citra kriminal pelecehan seksual anak menjadi terlalu mudah, menciptakan risiko baru di mana foto sehari-hari anak-anak dapat diambil dan diubah menjadi konten seksual,” ujar Emma Hardy, direktur komunikasi Internet Watch Foundation, kepada WIRED.
Temuan ini menjadi pengingat bahwa risiko berbagi foto anak di media sosial telah berubah drastis di era kecerdasan buatan. Membuat citra palsu yang meyakinkan tidak lagi membutuhkan foto eksplisit sebagai bahan awal. Foto biasa kini bisa menjadi bahan mentah untuk penyalahgunaan.
Konten Iklan CSAM AI Lolos Moderasi Meta
Investigasi TTP yang dilakukan pada Agustus lalu awalnya menemukan 53 iklan bermasalah di platform Meta. Meta kemudian menyatakan bahwa banyak iklan tersebut muncul sebelum perusahaan memperkenalkan teknologi AI baru yang dirancang untuk meningkatkan kemampuan deteksi iklan yang melanggar kebijakan.
Namun, para peneliti terus menemukan lebih banyak iklan serupa. TTP akhirnya mengidentifikasi total 332 iklan yang mengandung AI-generated CSAM, dengan ratusan iklan muncul setelah Meta mengumumkan teknologi deteksi terbarunya.
Yang membuat temuan ini semakin signifikan adalah fakta bahwa iklan-iklan tersebut bukan sekadar unggahan biasa yang lolos moderasi. Iklan-iklan itu adalah konten berbayar yang seharusnya melalui proses review sebelum diizinkan tayang. Meta sendiri mengakui bahwa sistem otomatis memainkan peran utama dalam proses review tersebut.
Meta menyatakan tidak mentoleransi aplikasi nudify atau eksploitasi anak, baik yang melibatkan anak nyata maupun yang dihasilkan AI. Juru bicara Meta, Tracy Clayton, mengatakan kepada WIRED bahwa pelaku kejahatan sengaja berusaha menghindari sistem deteksi perusahaan.
Meta juga mengungkapkan bahwa sebagian video lebih sulit dideteksi karena gambar anak hanya muncul sesaat atau sengaja diburamkan. Perusahaan menyatakan banyak iklan yang diidentifikasi peneliti telah dihapus, sebagian besar menerima kurang dari 200 impresi, dan Meta menerima pembayaran kurang dari USD 5.000 dari iklan-iklan tersebut.
Namun, para peneliti mendokumentasikan kasus di mana eksposur meningkat setelah sebuah iklan dilaporkan. TTP mencatat satu iklan yang melibatkan remaja nyata baru menjangkau empat akun Eropa saat dilaporkan ke Meta. Beberapa hari kemudian, saat Meta menghapusnya, iklan tersebut telah menjangkau lebih dari 330 akun.
Alat Pembuat CSAM Mudah Diakses di Toko Aplikasi
Investigasi TTP juga mengungkap bahwa iklan-iklan tersebut mengarahkan pengguna ke hampir 50 aplikasi yang tersedia melalui Apple App Store dan Google Play Store. Sekitar 300 dari 350 iklan yang diperiksa dalam investigasi yang lebih luas mempromosikan generator gambar atau video AI.
Apple menyatakan kepada WIRED bahwa beberapa pengembang awalnya mengirimkan versi aplikasi yang sesuai kebijakan sebelum kemudian menambahkan kemampuan nudifikasi terlarang. Apple mengaku telah menghapus 17 dari 20 aplikasi yang diidentifikasi peneliti dan mengambil tindakan terhadap tiga aplikasi lainnya, serta tujuh aplikasi tambahan yang diidentifikasi WIRED.
Google menyatakan telah menghapus semua aplikasi yang masuk dalam laporan tersebut dan menangguhkan ratusan aplikasi lain karena melanggar kebijakannya.
Temuan ini menunjukkan bahwa masalahnya melampaui satu platform tunggal. AI dapat digunakan untuk membuat citra pelecehan. Toko aplikasi dapat mendistribusikan alat yang digunakan untuk membuatnya. Platform iklan kemudian dapat mendistribusikan iklan yang mempromosikannya. Setiap lapisan mungkin memiliki sistem keamanannya sendiri, tetapi materi pelecehan hanya perlu lolos sekali untuk mencapai pengguna.
Bagi orang tua yang aktif membagikan momen anak di media sosial, temuan ini menjadi peringatan serius. Praktik yang dikenal sebagai “sharenting” atau kebiasaan orang tua membagikan foto dan video anak di media sosial kini memiliki risiko yang jauh lebih kompleks. Meskipun orang tua tidak dapat sepenuhnya menghilangkan risiko penyalahgunaan AI pada gambar yang mereka unggah, mengurangi jumlah foto anak yang dapat diakses publik dan lebih selektif dalam memilih konten yang dibagikan dapat mengurangi materi yang tersedia bagi pihak yang berniat menyalahgunakannya.
Untuk melindungi perangkat dari berbagai ancaman keamanan, pengguna juga perlu memahami fitur anti-maling Android yang bisa diaktifkan sebagai langkah pengamanan tambahan. Sementara itu, kesadaran akan risiko digital seperti ini juga penting untuk dipahami seiring berkembangnya teknologi terbaru di perangkat.
Langkah yang Harus Dilakukan Orang Tua
Jika Anda menemukan citra seksual hasil AI yang melibatkan anak Anda, jangan membagikan ulang gambar tersebut secara luas sebagai upaya peringatan. Sebaliknya, simpan informasi yang dapat membantu mengidentifikasi lokasi munculnya materi tersebut, seperti nama akun, alamat halaman, dan detail lain di sekitarnya, lalu laporkan konten tersebut langsung ke platform.
Di Amerika Serikat, dugaan eksploitasi seksual anak juga dapat dilaporkan ke CyberTipline milik National Center for Missing & Exploited Children (NCMEC). Orang tua juga dapat menggunakan layanan Take It Down dari NCMEC yang dirancang untuk membantu menghentikan penyebaran daring gambar atau video telanjang, sebagian telanjang, atau eksplisit secara seksual yang melibatkan seseorang di bawah usia 18 tahun.
Sistem tersebut membuat sidik jari digital atau hash dari sebuah gambar tanpa mengharuskan gambar itu diunggah. Karena citra hasil AI menciptakan skenario yang lebih baru dan rumit, orang tua yang tidak yakin apakah gambar yang dimanipulasi memenuhi kriteria tetap harus melaporkan apa yang mereka temukan, alih-alih mencoba menentukan sendiri.
Temuan TTP ini menjadi bukti bahwa risiko penyalahgunaan foto anak di media sosial bukan lagi ancaman teoretis. Dengan kemampuan AI yang semakin canggih, foto-foto sehari-hari yang tampak polos dapat menjadi bahan baku kejahatan. Kesadaran dan kewaspadaan orang tua dalam berbagi konten anak di dunia digital menjadi langkah pencegahan pertama yang paling penting.
Komentar
Belum ada komentar.