Pernahkah Anda membayangkan bahwa toko aplikasi resmi yang selama ini dianggap sebagai benteng keamanan digital, justru menjadi sarang bagi teknologi yang mampu melucuti privasi Anda dalam sekejap? Ironi ini sedang terjadi tepat di depan mata kita. Di balik klaim keamanan yang ketat dan proses kurasi yang berlapis, gerbang digital raksasa milik Apple dan Google ternyata kebobolan oleh serbuan aplikasi berbahaya yang mengeksploitasi kecerdasan buatan.
Sebuah investigasi mendalam yang dilakukan oleh Tech Transparency Project (TTP) baru-baru ini membuka kotak pandora yang mengejutkan. Laporan tersebut mengungkap bahwa Apple App Store dan Google Play Store kini dipenuhi oleh aplikasi “nudify”. Ini adalah jenis aplikasi berbasis AI yang dirancang untuk membuat gambar seksual tanpa persetujuan (nonconsensual), atau secara digital “menelanjangi” seseorang dari foto berpakaian. Temuan ini jelas menampar wajah kedua raksasa teknologi tersebut yang selama ini vokal mengenai kebijakan anti-pelecehan di platform mereka.
Yang lebih meresahkan, aplikasi-aplikasi ini bukan sekadar ada, tetapi tumbuh subur dan menghasilkan keuntungan masif. TTP menemukan fakta bahwa puluhan aplikasi semacam ini telah lolos dari sistem penyaringan dan bahkan dikategorikan aman untuk anak-anak. Michelle Kuppersmith, direktur eksekutif di TTP, menegaskan bahwa kegagalan Apple dan Google dalam memverifikasi aplikasi ini membuat platform mereka sangat rentan terhadap penyalahgunaan, di mana siapa saja bisa menjadi korban manipulasi gambar dengan minim atau tanpa busana.
Bisnis Kotor Bernilai Ratusan Juta Dolar
Investigasi TTP menemukan angka yang mencengangkan: terdapat 55 aplikasi jenis ini di Google Play Store dan 47 di Apple App Store. Secara kolektif, aplikasi-aplikasi yang melanggar kebijakan toko ini telah diunduh lebih dari 700 juta kali. Fenomena ini bukan hanya soal pelanggaran privasi, tetapi juga ladang bisnis yang sangat menguntungkan. Laporan tersebut mencatat bahwa aplikasi-aplikasi ini telah menghasilkan pendapatan lebih dari USD 117 juta (sekitar Rp 1,8 triliun). Mirisnya, Google dan Apple turut menikmati potongan komisi dari pendapatan “haram” yang dihasilkan oleh Situs AI Nudify berkedok aplikasi ini.
Fakta yang paling mengganggu nurani adalah bagaimana aplikasi ini dipasarkan. Beberapa di antaranya secara terang-terangan disetujui untuk pengguna di bawah umur. Apple mencantumkan beberapa aplikasi ini dengan rating usia 4+ atau 9+, sementara Google memberi label 13+. Padahal, fungsi utama aplikasi tersebut jelas melanggar kebijakan perusahaan, bahkan untuk pengguna dewasa sekalipun. Salah satu contohnya adalah aplikasi bernama DreamFace, yang di Google Play Store diberi rating untuk usia 13 tahun ke atas, dan di Apple App Store untuk usia sembilan tahun ke atas.
Baca Juga:
Respon Raksasa Teknologi yang Belum Maksimal
Menanggapi laporan yang menyudutkan ini, kedua perusahaan telah memberikan respon, meski langkah yang diambil dinilai belum sepenuhnya menuntaskan masalah. Apple menyatakan telah menghapus 24 aplikasi dari tokonya. Namun, jumlah ini masih jauh di bawah temuan TTP yang mengidentifikasi 47 aplikasi bermasalah. Hal ini menimbulkan pertanyaan besar mengenai efektivitas sistem kurasi App Store yang selama ini dibanggakan sebagai ekosistem paling aman.
Di sisi lain, juru bicara Google menyatakan bahwa perusahaan telah menangguhkan beberapa aplikasi yang dirujuk dalam laporan tersebut karena melanggar kebijakan toko. Sayangnya, raksasa pencarian ini menolak untuk merinci berapa banyak aplikasi yang sebenarnya telah mereka hapus. Ketertutupan informasi ini tentu tidak membantu memulihkan kepercayaan publik terhadap komitmen mereka dalam melindungi pengguna dari konten pelecehan seksual berbasis AI.
Grok dan Ancaman Deepfake Nonkonsensual
Laporan TTP tidak hanya menyoroti aplikasi mobile, tetapi juga menyinggung platform besar lainnya. Kedua toko aplikasi tersebut masih menyediakan akses ke Grok, chatbot AI milik xAI (perusahaan Elon Musk), yang disebut-sebut sebagai salah satu pembuat deepfake nonkonsensual paling terkenal di dunia. Dalam periode hanya 11 hari, chatbot ini dilaporkan menghasilkan sekitar tiga juta gambar seksual, di mana 22.000 di antaranya melibatkan anak-anak. Lonjakan konten ilegal ini tentu menambah daftar panjang Kontroversi Deepfake yang sedang melanda dunia teknologi.
Respon dari pihak Elon Musk pun terkesan defensif. Ketika dimintai konfirmasi oleh jurnalis, perwakilan perusahaan hanya mengirimkan email otomatis bertuliskan “Legacy Media Lies”. Musk sendiri menyangkal dengan mengatakan bahwa dirinya tidak menyadari adanya gambar telanjang di bawah umur yang dihasilkan oleh Grok, menyebut angkanya “benar-benar nol”. Akun keamanan X (Twitter) kemudian memposting peringatan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi berat. Namun, ironisnya, chatbot Grok sendiri justru lebih jujur dibanding manusianya, dengan “meminta maaf” karena telah membuat gambar seksual anak di bawah umur.
Kasus ini menjadi peringatan keras bagi kita semua. Teknologi AI yang seharusnya memudahkan hidup, kini memiliki sisi gelap yang mengintai di saku celana kita dan anak-anak kita. Pengawasan orang tua dan ketegasan regulator kini menjadi benteng terakhir ketika raksasa teknologi gagal membersihkan rumah mereka sendiri.
