Telset.id – Kelompok teroris Islamic State (ISIS) kembali beradaptasi dengan tren digital dengan cara yang mengkhawatirkan. Institute of Strategic Dialogue (ISD) menemukan tren baru yang disebut “Slop Jihad,” di mana pendukung muda kelompok teror menggunakan kecerdasan buatan (AI) generatif untuk membuat konten kartun dan meme yang bertujuan meradikalisasi generasi baru secara online.
Salah satu contoh paling mencolok adalah video eksekusi yang awalnya dirilis ISIS lebih dari satu dekade lalu, kini direproduksi ulang sebagai kartun SpongeBob SquarePants. Dalam video yang dibagikan di TikTok tersebut, karakter ikan bergaya SpongeBob menurunkan kandang berisi figur berjubah oranye ke dalam air sementara Squidward merekam adegan itu. Konten semacam ini menandai pergeseran fundamental dalam estetika propaganda jihadis di dunia maya.
Laporan yang dibagikan secara eksklusif kepada WIRED ini menyoroti bagaimana teknologi AI generatif telah mengubah lanskap propaganda terorisme. Adam Hadley, direktur eksekutif Tech Against Terrorism, organisasi kontra-terorisme yang didukung PBB, menyatakan kekhawatiran utamanya adalah meningkatnya volume dan keragaman materi propaganda tersebut.
“Konten yang dibuat AI dengan gaya sangat menarik dapat membuat materi ekstremis Islam kekerasan lebih mudah diakses oleh audiens yang lebih muda sambil mengurangi visibilitas branding teroris konvensional,” ujar Hadley. “Pengguna mungkin menemukan pemuliaan pelaku kejahatan secara tidak sengaja melalui fan edits, kartun, meme, dan format hiburan lainnya, setelah itu interaksi dapat mendorong rekomendasi algoritmik ke propaganda yang lebih eksplisit.”
Transformasi Propaganda Digital Kelompok Teroris
Kelompok teror Islam telah lama menunjukkan kapasitas untuk beradaptasi dengan lingkungan media baru. Pada awal 2020-an, gerakan Alt Jihad mencoba mengadopsi estetika alt-right dalam konten terorisme Islam. Kini, penggunaan AI generatif membawa perubahan yang lebih radikal.
Pada 2024, program berita afiliasi Islamic State bernama News Harvest mulai menggunakan presenter berita yang dihasilkan AI untuk menyebarkan video propaganda dengan cepat dan murah. Namun menurut Moustafa Ayad, ketua riset global Islamisme dan kontra-terorisme di ISD, tampilan dan nuansa konten yang dihasilkan AI saat ini sangat berbeda dari sebelumnya.
“Ini hal baru dan masih terus berkembang, belum mencapai puncaknya,” kata Ayad. “Selalu ada konten berkualitas buruk yang diproduksi di ekosistem pendukung, tapi bukan SpongeBob SquarePants sebagai Islamic State.”
Alat AI generatif juga digunakan untuk mengubah konten resmi kelompok teror menjadi video animasi dengan cepat dan murah. Dalam satu contoh, akun TikTok mengubah buletin mingguan al-Naba dari ISIS menjadi anime. Ayad menemukan total 150 video Slop Jihad dari 71 akun dengan lebih dari 5,4 juta total penayangan di platform tersebut.
Tren Slop Jihad ini mendapat penolakan dari sebagian pendukung tradisional yang tidak menyukai estetika baru tersebut. “Tampaknya ada animositas terhadapnya, karena mereka tidak percaya produsen Slop Jihad adalah pengikut sejati,” Ayad menjelaskan, merujuk pada beberapa reaksi terhadap video SpongeBob. “Tapi beberapa akun yang membagikan propaganda resmi tradisional juga membagikan video yang lebih baru. Jadi tampaknya ada hubungan cinta-benci dengan konten Slop Jihad.”
Peran TikTok dalam Penyebaran Konten Ekstremis
TikTok telah menjadi pusat kampanye pesan online kelompok teror Islam selama bertahun-tahun, memanfaatkan rekomendasi algoritmik platform yang kuat untuk menyebarkan pesan mereka. Laporan Organisation for Economic Co-operation and Development (OECD) pada 2024 menemukan bahwa TikTok berada di antara 10 platform teratas yang digunakan untuk menyebarkan konten teroris dan ekstremis.
Ayad menemukan sejumlah terbatas video Slop Jihad di platform lain seperti Instagram dan Facebook, namun mayoritas besar video ditemukan di TikTok. Dia meyakini prevalensi konten ini di TikTok disebabkan oleh algoritma For You Page “yang sangat tertarget pada minat pengguna.” Dia juga mengaitkannya dengan tingginya tingkat AI slop umum di platform dan “ekosistem dukungan jihadis yang sudah mapan di platform.”
TikTok membantah temuan laporan tersebut. “Metodologi laporan yang tidak jelas ini mencapai kesimpulan yang kurang didukung dan tidak mencerminkan cara orang menggunakan platform kami,” kata juru bicara TikTok kepada WIRED. “Kami melarang keberadaan organisasi kekerasan dan kebencian, dan kami menggunakan kombinasi teknologi moderasi canggih, tim keamanan, dan kemitraan untuk secara proaktif mendeteksi dan menghapus konten yang melanggar.”
Puluhan video yang diidentifikasi ISD untuk laporan mereka dihapus setelah WIRED membagikannya dengan TikTok. Perusahaan menyatakan semua konten yang dirujuk dalam laporan telah dihapus dari platform.
WIRED juga membagikan laporan ISD kepada beberapa pakar eksternal tentang penggunaan media sosial oleh kelompok teror Islam untuk meradikalisasi pengikut, dan semua pakar secara luas setuju dengan temuan ISD. Aaron Zelin, peneliti yang mengkhususkan diri pada ekstremisme Jihadi di Washington Institute for Near East Policy, menyoroti kemudahan AI generatif memungkinkan pengguna yang lebih luas dan terdesentralisasi untuk me-remix figur dan citra jihadi.
“Yang perlu diperhatikan di sini adalah kemudahan AI generatif memungkinkan basis pengguna yang jauh lebih luas dan terdesentralisasi untuk me-remix figur dan citra jihadi, serta sejauh mana materi tersebut dapat beredar di komunitas yang minatnya mungkin didorong oleh kekerasan, trolling, atau ketenaran daripada komitmen aktual pada ideologi jihadi,” kata Zelin.
Meskipun Ayad mengakui bahwa beberapa konten Slop Jihad yang lebih liar mungkin sulit diidentifikasi terkait terorisme, banyak di antaranya sangat jelas mendukung kelompok dan ideologi teror. TikTok telah menghapus beberapa akun yang dipantau Ayad, namun banyak yang memiliki akun cadangan dan telah memberi sinyal kepada pengikut mereka di mana menemukan mereka jika terjadi penghapusan.
“Beberapa konten bertahan selama berbulan-bulan dan terus lolos dari upaya moderasi, baik itu sistem AI mereka yang dimaksudkan untuk mendeteksi materi teroris atau tidak,” kata Ayad. Fenomena ini menunjukkan tantangan besar bagi platform media sosial dalam menyeimbangkan kebebasan berekspresi dengan keamanan pengguna di tengah meningkatnya konten yang dihasilkan AI.
Perkembangan ini menjadi pengingat bahwa teknologi AI generatif memiliki sisi gelap yang perlu diwaspadai. Sementara tools AI baru terus bermunculan untuk berbagai keperluan produktif, kelompok teroris juga memanfaatkan teknologi serupa untuk tujuan mereka. Para ahli keamanan siber mengingatkan bahwa pengawasan tools AI menjadi semakin penting di berbagai sektor, termasuk dalam upaya deteksi konten berbahaya di platform digital.
Komentar
Belum ada komentar.