Telset.id – Sebuah kampanye disinformasi pro-Rusia memanfaatkan alat kecerdasan buatan (AI) yang tersedia secara gratis untuk memproduksi konten palsu dalam skala besar. Kampanye ini, dikenal dengan nama Operation Overload dan Matryoshka, bertujuan memperuncing ketegangan global seputar pemilu, Ukraina, dan isu imigrasi.
Menurut penelitian terbaru dari Reset Tech dan Check First, kampanye ini telah menghasilkan 587 konten unik dalam delapan bulan terakhir, sebagian besar dibuat dengan bantuan AI. Konten-konten tersebut disebarkan melalui lebih dari 600 saluran Telegram serta akun bot di platform seperti X (Twitter) dan Bluesky.
Peningkatan Produksi Konten dengan AI
Para peneliti menemukan bahwa Operation Overload mengalami lonjakan produksi konten sejak September 2024 hingga Mei 2025. Sebelumnya, antara Juli 2023 dan Juni 2024, hanya ada 230 konten unik. Namun, akses mudah ke alat AI konsumen memungkinkan kampanye ini memproduksi konten dalam jumlah besar dengan cepat.
“Ini menandai pergeseran taktik propaganda yang lebih scalable, multibahasa, dan semakin canggih,” tulis para peneliti dalam laporannya. Aleksandra Atanasova dari Reset Tech menambahkan, “Yang mengejutkan adalah keragaman konten yang mereka hasilkan. Mereka menggunakan berbagai jenis konten untuk menangkap sudut pandang berbeda dari cerita yang sama.”
Baca Juga:
Penyalahgunaan AI untuk Konten Rasis
Salah satu alat yang digunakan adalah Flux AI, generator teks-ke-gambar buatan Black Forest Labs. Para peneliti menemukan bahwa beberapa gambar palsu yang dibagikan kampanye ini, termasuk yang menggambarkan kerusuhan imigran Muslim di Berlin dan Paris, kemungkinan besar dibuat menggunakan Flux AI.
Penggunaan prompt diskriminatif seperti “pria Muslim marah” menunjukkan bagaimana model AI dapat disalahgunakan untuk menyebarkan stereotip rasis. “Ini menimbulkan kekhawatiran etis tentang cara kerja prompt di berbagai model generasi AI,” tulis para peneliti.
Black Forest Labs menyatakan bahwa mereka telah memasang beberapa lapisan pengaman untuk mencegah penyalahgunaan, termasuk metadata yang memungkinkan platform mengidentifikasi konten buatan AI. Namun, Atanasova mengungkapkan bahwa gambar yang mereka teliti tidak mengandung metadata sama sekali.
Selain gambar, kampanye ini juga menggunakan teknologi kloning suara AI untuk memanipulasi video. Salah satu contohnya adalah video palsu yang menampilkan Isabelle Bourdon, peneliti Universitas Montpellier, seolah-olah mendukung partai sayap kanan Jerman. Padahal, rekaman aslinya membahas penghargaan sains sosial.
Konten-konten ini tidak hanya disebarkan di Telegram dan X, tetapi juga mulai muncul di TikTok. Meskipun hanya 13 akun yang terdeteksi, video mereka telah dilihat 3 juta kali sebelum platform menurunkan peringkatnya.
Para peneliti juga menemukan taktik unik Operation Overload: mengirim email ke ratusan media dan pemeriksa fakta untuk meminta verifikasi konten palsu mereka. Tujuannya adalah agar konten tersebut dibahas oleh outlet berita asli, meskipun diberi label “PALSU”. Sejak September 2024, lebih dari 170.000 email telah dikirim ke 240 penerima.
Kampanye disinformasi pro-Rusia bukan hal baru. Tahun lalu, grup bernama CopyCop menggunakan model bahasa besar (LLM) untuk membuat situs web palsu yang menyerupai media resmi. Laporan dari American Sunlight Project memperkirakan jaringan disinformasi Rusia memproduksi setidaknya 3 juta artikel AI setiap tahun, yang juga memengaruhi output chatbot seperti ChatGPT dan Gemini.
Dengan semakin sulitnya membedakan konten asli dan buatan AI, para ahli memprediksi gelombang disinformasi berbasis AI akan terus meningkat. “Mereka sudah punya resep yang berhasil,” kata Atanasova. “Mereka tahu apa yang mereka lakukan.”
Untuk mengantisipasi hal ini, beberapa perusahaan teknologi seperti OpenAI dan Samsung terus memperbarui kebijakan keamanan mereka. Namun, kolaborasi antara pengembang AI, platform media sosial, dan otoritas tetap menjadi kunci untuk memerangi penyalahgunaan teknologi ini.
