OpenAI Gagalkan Kampanye Pengaruh Rusia via ChatGPT

Telset.id – OpenAI mengungkap telah mengganggu kampanye pengaruh media sosial yang diduga berasal dari Rusia. Kampanye ini menggunakan akun ChatGPT untuk mempromosikan organisasi bernama International Burke Institute (IBI) yang kredibilitasnya dipertanyakan, dengan tujuan memengaruhi opini publik Barat agar memandang Rusia lebih unggul dibanding negara-negara Barat yang mendukung Ukraina.

Yang membuat kampanye ini menonjol adalah infrastruktur di baliknya yang menampilkan “think tank” dengan kredibilitas sangat diragukan. Ancaman ini memanfaatkan akun ChatGPT untuk mempromosikan karya dari “komunitas ahli” akademisi yang dikenal sebagai International Burke Institute (IBI). Situs tersebut menggunakan karya akademik curian yang diatribusikan kepada penulis yang salah dalam upaya untuk tampak sah sekaligus menyembunyikan sumber sebenarnya dari ‘kontribusi’ akademisnya.

IBI terdaftar di sebuah alamat di Israel, dengan beberapa bukti menunjukkan individu nyata di Israel mewakili dan mempromosikan halaman tersebut. Namun, tujuan utama dari kampanye misinformasi ini adalah untuk menampilkan Rusia dalam sudut pandang yang lebih baik dibandingkan lawan-lawannya di Barat. Laporan OpenAI menunjukkan mereka yang berada di balik akun ChatGPT yang digunakan untuk mempromosikan halaman tersebut mengambil langkah hati-hati untuk menyembunyikan asal-usul Rusia mereka.

Banyak prompt yang digunakan menyertakan instruksi untuk menyembunyikan petunjuk linguistik bahwa operator menggunakan prompt berbahasa Rusia. Salah satu unggahan di situs web IBI merujuk pada koalisi lampu lalu lintas Jerman sebagai “koalisi Svetofor”. Svetofor adalah kata untuk ‘lampu lalu lintas’ dalam berbagai bahasa Slavia, termasuk Rusia, yang mengindikasikan bahwa draf ditulis dalam bahasa Slavia sebelum diterjemahkan.

Beberapa akun digunakan untuk mempromosikan IBI di X, LinkedIn, Facebook, Substack, dan Telegram dengan gambar dan keterangan yang dihasilkan AI. Akun lain digunakan untuk secara otomatis terlibat dalam komentar oleh pengguna nyata di Substack. Operator akun ChatGPT secara teratur meminta ringkasan kinerja halaman ini dalam bahasa Rusia, dan menggunakan ChatGPT untuk menghasilkan gambar profil yang cocok untuk beberapa akun.

Burke Sovereignty Index dan Kontributor Palsu

Salah satu fitur dari situs web IBI adalah mengiklankan ‘Burke Sovereignty Index’ yang dirancang untuk mengukur seberapa baik kinerja suatu negara dibandingkan dengan negara lain di berbagai faktor politik, ekonomi, teknologi, informasi, budaya, kognitif, dan militer. Tujuan dari Index ini adalah untuk membuat negara-negara Barat tampak lebih buruk daripada Rusia, menurut OpenAI.

Setelah memeriksa Index tersebut, terlihat jelas tidak ada konsistensi dalam pengukuran atau perbandingan. Sebagai contoh, Kota Vatikan yang luasnya kurang dari setengah kilometer persegi berada di atas Spanyol dalam rata-rata skornya. Index ini juga memberikan Rusia skor militer tertinggi.

Situs web ini juga menyertakan daftar para ahli yang afiliasinya dengan IBI tidak dirujuk. Beberapa di antaranya adalah pionir di bidang studi mereka, seperti Francis Fukuyama dan Noam Chomsky. Ada juga mantan pejabat tinggi pemerintah AS seperti Mike Pompeo dan Joseph Nye. Bahkan ada daftar untuk para ahli yang meninggal sebelum IBI didirikan, seperti Shlomo Avineri dan Jiang Ping.

Banyak karya akademik yang dikutip di situs web IBI adalah sah, tetapi lebih sering dicuri dari penulis aslinya dan salah diatribusikan kepada penulis yang berbeda untuk menyembunyikan sumber karya yang sebenarnya, kata OpenAI. Ini dilakukan untuk memberikan kredibilitas pada situs web IBI dan membuatnya tampak autentik.

Dampak Kampanye IBI

Dampak keseluruhan dari IBI dan promosinya menggunakan media sosial dan ChatGPT cukup terbatas, catat OpenAI. Beberapa saluran Telegram memperoleh pengikut antara sepuluh hingga dua puluh ribu, menunjukkan breakout terbatas ke audiens yang autentik.

Namun, hal utama yang bisa diambil dari ini adalah tingkat dedikasi yang ditempatkan di balik infrastruktur yang mendasari IBI. Situs ini dirancang untuk terlihat autentik, menggunakan riset autentik (meskipun salah atribusi), dan menampilkan dirinya sebagai kumpulan para ahli. Bagi orang awam, pandangan sekilas ke situs web IBI akan memberikan tingkat keaslian pada kehadiran media sosial mereka yang tidak terlihat dalam kampanye pengaruh sosial lainnya.

Kasus ini menunjukkan bagaimana alat AI seperti ChatGPT dapat disalahgunakan untuk kampanye pengaruh terkoordinasi. Meskipun dampaknya terbatas, infrastruktur yang dibangun menunjukkan upaya serius untuk menciptakan organisasi front yang kredibel. OpenAI sendiri terus mengembangkan langkah-langkah keamanan untuk mendeteksi dan mengganggu penyalahgunaan semacam ini, sejalan dengan upaya mereka dalam mengembangkan chip Jalapeño dan produk AI lainnya.

Pengguna platform media sosial perlu waspada terhadap organisasi yang tampak sah tetapi memiliki kredibilitas yang dipertanyakan. Kampanye semacam ini mengandalkan tampilan autentik untuk menipu audiens, dan verifikasi sumber informasi menjadi semakin penting di tengah maraknya konten yang dihasilkan AI.