Telset.id – Bayangkan jika teknologi kecerdasan buatan yang Anda gunakan sehari-hari ternyata dimanfaatkan untuk membangun sistem pengawasan sosial yang invasif. Itulah yang baru saja diungkap oleh OpenAI, perusahaan di balik ChatGPT, dalam laporan terbarunya. Sebuah akun yang berasal dari China diduga menggunakan platform AI tersebut untuk merancang alat penyadapan media sosial yang menargetkan konten politik, etnis, dan agama.
Bocoran ini bukan sekadar isu kecil. OpenAI secara resmi mengonfirmasi bahwa mereka telah memblokir akun tersebut setelah menemukan bukti penggunaan ChatGPT untuk mengembangkan “probe” yang mampu merayapi platform seperti X, Facebook, Instagram, Reddit, TikTok, dan YouTube. Yang lebih mengkhawatirkan, pekerjaan ini diklaim dilakukan untuk klien pemerintah, meskipun OpenAI menyatakan tidak dapat memverifikasi secara independen apakah alat tersebut benar-benar digunakan oleh entitas pemerintah China.
Ini bukan kali pertama OpenAI menghadapi penyalahgunaan semacam ini. Perusahaan mengungkapkan bahwa mereka telah mengganggu upaya serupa sebelumnya tahun ini. Bahkan, dalam kasus terpisah, sebuah akun lain juga diblokir karena menggunakan ChatGPT untuk mengembangkan proposal alat yang dinamai “High-Risk Uyghur-Related Inflow Warning Model” – sistem yang dirancang untuk melacak pergerakan individu “terkait Uyghur”. China sendiri telah lama dituduh melakukan pelanggaran HAM terhadap Muslim Uyghur di wilayah Xinjiang.
Baca Juga:
Pola Ancaman Global yang Terus Berulang
Laporan terbaru OpenAI ini sebenarnya merupakan bagian dari upaya sistematis perusahaan dalam memerangi penyalahgunaan teknologi AI. Sejak Februari 2024, OpenAI mulai menerbitkan laporan ancaman secara rutin untuk meningkatkan kesadaran tentang aktor-aktor yang berafiliasi dengan negara yang menggunakan model bahasa besar untuk berbagai tujuan berbahaya.
Apa yang ditemukan cukup mengkhawatirkan. Selain kasus China, perusahaan juga menangkap developer berbahasa Rusia, Korea, dan China yang menggunakan ChatGPT untuk menyempurnakan malware. Jaringan yang lebih luas di Kamboja, Myanmar, dan Nigeria juga ketahuan memanfaatkan chatbot ini untuk menciptakan skema penipuan.
Namun ada secercah harapan. Menurut estimasi OpenAI sendiri, ChatGPT ternyata tiga kali lebih sering digunakan untuk mendeteksi penipuan daripada untuk menciptakannya. Fakta ini setidaknya memberikan gambaran bahwa teknologi ini memiliki potensi positif yang signifikan.
Operasi Pengaruh Online yang Meluas
Musim panas ini, OpenAI berhasil mengganggu operasi di Iran, Rusia, dan China yang menggunakan ChatGPT untuk menciptakan postingan, komentar, dan mendorong keterlibatan serta perpecahan sebagai bagian dari kampanye pengaruh online. Konten yang dihasilkan AI ini digunakan di berbagai platform media sosial, baik di negara asal maupun secara internasional.
Praktik semacam ini mengingatkan kita pada pentingnya regulasi yang tepat dalam penggunaan teknologi AI. Seperti yang terjadi di Mesir yang akhirnya mensahkan UU pengawasan media sosial, negara-negara mulai menyadari urgensi pengaturan ini.
Bahkan studi FTC mengungkap praktik pengawasan data oleh platform media sosial dan streaming menunjukkan betapa rentannya data pengguna terhadap penyalahgunaan. Kasus OpenAI ini semakin mempertegas bahwa kita tidak bisa lagi menganggap enteng masalah keamanan siber dan privasi data.
Tantangan Etis di Balik Kemajuan Teknologi
Pertanyaannya sekarang: sampai di mana batasan etis dalam pengembangan dan penggunaan AI? Ketika teknologi yang sama bisa digunakan untuk kebaikan dan keburukan, bagaimana kita memastikan bahwa kemajuan tidak mengorbankan nilai-nilai kemanusiaan?
Kasus penggunaan ChatGPT untuk pengawasan sosial ini mengingatkan pada keputusan Microsoft yang mencabut akses teknologi untuk pengawasan massal Israel di Palestina. Perusahaan teknologi besar mulai menyadari tanggung jawab mereka dalam mencegah penyalahgunaan produk mereka.
Di Indonesia sendiri, isu pengawasan konten di media sosial juga menjadi perhatian serius. Kemkominfo menyiapkan pemblokiran iklan rokok di media sosial berdasarkan aduan Kemenkes menunjukkan komitmen pemerintah dalam melindungi masyarakat dari konten berbahaya.
Laporan OpenAI ini seharusnya menjadi alarm bagi kita semua. Teknologi AI berkembang dengan kecepatan yang luar biasa, namun regulasi dan pengawasannya seringkali tertinggal. Kita perlu memastikan bahwa kemajuan teknologi tidak mengabaikan perlindungan terhadap hak asasi manusia dan privasi individu.
Mungkin inilah saatnya bagi komunitas global untuk duduk bersama dan menciptakan kerangka etika yang kuat untuk pengembangan dan penggunaan AI. Karena jika tidak, kita berisiko menciptakan monster yang tidak bisa kita kendalikan – teknologi yang seharusnya mempermudah hidup justru berbalik mengancam kebebasan dasar kita sebagai manusia.
