Reddit Gunakan LLM untuk Perangi Spam AI secara Efektif

Telset.id – Reddit mengumumkan keberhasilannya memanfaatkan large language models (LLM) untuk memerangi spam yang justru banyak dibuat menggunakan teknologi serupa. Langkah ini menjadi strategi baru platform media sosial dalam menghadapi gelombang konten palsu di era kecerdasan buatan.

Dalam beberapa tahun terakhir, kemudahan akses terhadap LLM yang kuat telah mempermudah aktor jahat untuk menyebarkan spam di internet. Jika Anda menghabiskan sekitar sepuluh menit di internet dalam beberapa tahun terakhir, Anda pasti tahu bahwa spam dan konten bot telah menjadi masalah yang lebih besar dari sebelumnya.

Reddit menyatakan bahwa mereka mengembangkan alat dengan LLM untuk mengurangi spam, yang sebagian besar justru dibuat dengan LLM. Situasi ini cukup ironis, namun di era AI, platform tidak punya pilihan selain melawan api dengan api.

Menurut platform tersebut, Reddit memblokir 23 juta tampilan spam per hari dan menangkap sekitar 25.000 posting serta komentar spam baru setiap harinya. Platform media sosial telah membangun alat pengurangan spam otomatis selama bertahun-tahun, namun Reddit mengklaim alat terbaru ini menangkap spam dengan tingkat yang lebih tinggi.

“Kami memanfaatkan LLM untuk menangkap pola perilaku palsu yang sangat halus dan terkoordinasi serta hype buatan yang sebelumnya luput dari sistem lama,” demikian bunyi posting blog Reddit.

Perusahaan mengklaim telah mengurangi paparan pengguna terhadap spam sebesar 20% dari Januari hingga Maret dibandingkan tiga bulan sebelumnya. Ini menunjukkan efektivitas pendekatan berbasis AI dalam membersihkan platform dari konten berbahaya.

Platform seperti YouTube, Meta, dan Instagram mengizinkan pengguna untuk memposting konten buatan AI selama mereka mengungkapkannya. Sementara itu, TikTok bahkan membiarkan pengguna mengatur seberapa banyak konten buatan AI yang ingin mereka lihat.

Kemampuan platform untuk mendeteksi konten buatan AI dengan lebih cepat juga berarti mereka memiliki potensi untuk menandai konten yang melanggar aturan, seperti ujaran kebencian, dengan lebih cepat. Namun, para pakar platform terus mengingatkan bahwa moderasi konten AI harus dipasangkan dengan moderasi manusia untuk mendapatkan hasil yang paling efektif.

Pendekatan Reddit ini menunjukkan bagaimana platform media sosial besar beradaptasi dengan tantangan baru yang justru diciptakan oleh teknologi AI itu sendiri. Dengan memanfaatkan LLM untuk mendeteksi pola spam yang lebih halus, Reddit berhasil meningkatkan efektivitas sistem moderasi kontennya secara signifikan.

Sebelumnya, Reddit bisa diakses lagi di Indonesia setelah sempat diblokir selama 11 tahun. Kehadiran kembali platform ini di Indonesia membawa tantangan tersendiri dalam hal moderasi konten, terutama dengan meningkatnya konten buatan AI.

Reddit juga diwajibkan untuk mendaftar sebagai Penyelenggara Sistem Elektronik (PSE) demi perlindungan pengguna di Indonesia. Hal ini menunjukkan bahwa platform global harus mematuhi regulasi lokal sambil terus meningkatkan sistem keamanan dan moderasi kontennya.

Dalam konteks yang lebih luas, langkah Reddit menggunakan LLM untuk melawan spam mencerminkan tren industri di mana perusahaan teknologi semakin mengandalkan AI untuk mengelola platform mereka. Namun, pendekatan ini bukannya tanpa risiko, seperti yang ditunjukkan oleh riset Cornell yang menemukan bahwa AI mudah dikerjai oleh pola tertentu di Reddit.

Reddit sendiri pernah menjadi biang kerok dalam insiden penyebaran hoaks melalui AI DuckDuckGo yang menyebarkan berita palsu tentang Trump meninggal karena rabies. Insiden ini menunjukkan betapa rentannya sistem AI terhadap informasi yang salah jika tidak dimoderasi dengan baik.

Ke depannya, tantangan terbesar bagi platform seperti Reddit adalah menjaga keseimbangan antara efektivitas moderasi AI dengan kebebasan berekspresi pengguna. Meskipun LLM mampu mendeteksi pola spam yang lebih halus, risiko kesalahan deteksi tetap ada.

Reddit mengklaim bahwa alat baru ini menangkap spam pada tingkat yang lebih tinggi dibandingkan sistem sebelumnya. Dengan memblokir 23 juta tampilan spam per hari, platform ini menunjukkan komitmennya untuk menjaga kualitas konten bagi pengguna setianya.

Namun, para ahli terus mengingatkan bahwa teknologi AI bukanlah solusi sempurna. Moderasi konten yang efektif membutuhkan kombinasi antara kecerdasan buatan dan pengawasan manusia. Tanpa keterlibatan manusia, sistem AI rentan terhadap kesalahan dan bias.

Langkah Reddit ini juga menjadi pelajaran berharga bagi platform media sosial lainnya. Di era di mana konten buatan AI semakin sulit dibedakan dari konten asli, pendekatan proaktif seperti yang dilakukan Reddit menjadi semakin penting.

Dengan pengurangan paparan spam sebesar 20% dalam tiga bulan, Reddit membuktikan bahwa strategi melawan api dengan api dapat berhasil. Namun, pertanyaan besarnya adalah apakah pendekatan ini dapat dipertahankan dalam jangka panjang seiring dengan perkembangan teknologi AI yang semakin canggih.

Satu hal yang pasti, pertempuran antara pembuat spam dan platform media sosial akan terus berlanjut. Di satu sisi, teknologi AI memudahkan pembuatan spam dalam skala besar. Di sisi lain, teknologi yang sama juga dapat digunakan untuk mendeteksi dan memblokir spam tersebut.

Reddit telah memilih untuk berada di garis depan pertempuran ini dengan mengembangkan alat LLM khusus untuk deteksi spam. Keputusan ini menunjukkan bahwa platform tersebut serius dalam menjaga kualitas pengalaman pengguna di tengah banjir konten buatan AI.

Bagi pengguna Reddit di Indonesia, kabar ini tentu menjadi angin segar. Dengan sistem moderasi yang lebih baik, pengalaman berselancar di platform ini diharapkan menjadi lebih nyaman dan bebas dari gangguan spam.

Reddit sebelumnya juga pernah mengalami gangguan massal bersama X, di mana 35 ribu pengguna melaporkan gangguan. Kejadian tersebut menunjukkan betapa pentingnya infrastruktur yang stabil bagi platform media sosial besar.

Dengan berbagai tantangan yang dihadapi, Reddit terus berinovasi untuk memberikan layanan terbaik bagi penggunanya. Penggunaan LLM untuk memerangi spam hanyalah salah satu dari sekian banyak langkah yang diambil platform ini untuk meningkatkan kualitas platformnya.

Ke depannya, kita mungkin akan melihat lebih banyak platform media sosial yang mengadopsi pendekatan serupa. Pertempuran melawan spam dan konten buatan AI yang merugikan akan menjadi salah satu isu utama dalam industri teknologi di tahun-tahun mendatang.

Reddit telah menunjukkan bahwa dengan pendekatan yang tepat, teknologi AI dapat menjadi alat yang efektif untuk melawan dampak negatif dari teknologi AI itu sendiri. Ini adalah contoh nyata dari konsep “fight fire with fire” yang diterapkan dalam konteks moderasi konten digital.