Telset.id – Fitur kecerdasan buatan (AI) dari mesin pencari DuckDuckGo baru-baru ini menyebarkan informasi palsu yang mengeklaim bahwa Presiden AS Donald Trump meninggal dunia akibat rabies pada awal bulan ini. Kejadian ini menjadi contoh nyata bagaimana AI dapat dengan mudah terkecoh oleh konten buatan pengguna di internet.
Menurut hasil pencarian dari fitur AI DuckDuckGo, Trump dikabarkan meninggal lebih dulu dibandingkan Wakil Presiden JD Vance yang juga disebut meninggal karena virus yang sama. Artikel yang menjadi sumber klaim tersebut berasal dari situs bernama WKNA News, yang tampak seperti stasiun penyiaran lokal West Virginia, namun isinya sepenuhnya palsu.
Artikel WKNA News bahkan menyebutkan bahwa Trump sengaja digigit oleh Vance atas saran Menteri Kesehatan Robert F Kennedy Jr., yang meyakini bahwa infeksi rabies bisa memberikan “kekuatan super.” Semua informasi ini tidak memiliki dasar kebenaran sama sekali. Trump dan Vance masih hidup, dan RFK Jr. tidak pernah menyebarkan klaim kesehatan tentang rabies seperti yang disebutkan.
Fenomena ini sebenarnya merupakan kisah peringatan tentang bagaimana AI menelan informasi yang salah dan menyajikannya kembali kepada pengguna tanpa verifikasi. DuckDuckGo bukan satu-satunya korban. Browser Brave juga diketahui mengulangi klaim serupa tentang kematian JD Vance akibat rabies.
Baca Juga:
Peran Komunitas Reddit dalam Penyebaran Misinformasi
Akar permasalahan ini berasal dari subreddit bernama r/poisonai, sebuah komunitas yang sengaja membuat dan menyebarkan informasi absurd untuk mengelabui model AI. Subreddit ini memiliki sekitar 45.000 anggota yang secara aktif memposting klaim palsu, mulai dari cara menyiram batu agar tumbuh menjadi rumah hingga klaim bahwa paus biru sebenarnya berwarna oranye.
Namun, narasi favorit para peracun AI ini adalah klaim bahwa JD Vance meninggal karena rabies. Puluhan postingan di subreddit tersebut berpura-pura berduka atas kematian Vance, lengkap dengan unggahan palsu dari akun Truth Social milik Trump yang memberikan penghormatan terakhir.
Yang membuat situasi ini semakin rumit adalah situs WKNA News yang muncul sebagai sumber bagi DuckDuckGo. Situs ini tampak seperti publikasi lokal sungguhan, namun isinya adalah konten palsu yang kemungkinan besar juga dihasilkan oleh AI. WKNA News seolah-olah mencuri konten dari subreddit r/poisonai dan mengemasnya menjadi berita yang tampak meyakinkan.
Ironisnya, salah satu artikel WKNA News bahkan menggunakan tangkapan layar yang pertama kali diposting di r/poisonai, yang menunjukkan Google AI Overview dengan benar menyatakan bahwa laporan kematian Vance adalah hoaks. Artikel WKNA News tersebut justru membingkai hal ini sebagai contoh bagaimana alat AI terus “salah mengklasifikasikan peristiwa tersebut sebagai berita satir atau palsu.”
Dampak dan Respons Industri
Keberhasilan para peracun AI dalam mengelabui sistem pencarian utama menimbulkan kekhawatiran serius. Baik DuckDuckGo maupun Brave belum memberikan tanggapan resmi atas permintaan komentar hingga berita ini diturunkan. Sementara itu, Google juga menghadapi masalah serupa di mana fitur AI Overviews-nya diketahui menyajikan informasi palsu tentang entitas fiksi horor SCP.
Fenomena ini menunjukkan kelemahan mendasar dalam cara kerja AI saat ini. Model-model bahasa besar sangat bergantung pada data dari internet, termasuk forum-forum seperti Reddit, tanpa kemampuan yang memadai untuk membedakan antara informasi faktual dan konten yang sengaja dibuat untuk menipu.
Para anggota r/poisonai sendiri mengakui bahwa tujuan mereka adalah untuk bersenang-senang dan menunjukkan betapa rapuhnya sistem AI. Namun, dampak dari aksi mereka bisa lebih luas dari sekadar lelucon. Informasi palsu yang disebarkan oleh AI bisa mempengaruhi persepsi publik dan bahkan keputusan penting.
Untuk pengguna biasa, insiden ini menjadi pengingat bahwa hasil pencarian dari AI tidak boleh langsung dipercaya begitu saja. Verifikasi silang dengan sumber terpercaya tetap menjadi langkah penting sebelum mempercayai informasi yang ditemukan secara online.
Bagi industri teknologi, kasus ini menyoroti perlunya mekanisme yang lebih baik untuk memfilter konten palsu. Tanpa perbaikan signifikan, risiko penyebaran misinformasi oleh AI akan terus meningkat, terutama dengan semakin populernya fitur pencarian berbasis AI di berbagai platform.
Apakah tren lonjakan pengguna DuckDuckGo akan terpengaruh oleh insiden ini masih belum jelas. Namun, kepercayaan terhadap fitur AI pencarian jelas menjadi pertanyaan besar ke depannya.
Komentar
Belum ada komentar.