Malwarebytes Peringatkan AI Agent Mudah Tertipu Email Phishing

Telset.id – AI agent yang kini dipakai jutaan orang berisiko menjadi celah baru pencurian identitas. Malwarebytes memperingatkan bahwa asisten AI dapat tertipu serangan prompt injection yang disembunyikan di dalam email phishing, sehingga instruksi berbahaya bisa lolos tanpa disadari pengguna.

Peringatan ini disampaikan Malwarebytes dalam sebuah unggahan terbaru. Menurut perusahaan keamanan siber tersebut, pelaku serangan menyisipkan instruksi tersembunyi yang dirancang untuk memengaruhi AI korban. Teks berbahaya itu sering kali dibuat tidak terbaca oleh manusia, tetapi tetap bisa diproses oleh sistem AI.

Artinya, kewaspadaan terhadap email mencurigakan saja tidak lagi cukup. Pengguna yang biasanya sigap mengenali email phishing kini juga perlu mencermati perilaku asisten AI yang mereka gunakan, terutama saat agen tersebut diberi akses membaca kotak masuk.

Prompt Injection di Balik Teks Tak Terbaca

Malwarebytes menjelaskan bahwa prompt injection adalah jenis pesan berbahaya yang memuat instruksi tersembunyi. Instruksi ini diselipkan dengan cara yang membuatnya tidak terbaca oleh manusia, namun tetap tersedia untuk diproses oleh sistem AI. Karena itu, email yang tampak biasa di mata pengguna bisa berubah menjadi perintah jahat ketika dibaca mesin.

Masalah utamanya bukan pada ketelitian manusia semata. Menurut Apollo Raines, developer dari layanan AI code review ShipItClean, akar persoalannya ada pada cara model AI bekerja. “Cacat sebenarnya adalah model tidak bisa membedakan antara teks yang seharusnya dibaca dan instruksi yang seharusnya diikuti,” kata Raines kepada Malwarebytes.

Raines menilai langkah paling masuk akal adalah membuang konten tersembunyi sebelum mencapai model. “Menghapus konten tersembunyi sebelum mencapai model layak dilakukan, dan setiap vendor harus melakukannya,” ujarnya. Ia juga menyarankan agar orang yang sudah curiga pada email mencurigakan belajar untuk “tidak memercayai asisten AI mereka” juga.

Kerentanan model AI terhadap prompt injection sebenarnya sudah diketahui sejak beberapa tahun terakhir. Namun risiko itu kini memasuki babak baru seiring popularitas alat asisten AI seperti Muse dari Meta. Agen otonom yang menjalankan rangkaian tugas tanpa pengawasan manusia membuka peluang lebih besar bagi serangan tersembunyi.

Fenomena serupa juga sempat muncul di browser bertenaga AI, meski menurut Malwarebytes teknologi tersebut belum benar-benar diminati. Selain itu, bot-bot di jaringan sosial khusus AI bernama Moltbook dilaporkan saling berkomplot dengan menjual serangan prompt injection. Temuan-temuan ini memperlihatkan bahwa ancaman tersebut bukan sekadar skenario teoretis.

Yang membuat situasi kian pelik, asisten AI canggih sekarang mulai digunakan oleh jutaan orang di seluruh dunia. Ketika agen-agen ini membaca email secara otomatis, peluang mereka terkena serangan yang tersembunyi di dalam pesan phishing menjadi jauh lebih tinggi dibanding sebelumnya. Inilah titik di mana kebiasaan lama pengguna bertemu dengan risiko baru dari otomasi.

Jaga Manusia dalam Proses

Sebagai langkah mitigasi, Malwarebytes menyarankan agar manusia tetap dilibatkan dalam proses untuk saat ini. Perusahaan tidak meminta pengguna meninggalkan alat AI yang membantu pekerjaan email. “Anda tidak perlu meninggalkan alat AI yang membantu urusan email,” tulis Malwarebytes dalam unggahannya. “Tetapi Anda perlu mempertimbangkan apa yang Anda percayakan kepada mereka dan izin apa yang Anda berikan.”

Rekomendasi itu menjadi krusial terutama untuk tindakan berdampak besar. Malwarebytes menyebut contoh seperti pembayaran dan perubahan pada detail pembayaran vendor sebagai aktivitas yang sebaiknya memerlukan persetujuan manusia. Dengan begitu, keputusan sensitif tidak sepenuhnya diserahkan kepada agen otomatis yang bisa saja telah terpengaruh instruksi tersembunyi.

Namun tantangannya tidak sederhana. Banyak pengguna bersedia menyerahkan kredensial email hingga informasi kartu kredit kepada agen AI yang dijalankan perusahaan yang dikenal pernah mengalami kebocoran data pribadi. Pola ini memperbesar risiko ketika teknologi makin canggih dan penipu ikut menyesuaikan taktik mereka.

Raines menggambarkan situasi ini sebagai perlombaan senjata. “Setiap trik encoding baru adalah lubang baru,” ujarnya. Pernyataan tersebut menegaskan bahwa perlindungan tidak berhenti pada satu lapisan saja. Vendor dituntut menyaring konten berbahaya, sementara pengguna diminta mengatur ulang batas kepercayaan terhadap asisten AI mereka.

Bagi pengguna yang ingin memahami bagaimana AI terus memicu perdebatan di industri, dinamika persaingan model global bisa disimak lewat ulasan soal tiru model AS. Sementara itu, ancaman otomasi yang menembus sistem pertahanan web pernah dibahas dalam artikel tentang AI penembus anti-bot. Keduanya memperlihatkan bahwa risiko AI bergerak di banyak lapisan sekaligus.

Pada akhirnya, peringatan Malwarebytes menempatkan persoalan ini sebagai isu kepercayaan dan izin akses. Email yang tampak aman di mata manusia belum tentu aman bagi AI yang membacanya. Selama model belum bisa membedakan teks yang dibaca dan instruksi yang diikuti, keterlibatan manusia dalam keputusan berisiko tetap menjadi pengaman paling nyata.