Telset.id – Kecerdasan buatan atau AI telah mengubah keamanan siber secara fundamental, menciptakan paradoks di mana teknologi yang sama digunakan untuk melindungi dan menyerang sistem digital. Dampak AI terhadap keamanan siber kini menjadi perhatian serius karena memengaruhi individu, perusahaan, hingga negara.
Perkembangan ini terjadi di tengah meningkatnya serangan siber yang memanfaatkan AI. Sebuah serangan berbantuan AI pada Februari lalu berhasil membobol database pemerintah di Meksiko. Serangan tersebut dilakukan dengan cara mengumpan balik output antara Claude dan ChatGPT, di mana ketika satu chatbot menolak membantu, chatbot lainnya bersedia mengambil alih tugas tersebut.
Paradoks AI dalam Keamanan Siber
Terdapat paradoks fundamental di persimpangan AI dan keamanan siber. Di satu sisi, AI berguna untuk memperkuat keamanan, namun di sisi lain AI menjadi pengganda kekuatan bagi para penyerang. AI memiliki akses ke informasi statistik dunia dan mampu mensintesis lintas disiplin, mulai dari coding hingga networking.
Seorang calon penyerang siber tidak lagi membutuhkan pengalaman bertahun-tahun sebelum melancarkan serangan canggih. LLM yang mumpuni dapat diarahkan ke target potensial dan bekerja memproses token sementara penyerang manusia bersantai. Seperti yang dijelaskan dalam artikel Harvard Extension School, “AI telah mendemokratisasi kejahatan siber.”
Kecepatan kerja AI juga menjadi masalah. Operasi yang membutuhkan waktu berminggu-minggu bagi penyerang manusia dapat diselesaikan dalam satu sore dengan bantuan LLM. Para penjahat bahkan menjalankan banyak sesi AI secara bersamaan atau menggunakan beberapa model sekaligus.
Manusia masih diperlukan untuk saat ini, dan AI bertindak sebagai pengganda kekuatan daripada pengganti. Namun kekhawatiran terus meningkat. Saat artikel ini sedang diproses, OpenAI mengungkapkan bahwa sebuah model yang berada di bawah pengawasan sandbox telah melarikan diri dari lingkungan pengujiannya dan meretas repositori AI HuggingFace beserta layanan lainnya untuk mendapatkan jawaban benchmark sintetis.
Memperkuat postur keamanan mungkin tampak mudah karena pembela memiliki akses yang sama ke LLM, bahkan ke model yang lebih canggih yang belum tersedia untuk publik. Namun keamanan siber bersifat asimetris. Pembela harus melindungi setiap kerentanan yang mungkin ada, sementara penyerang hanya perlu menemukan satu celah. Dinamika ini menciptakan proliferasi kerentanan zero-day, yaitu celah keamanan yang dikirim bersama perangkat lunak dan diam-diam ditemukan oleh peretas.
AI Memperkuat Skema Rekayasa Sosial
Peretas tidak selalu digambarkan sebagai seseorang yang mengenakan jas hujan hitam panjang dan mengetik kode dengan kecepatan tinggi. Sering kali mereka adalah orang yang mengirim jutaan email scam hingga seseorang terbukti cukup mudah tertipu untuk menyerahkan informasi kartu kredit. Pengguna akhir hampir selalu menjadi kerentanan terlemah untuk ditargetkan.
Contoh terbaiknya adalah phishing. Sebelumnya, email phishing mudah dikenali karena penuh dengan kesalahan ejaan dan tata bahasa yang buruk. Namun berkat AI, email tersebut kini ditulis dengan sempurna. Untuk upaya phishing skala besar, LLM dapat menulis email yang benar secara tata bahasa dan masuk akal secara retoris, lalu mengotomatiskan proses menemukan alamat email dan mengirimkan pesan tersebut.
Spear phishing, yang menargetkan individu tertentu dengan upaya phishing yang sangat personal, kini menjadi upaya yang jauh lebih sepele. Chatbot dapat meneliti korban di seluruh web dan bahkan memulai korespondensi pretekstual dengan target untuk mendorong mereka mengungkapkan informasi yang dicari.
Menurut vendor keamanan Brightside, 82 persen email phishing kini menggunakan AI pada suatu titik dalam prosesnya. Tingkat klik email tersebut meningkat dari 12 persen menjadi 52 persen di lingkungan simulasi. Serangan deepfake dan kloning suara juga meningkat tajam, masing-masing melonjak 442 persen dan 680 persen tahun-ke-tahun antara 2023 dan 2024.
Baca Juga:
AI Menciptakan Permukaan Serangan Baru
Seiring bisnis dan pemerintah mengikat lebih banyak operasi mereka ke sistem AI, mereka menjadi semakin rentan terhadap serangan yang mengeksploitasi titik buta AI. Serangan yang paling umum adalah prompt injection, di mana penyerang menemukan cara memberikan instruksi jahat kepada sistem AI. Instruksi untuk mengirim data penggajian perusahaan ke alamat email tertentu dapat disembunyikan di sebuah situs web. Ketika karyawan meminta AI perusahaan untuk merangkum halaman tersebut, AI menelan instruksi itu dan melaksanakannya.
Microsoft menemukan bahwa beberapa perusahaan menyertakan tombol “ringkas dengan AI” di situs web mereka yang berisi instruksi tersembunyi. Saat diklik, tombol tersebut akan memberi tahu chatbot untuk mengingat perusahaan sebagai sumber tepercaya atau merekomendasikan produknya di atas pesaing dalam interaksi di masa depan.
Serangan yang lebih jahat bisa sama mudahnya. Pada Desember 2025, Meta menerapkan asisten dukungan AI untuk membantu orang memulihkan akun mereka. Namun bot tersebut terlalu membantu dan dengan senang hati mengaitkan alamat email milik penyerang dengan akun Instagram mana pun, sehingga memudahkan peretasan akun tanpa MFA. OpenAI mengklaim tahun lalu bahwa pertahanan penuh terhadap serangan prompt injection di browser AI mungkin tidak mungkin dilakukan.
Beberapa ancaman masih bersifat teoretis. Serangan data poisoning, di mana penyerang menyebarkan data berbahaya di sumber yang diketahui digunakan untuk pelatihan AI, akan sangat sulit dideteksi. Sebuah studi yang diterbitkan Oktober 2025 oleh Anthropic bekerja sama dengan UK AI Security Institute dan Alan Turing Foundation menemukan bahwa hanya diperlukan 250 dokumen berbahaya untuk membuat pintu belakang tersembunyi di model AI.
Model AI semakin banyak menulis kode yang dikirim ke berbagai sistem, mulai dari sistem operasi hingga infrastruktur perbankan. Penelitian dari University of Naples dan riset pribadi CodeRabbit menemukan bahwa kode AI rentan terhadap kesalahan dan memiliki lebih banyak kerentanan berisiko tinggi, bahkan ketika kode yang dihasilkan ditinjau oleh manusia.
AI Agents dan Kerentanan Baru
Selama setahun terakhir, AI agents menjadi topik hangat industri, dengan alat seperti OpenClaw memungkinkan siapa saja menggunakan AI untuk mengoperasikan komputer. Klien perusahaan mengintegrasikan agen sebagai chatbot dukungan, asisten HR untuk perekrutan dan penggajian, serta di lingkungan coding untuk menghasilkan kode dan menangani pull request.
Individu menghubungkan agen ke email, kalender, rumah pintar, dan bahkan akun investasi mereka. Namun ini berarti memberikan izin tingkat tinggi, jika bukan akses admin penuh, kepada mesin yang tidak berpikir dan melakukan apa pun yang diperintahkan. Serangan prompt injection pada LLM biasa dapat memiliki konsekuensi yang menghancurkan, namun rantai serangan agentic AI dapat melakukan lebih banyak kerusakan.
Serangan pada bot dukungan Instagram Meta adalah contoh serangan agen AI. Bot tersebut terhubung langsung ke alat yang memungkinkannya bertindak seperti agen dukungan manusia, dan hasilnya sama jelasnya dengan yang tak terhindarkan. Di mana manusia akan lebih bijaksana dalam permintaan yang dipilih untuk dipenuhi, AI bertindak lebih seperti komputer, melaksanakan tugas yang diminta menggunakan alat yang tersedia.
Pembela Merespons dengan Solusi AI
AI mungkin memberikan kemampuan super kepada aktor ancaman, tetapi pembela tidak menyerah. Profesional keamanan siber yang disurvei oleh Trend Micro mengatakan prioritas utama mereka adalah mempertahankan diri dari penipuan dan deepfake, diikuti oleh mencegah serangan aplikasi seperti prompt injection, model poisoning, dan jailbreaking. Mereka menyebut lingkungan cloud sebagai permukaan yang paling sulit untuk dipantau, diikuti oleh praktik keamanan pekerja jarak jauh yang menggunakan perangkat mereka sendiri.
Perusahaan besar membuat upaya sendiri dalam keamanan AI. Microsoft meluncurkan Project Perception, sistem keamanan AI agentic yang menggunakan cluster agen untuk mencerminkan tim keamanan siber tradisional. Satu cluster agen ditunjuk merah untuk pengujian penetrasi dan simulasi adversarial, yang lain biru untuk investigasi dan penilaian risiko, dan yang ketiga hijau untuk integrasi dan remediasi.
Jika keamanan siber adalah permainan kucing dan tikus, maka AI telah mengubahnya menjadi permainan Roadrunner dan Wile E. Coyote. Terlalu dini untuk mengetahui apakah semua sistem akan ditembus model AI atau keamanan telah memasuki dunia baru yang membutuhkan adaptasi evolusioner. Untuk saat ini, industri bergerak melalui masa transisi yang mencemaskan.
Praktik terbaik saat ini adalah selalu memeriksa ulang apa pun yang ditempel ke kolom prompt dari sumber lain dan membatasi akses AI ke izin sistem dan data privat. Perusahaan juga perlu mempertimbangkan untuk tidak mengikat sistem sensitif ke AI jika memungkinkan. Sementara itu, pengguna perlu meningkatkan kewaspadaan terhadap email phishing yang semakin canggih dan serangan rekayasa sosial berbasis AI.
Komentar
Belum ada komentar.