AI dan Manusia Kolaborasi Temukan Celah Keamanan Shared-Parser Confusion

Telset.id – Peneliti keamanan James Kettle mengungkapkan temuan besar di konferensi Black Hat, Las Vegas, pada Rabu lalu. Temuan tersebut bernama Shared-Parser Confusion, sebuah area kerentanan baru yang ditemukan melalui kolaborasi antara kecerdasan buatan (AI) dan manusia. Temuan ini menunjukkan bahwa AI memiliki peran penting dalam keamanan siber, tetapi masih membutuhkan bantuan manusia untuk hasil yang optimal.

Kettle memaparkan hasil penelitiannya yang menunjukkan kemampuan AI yang berkembang pesat dalam keamanan siber, sekaligus keterbatasannya. Ia menyimpulkan bahwa AI saat ini mungkin minim kemampuan dan sangat terbatas dalam merancang jalur serangan baru secara sepenuhnya otonom. Namun, ketika dipasangkan dengan bimbingan dan wawasan manusia di momen-momen penting, AI menjadi mitra yang sangat kuat dalam mengonseptualisasikan dan menemukan strategi peretasan baru.

Setelah bertahun-tahun meneliti kerentanan keamanan web, Kettle mengungkapkan area kerentanan baru yang ia juluki Shared-Parser Confusion. Kerentanan ini muncul dari temuan AI tentang server web yang menggunakan kode bersama untuk memproses permintaan dan respons.

“Ini masalah yang sangat besar, karena jika dipikir-pikir, permintaan ke situs web sepenuhnya tidak tepercaya, bisa berupa apa saja, tetapi respons tepercaya,” kata Kettle kepada WIRED menjelang presentasinya di konferensi. “Jadi ini adalah permukaan serangan utama dan berpotensi meluas ke berbagai jenis serangan.”

Temuan ini berasal dari eksperimen berbulan-bulan yang dimulai pada September 2025 menggunakan model terbaru dari Anthropic dan OpenAI saat itu. Kettle ingin mengeksplorasi kemampuan AI dalam melakukan penelitian keamanan teoretis, tetapi dengan cepat menyadari bahwa sistem tersebut mencoba menganggap penelitian yang sudah ada sebagai temuan orisinal dengan mengembalikan temuan tentang topik yang sangat esoteris dan sulit diverifikasi.

Dengan pemikiran ini, ia memutuskan untuk mempersempit cakupan tesnya agar sistem AI bekerja dalam bidang keahlian keamanan webnya sendiri. Dengan cara ini, ia memiliki kendali penuh atas materi dan tahu bahwa AI tidak bisa menipunya. Selain itu, Kettle menyadari bahwa dengan mensintesis metodologi penelitiannya sendiri dan melatih model dengan data tersebut, ia bisa menyelidiki lebih dalam kemampuan sistem untuk mengekstrapolasi temuan secara mandiri.

“Saya tertarik mendorong AI hingga batas absolut untuk melihat di mana ia gagal dan di mana Anda membutuhkan manusia,” ujar Kettle. “Masih sangat sedikit orang yang berbicara tentang batasan tersebut, terutama di ruang keamanan, karena tidak ada insentif untuk membicarakan sudut pandang itu. Semua orang ingin terlihat sebagai AI native, bukan membicarakan di mana sistem mereka gagal total.”

Seiring Kettle mengasah eksperimennya—memberikan model lebih banyak data metodologis dan parameter yang lebih halus—serta seiring waktu berlalu dan model yang lebih kuat muncul, sistem tersebut menghasilkan semakin banyak temuan dengan kecepatan yang jauh melampaui kemampuannya. Hal ini menciptakan apa yang ia gambarkan sebagai putaran umpan balik penelitian yang produktif.

“Sangat menarik melalui proses ini. Sistem menemukan temuan penting mungkin setiap dua hari tanpa saya masuk ke sistem, sampai-sampai membuat saya cemas,” kata Kettle. “Seperti saya hampir tidak ingin tahu. Ada begitu banyak petunjuk penelitian sehingga Anda merasa FOMO karena tidak mengeksplorasi semuanya, jadi itu memaksa Anda untuk mengotomatiskan lebih banyak analisis.”

Selain menemukan lebih banyak contoh terbukti dari kerentanan tertentu dalam beberapa bulan daripada yang mungkin ia temukan dalam beberapa tahun, Kettle juga berharap sistem AI dapat menemukan kelas baru dari jenis bug tersebut. Dan dalam beberapa hal, ia berhasil, tetapi temuannya terkait dengan jenis bug yang sangat langka dan tidak benar-benar dapat dieksploitasi pada satu target rentan yang tersedia.

Kettle menekankan bahwa temuan Shared-Parser Confusion sangat signifikan, meskipun merupakan kolaborasi manusia/AI, karena mengilustrasikan realitas bagaimana sistem AI dapat berkontribusi paling kuat dalam pekerjaan keamanan siber saat ini, baik untuk peretasan defensif maupun ofensif.

“AI tidak bisa membuktikannya sendiri, tetapi menganalisis beberapa temuan nyata yang terbukti dan menghasilkan hipotesis, dan saya mengevaluasi serta mengonfirmasinya,” jelas Kettle. “Itu mungkin akan menjadi penemuan dengan dampak jangka panjang terbesar. AI tidak bisa melakukannya sendiri, tetapi saya pasti tidak akan pernah menemukannya sendiri. Bahkan jika Anda memberi saya satu baris dari [dokumentasi], saya tidak akan melihatnya. Tetapi bersama-sama kami berhasil menemukannya.”

Penelitian Kettle menyoroti dinamika baru dalam keamanan siber. Alih-alih menggantikan manusia, AI justru berfungsi sebagai asisten yang memperluas kemampuan peneliti. Temuan Shared-Parser Confusion menjadi bukti bahwa kolaborasi manusia dan mesin dapat menghasilkan penemuan yang tidak mungkin dicapai secara individual.

Dalam konteks yang lebih luas, temuan ini relevan dengan perkembangan keamanan perangkat mobile. Industri telekomunikasi dan teknologi terus berinovasi dalam melindungi pengguna dari ancaman siber yang semakin kompleks. Pendekatan kolaboratif antara AI dan manusia seperti yang dilakukan Kettle dapat menjadi model bagi pengembangan strategi keamanan di masa depan.

Kettle mengakui bahwa proses penelitian ini mengubah cara pandangnya terhadap AI. Sistem yang digunakannya tidak hanya menemukan kerentanan yang sudah diketahui, tetapi juga membantu merumuskan hipotesis tentang kelas kerentanan yang sama sekali baru. Namun, validasi akhir tetap membutuhkan keahlian manusia.

Pentingnya temuan ini terletak pada pemahaman bahwa AI memiliki potensi besar dalam penelitian keamanan, tetapi masih ada batasan yang jelas. Sistem AI belum mampu sepenuhnya otonom dalam menemukan jalur serangan baru. Diperlukan intervensi manusia untuk mengevaluasi, mengonfirmasi, dan mengembangkan temuan AI menjadi strategi keamanan yang dapat diterapkan.

Shared-Parser Confusion sendiri merujuk pada kerentanan yang muncul ketika server web menggunakan kode bersama untuk memproses permintaan dan respons. Karena permintaan ke situs web tidak tepercaya, sementara respons dianggap tepercaya, celah ini berpotensi menjadi permukaan serangan yang luas untuk berbagai jenis serangan siber.

Temuan ini juga menunjukkan bahwa penelitian keamanan siber dapat dipercepat secara signifikan dengan bantuan AI. Kettle menemukan lebih banyak contoh kerentanan dalam beberapa bulan daripada yang mungkin ia temukan dalam beberapa tahun tanpa bantuan AI. Namun, kecepatan ini juga menimbulkan tantangan baru, seperti perasaan kewalahan karena terlalu banyak petunjuk penelitian yang harus dianalisis.

Ke depannya, pendekatan kolaboratif manusia-AI seperti yang dilakukan Kettle kemungkinan akan menjadi standar dalam penelitian keamanan siber. Kombinasi antara kecepatan dan cakupan analisis AI dengan kreativitas dan penilaian manusia terbukti efektif dalam menghasilkan temuan-temuan penting.

Bagi para profesional keamanan siber, temuan ini menjadi pengingat bahwa AI bukanlah pengganti, melainkan alat yang dapat memperkuat kemampuan mereka. Dengan memanfaatkan AI secara tepat, peneliti dapat memperluas cakupan penelitian mereka dan menemukan kerentanan yang sebelumnya tidak terdeteksi.

Kettle sendiri mengakui bahwa ia tidak akan pernah menemukan Shared-Parser Confusion tanpa bantuan AI. Namun, AI juga tidak dapat mengonfirmasi dan memvalidasi temuannya tanpa keahlian manusia. Kolaborasi keduanya menghasilkan penemuan yang berdampak besar bagi dunia keamanan siber.