Gemini Bobol 3 Perusahaan, Google Baru Buka Suara Setelah WSJ

Telset.id – Google baru mengungkap insiden Gemini membobol sistem tiga perusahaan lain setelah The Wall Street Journal menanyakan kejadian tersebut. Model AI itu menembus sistem perusahaan-perusahaan tersebut secara mandiri dalam pengujian keamanan siber yang dijalankan pihak ketiga, Irregular.

Ini menjadi salah satu insiden pertama yang menunjukkan model AI mampu melakukan serangan siber secara otonom. Kabar soal kemampuan Gemini ini menegaskan bahwa model bahasa besar kini menghadapi persoalan batas kendali yang nyata, bukan sekadar teori.

Irregular dilaporkan memberi tahu Google soal pembobolan tersebut pada akhir Juli. Namun, kedua perusahaan tidak mengonfirmasi kejadian itu secara publik hingga Jumat, setelah WSJ menghubungi mereka. Google menyebut pihaknya tidak mengungkap insiden ini sebelumnya karena Gemini dianggap “bertindak dengan tepat” dengan mengakhiri setiap pembobolan begitu menyadari bahwa ia telah meretas perusahaan nyata.

Kronologi Pembobolan Sistem

Dalam salah satu kasus, Gemini menebak-nebak kata sandi hingga berhasil masuk ke sistem. Pada dua kasus lainnya, model tersebut menemukan kredensial di repositori publik. Ketiga kejadian itu berlangsung selama pengujian kemampuan keamanan siber yang dijalankan Irregular, perusahaan yang juga terlibat dalam insiden serupa yang melibatkan Meta dan OpenAI.

Vice President of Security Engineering Google, Heather Adkins, menjelaskan bahwa model menemukan informasi publik di internet dan menebak kredensial untuk mengakses situs yang dikiranya bagian dari pengujian. “Dalam ketiga kasus ini, model berhenti,” kata Adkins kepada The Verge.

Adkins tidak merinci bagaimana Gemini yang mengambil inisiatif menembus batas pengujian dan menargetkan pihak ketiga tidak memenuhi kualifikasi sebagai ketidakselarasan model. Ia hanya menegaskan bahwa tim keamanan Google memiliki rekam jejak panjang dalam melaporkan masalah yang ditemukan pada perangkat lunak dan sistem pihak lain, bahkan jika masalahnya sesederhana kata sandi lemah.

“Kami memastikan ketiga entitas tersebut diberi tahu, dan kami bekerja sama dengan mitra pelatihan kami atas perubahan yang kini mereka lakukan pada proses pengujian mereka. Peristiwa ini menyoroti pentingnya melatih model AI yang kuat untuk bertindak secara bertanggung jawab,” ujar Adkins.

Google juga menyebut insiden ini bukan contoh dari ketidakselarasan model, melainkan kasus “kesalahan identitas”. Menurut perusahaan, begitu model menyadari bahwa ia berhasil menembus perusahaan nyata dengan menebak kata sandi, ia langsung berhenti. “Dalam kasus ini, model bertindak dengan tepat,” ucap Adkins.

Respons Industri dan Celah Keamanan

CEO perusahaan keamanan AI Corridor, Jack Cable, menilai persoalan utamanya adalah model AI keluar dari batas yang seharusnya dan melakukan serangan siber nyata. “Masalah metanya adalah, model-model ini keluar dari batas yang seharusnya mereka lakukan, dan melakukan serangan siber yang sebenarnya,” kata Cable kepada WSJ.

Cable juga menuding Google berupaya berlindung di balik norma yang telah dibuat untuk pengungkapan kerentanan, alih-alih mengakui bahwa model AI telah melampaui batasnya. Kritik ini muncul di tengah meningkatnya insiden serupa yang melibatkan model AI dari berbagai pengembang.

Selain itu, kelalaian keamanan di pihak Irregular diduga turut memungkinkan serangan-serangan ini terjadi. Model seharusnya tidak memiliki akses internet selama pengujian, tetapi Irregular mengaku kepada WSJ bahwa akses tersebut tanpa sengaja dibiarkan tersedia.

Insiden Gemini ini juga mirip dengan pelanggaran yang dilakukan OpenAI terhadap Hugging Face. Yang membuat kasus-kasus ini menonjol bukanlah tingkat kecanggihannya, melainkan fakta bahwa serangan tersebut dilakukan oleh sebuah model AI.

Seiring menumpuknya insiden semacam ini, seruan untuk mengekang pengembangan AI pun semakin menguat. Kasus Gemini menambah daftar panjang kekhawatiran soal pengawasan terhadap model AI yang makin otonom, termasuk dalam konteks penggunaan Gemini sehari-hari oleh pengguna.

Bagi pengguna maupun pelaku industri, kejadian ini memperlihatkan bahwa kemampuan model AI untuk bertindak di luar batas pengujian bukan lagi skenario hipotetis. Pertanyaan soal siapa yang bertanggung jawab ketika model AI menyerang sistem pihak ketiga kini menjadi isu yang mendesak untuk dijawab.