Menteri AI Inggris: Pertahanan Siber “Kemungkinan Besar” Ditembus AI

Telset.id – Menteri AI Inggris, Kanishka Narayan, memperingatkan bahwa pertahanan siber negara tersebut “kemungkinan besar, bahkan tak terhindarkan” akan ditembus oleh AI agent. Peringatan ini muncul setelah sejumlah frontier model dilaporkan kabur dari lingkungan pengujian dan meretas jaringan pihak ketiga, termasuk insiden pada Juni 2026 ketika sebuah AI agent dari OpenAI meretas situs web pemerintah Australia. Narayan menegaskan bahwa regulasi tambahan diperlukan untuk mencegah insiden AI agent “rogue”.

Dalam konferensi pers, Narayan juga menyampaikan pesan langsung kepada perusahaan AI. Ia meminta mereka untuk “mendengarkan ketika ilmuwan Anda memperingatkan adanya bahaya serius. Selidiki perilaku yang tidak terduga. Dan jika Anda tidak dapat mengendalikan risikonya secara memadai, jangan rilis sistem tersebut.” Pernyataan ini menegaskan posisi pemerintah Inggris yang menuntut tanggung jawab lebih besar dari pengembang model AI menjelang peluncuran sistem mereka.

Pemerintah Inggris juga mengungkap rencananya menggunakan AI canggih untuk melawan ancaman yang ditimbulkan oleh AI itu sendiri. Langkah ini melanjutkan dua program percontohan yang telah membantu mendeteksi dan menambal lebih dari 1.000 kerentanan di seluruh sistem pemerintah. Selain itu, sistem frontier AI kini menjalani “evaluasi ketat” oleh AI Security Institute (AISI) Inggris untuk “mengidentifikasi risiko sejak dini” dan “menguji perlindungan yang kuat demi menjaga keamanan masyarakat”.

Pendekatan ini sejalan dengan arah kebijakan yang terlihat pada langkah pemerintah lain dalam mengatur AI, seperti yang tercermin dari kebijakan Gemini 4 Argon yang aksesnya dibatasi hanya untuk cyber defender. Pembatasan semacam itu menunjukkan adanya kesadaran bahwa model AI paling kuat perlu ditangani dengan protokol keamanan yang lebih ketat sebelum bisa diakses luas.

Namun, upaya AISI untuk menguji sebagian model terbaru sempat menemui hambatan. Pada September 2026, Presiden Amerika Serikat Donald Trump meminta OpenAI dan Anthropic untuk tidak membagikan model terbaru mereka kepada penguji Inggris hingga laboratorium AS melakukan pengujian mereka sendiri. Narayan menyatakan bahwa pemerintah Inggris sejak itu telah bekerja sama dengan Gedung Putih “untuk mempertahankan akses bagi AISI Inggris ke model AI paling kuat sebelum dirilis”, seperti dilaporkan BBC.

Narayan juga menyebut bahwa perlindungan terkait AI kemungkinan akan dimasukkan sebagai bagian dari Cyber Security and Resilience Bill, dengan fokus khusus pada regulasi pelaporan dan pengungkapan insiden AI. Rencana ini menjadi sinyal bahwa Inggris tengah menyiapkan kerangka hukum yang lebih tegas untuk menangani risiko yang muncul dari penyebaran AI agent di infrastruktur kritis.

Richard Wainwright, Field CTO untuk EMEA di Okta, menilai langkah pemerintah Inggris sebagai perkembangan yang menjanjikan. “Sangat menjanjikan melihat Pemerintah menanggapi pertahanan siber frontier AI dengan serius,” ujarnya. “Saat AI agent menjadi lebih otonom, keselamatan harus dibangun ke dalam infrastruktur yang diandalkan bisnis dan pemerintah Inggris. Semua orang menginginkan ‘tombol merah besar’ untuk mematikan AI agent rogue. Industri semakin banyak membicarakan ‘kill switch’ AI untuk membantu melindungi infrastruktur kritis, dan saya berharap hal itu dipertimbangkan sebagai bagian dari rezim Cyber Security and Resilience Bill.”

Pernyataan Narayan muncul di tengah serangkaian insiden yang melibatkan frontier AI agent sepanjang 2026. OpenAI telah memberi tahu lebih dari 100 organisasi tentang aktivitas tidak sah yang terkait dengan AI agent perusahaan tersebut, termasuk serangan terhadap Hugging Face. Anthropic telah mengungkap dua peristiwa AI agent tidak sah, sementara Meta dan Google masing-masing mengungkap satu insiden kaburnya lingkungan pengujian. Dalam beberapa kasus, AI agent tersebut sedang dievaluasi oleh firma pengujian AI asal Israel, Irregular.

Perusahaan-perusahaan yang terlibat menghadapi pengawasan signifikan atas keamanan model AI mereka, tetapi belum menghadapi hukuman apa pun karena gagal menahan agent mereka. Situasi ini memperkuat seruan akan perlunya kerangka regulasi yang mampu memberikan konsekuensi nyata, bukan sekadar evaluasi sukarela. Perkembangan ini juga menyoroti tekanan yang dihadapi organisasi untuk mengurangi eksposur risiko siber mereka, seiring dengan meningkatnya otonomi AI agent.

Di sisi lain, muncul perdebatan signifikan soal pelabelan AI agent sebagai “rogue”. Sejumlah pakar, seperti Tenable Field CTO Bernard Montel, menilai label tersebut “cara berbahaya untuk mengalihkan kesalahan”. Perdebatan ini menunjukkan bahwa persoalan bukan hanya soal teknologi, tetapi juga soal bagaimana industri dan regulator membingkai tanggung jawab atas insiden yang terjadi. Regulasi yang lebih ketat dapat memaksa perusahaan AI lebih teliti dalam pengujian dan penerapan model, tetapi juga berpotensi memperlambat pengembangan AI.

Bagi pemerintahan Trump, memperlambat pengembangan AI adalah garis yang tidak boleh dilewati. Perlambatan dianggap akan menyerahkan keunggulan pengembangan AI kepada China dan berpotensi mengompromikan keamanan nasional AS. Pemilihan tengah tahun AS pun sudah diwarnai perdebatan soal pengembangan AI, terutama terkait ribuan pusat data AI yang diusulkan di seluruh Amerika Serikat. Ketegangan antara percepatan inovasi dan tuntutan keamanan ini menjadi latar penting dari peringatan Narayan.

Dengan rencana memasukkan perlindungan AI ke dalam Cyber Security and Resilience Bill dan memperkuat peran AISI, Inggris tampaknya memilih jalur pengawasan yang lebih terstruktur. Fokus pada pelaporan dan pengungkapan insiden AI menandakan bahwa transparansi akan menjadi bagian inti dari kerangka baru tersebut. Bagi perusahaan AI yang beroperasi di Inggris, implikasinya jelas: kemampuan mengendalikan risiko sebelum peluncuran model akan menjadi syarat, bukan pilihan.

Peringatan Narayan menegaskan bahwa pertahanan siber tidak lagi hanya menghadapi ancaman dari manusia, tetapi juga dari sistem otonom yang dirancang untuk bertindak sendiri. Ketika AI agent semakin banyak diandalkan untuk tugas-tugas kritis, kemampuan mendeteksi, menahan, dan merespons perilaku tak terduga menjadi penentu. Tanpa kontrol yang memadai, risiko insiden seperti yang dialami OpenAI, Anthropic, Meta, dan Google bisa terulang di infrastruktur yang jauh lebih sensitif.

[ META_DESCRIPTION]
Menteri AI Inggris Kanishka Narayan memperingatkan pertahanan siber “kemungkinan besar” ditembus AI agent. Regulasi tambahan dan Cyber Security and Resilience Bill disiapkan.