Laporan Intel AI Halusinasi Nyaris Picu Perang AS-China

Telset.id – Sebuah laporan intelijen yang dihasilkan sebagian oleh kecerdasan buatan (AI) nyaris memicu konflik bersenjata antara Amerika Serikat dan China. Laporan tersebut keliru menandai sebuah kapal China sebagai pengangkut komponen senjata nuklir, sehingga militer AS hampir melancarkan operasi penyergapan terhadap kapal itu. Insiden ini mencuat sebagai salah satu kegagalan intelijen paling serius akibat halusinasi AI dan mempertanyakan kesiapan pemerintah AS yang gencar mengadopsi teknologi ini.

Peristiwa bermula ketika seorang analis di US Special Operations Command Pacific meminta sebuah chatbot AI menyusun laporan mengenai muatan kapal China yang berlayar di Asia Barat. Chatbot yang tidak disebutkan identitasnya itu menggabungkan open-source intelligence dengan secret signals intelligence, lalu menyimpulkan bahwa kapal tersebut membawa komponen program senjata nuklir. Kesimpulan itu sepenuhnya keliru alias halusinasi AI.

Setelah menerima detail palsu tersebut, analis lantas memakai AI lagi untuk mengemasnya menjadi laporan intelijen militer standar, jenis dokumen yang dipercaya oleh petinggi militer untuk mengambil keputusan krusial. Berdasarkan laporan itu, para perwira menyiapkan operasi intersepsi dan penyitaan kapal. Pesawat AS sudah mengudara dan tentara bersenjata tengah bersiap naik ke kapal ketika halusinasi AI tersebut akhirnya terungkap.

Seorang sumber menyebut laporan intelijen itu “sepenuhnya salah” dan “hampir memulai perang” dengan China. CNN tidak dapat memastikan apa muatan kapal sebenarnya maupun alat AI apa yang digunakan analis tersebut, apakah produk komersial atau sistem yang dirancang khusus untuk pemerintah AS.

Insiden ini menyoroti risiko memasukkan AI ke dalam pekerjaan sensitif Departemen Pertahanan AS atau DoD. Sejak Januari, Menteri Pertahanan Pete Hegseth menerbitkan memo yang mengarahkan DoD menjadi “AI-first” dan bereksperimen dengan model dari perusahaan AI terkemuka AS. Kebijakan itu sempat menemui jalan buntu bersama Anthropic, yang menolak membiarkan militermenggunakan modelnya untuk pengembangan senjata otonom dan sempat dilarang sementara oleh pemerintah, namun tetap melahirkan sejumlah kemitraan AI lain.

SpaceXAI dilaporkan mencapai kesepakatan untuk mengizinkan militer memakai Grok pada Februari, sementara NVIDIA, Microsoft, dan Amazon menjalin kemitraan untuk menawarkan teknologi AI mereka kepada DoD pada Mei. Kesepakatan pemerintah semacam ini menguntungkan, tetapi memperluas adopsi AI jelas membawa risiko yang tidak dimiliki perangkat lunak enterprise biasa.

Alat AI disebut telah dipakai dalam pengeboman Iran dan serangan udara yang masih berlangsung terhadap kapal-kapal nelayan di Karibia. Seorang sumber militer menyatakan bahwa AI dalam penargetan jelas sedang meningkat, namun tidak ada panduan nyata soal bagaimana kehadiran manusia dalam proses itu akan mencegah korban sipil maupun fratrisida.

Seiring eksperimen AI besar-besaran Hegseth berjalan, kisah-kisah serupa soal nyaris celaka dan kegagalan intelijen yang merugikan diperkirakan bakal terus muncul. Kasus ini menegaskan bahwa penerapan AI di ranah pertahanan membutuhkan pengawasan ketat sebelum dampaknya meluas. Sebagai gambaran bagaimana teknologi yang sama juga menyentuh sektor lain, Komponen Kamera China pada drone Royal Navy dilaporkan mengirim sinyal ke China, sementara Infinix XBOOK 14 NEO bahkan mengusung standar ketahanan US military grade untuk perangkat konsumen.