Analis Pakai Chatbot, AS Hampir Invasi Kapal China

Telset.id – Sebuah asesmen intelijen yang salah hampir memicu invasi militer Amerika Serikat terhadap sebuah kapal China setelah analisis berbantuan AI keliru mengidentifikasi muatan kapal tersebut. Insiden ini terjadi selama konflik Iran dan mendorong persiapan untuk mencegat kapal sebelum pejabat menyadari adanya masalah serius pada informasi yang mendasarinya.

Sumber melaporkan kepada CNN bahwa personel bersenjata sedang bersiap untuk menaiki kapal sementara pesawat militer mendukung persiapan tersebut, menciptakan potensi konfrontasi berbahaya antara kekuatan besar. Sumber lain menyebut asesmen itu “sepenuhnya salah”, sementara CNN melaporkan sumber lainnya mengatakan insiden tersebut “hampir memulai perang”.

Analisis Berbantuan AI Hasilkan Asesmen Keliru

Episode ini dimulai ketika seorang analis memeriksa intelijen mengenai manifes kapal dan menggunakan chatbot untuk menafsirkan informasi tersebut. Sumber mengatakan sistem tersebut menggabungkan materi yang tersedia untuk publik dengan informasi sinyal rahasia sebelum menghasilkan asesmen yang salah tentang muatan kapal.

Analis tersebut kemudian menggunakan AI lagi untuk menyiapkan temuan dalam format intelijen standar yang didistribusikan di antara pejabat militer. Pejabat baru memeriksa informasi yang mendasarinya sesaat sebelum operasi yang direncanakan, mengungkapkan bahwa identifikasi muatan yang dilaporkan itu salah.

Materi persis yang salah diidentifikasi oleh chatbot tersebut belum diungkapkan secara publik, meninggalkan detail penting tentang kesalahan awal yang tidak tersedia. Pentagon dan komando militer yang bertanggung jawab atas operasi khusus Pasifik tidak memberikan komentar mengenai insiden tersebut.

Insiden ini muncul ketika militer AS memperluas penggunaan alat AI di seluruh intelijen, operasi, administrasi, dan pengambilan keputusan di medan perang. Pada Januari, Menteri Pertahanan Pete Hegseth mengumumkan strategi AI yang dimaksudkan untuk mempercepat penerapan di seluruh misi militer dan fungsi organisasi.

“Kami akan melepaskan eksperimen, menghilangkan hambatan birokrasi, memfokuskan investasi kami dan menunjukkan pendekatan eksekusi yang diperlukan untuk memastikan kami memimpin dalam AI militer,” kata Hegseth. Strategi tersebut mencakup program untuk pekerjaan intelijen, perencanaan operasional, fungsi perusahaan, dan akses yang lebih luas ke sistem AI generatif.

Departemen tersebut kemudian mengatakan lebih dari 1,3 juta personel telah menggunakan GenAI.mil, menghasilkan puluhan juta prompt dalam lima bulan. Angka ini menunjukkan skala adopsi AI yang sudah merambah ke berbagai lini operasional militer AS, termasuk yang berkaitan dengan pengambilan keputusan strategis.

Masalah Verifikasi yang Sulit

Kesalahan yang dilaporkan melibatkan lebih dari sekadar respons chatbot yang tidak akurat karena outputnya memasuki proses yang digunakan untuk keputusan militer yang berkonsekuensi besar. Begitu informasi yang salah muncul dalam asesmen formal, pejabat yang menerima dokumen tersebut harus menentukan apakah bukti yang mendasarinya mendukung kesimpulan tersebut.

Tidak ada informasi tentang prosedur verifikasi mana yang diterapkan sebelum asesmen mencapai personel yang mempersiapkan operasi maritim. Juga masih belum jelas apakah analis tersebut mengetahui bahwa chatbot telah memperkenalkan interpretasi yang salah sebelum laporan tersebut beredar.

Menurut CNN, organisasi militer yang berbeda menggunakan sistem AI yang berbeda, sementara pejabat telah menjelaskan praktik yang bervariasi untuk memeriksa informasi yang dihasilkan olehnya. Lingkungan yang terfragmentasi ini membuat sulit untuk mengidentifikasi satu proses verifikasi tunggal yang mengatur setiap produk intelijen berbantuan AI di seluruh militer.

Alat AI dapat membuat analisis militer lebih cepat dan lebih mudah, namun potensinya untuk kesalahan signifikan memerlukan verifikasi manusia yang ketat sebelum keputusan operasional. Kebutuhan itu menjadi lebih penting ketika intelijen menyangkut negara saingan, di mana asesmen yang salah yang melibatkan kapal militer dapat memicu pembalasan.

Serangan yang keliru kemudian dapat meningkatkan ketegangan antara negara-negara yang terlibat, berpotensi menghasilkan konfrontasi bersenjata yang lebih luas atau konflik politik dan militer yang berkepanjangan. Insiden ini menyoroti bagaimana integrasi AI ke dalam proses pengambilan keputusan militer membawa risiko yang membutuhkan pengawasan manusia yang cermat.

Seiring dengan percepatan adopsi teknologi, kebutuhan akan prosedur verifikasi yang konsisten menjadi semakin mendesak. Tanpa itu, kesalahan kecil dalam interpretasi data dapat berkembang menjadi krisis internasional yang tidak diinginkan.