OpenAI dan Pentagon Berselisih soal Batas Penolakan AI Militer

Telset.id – Dokumen Pentagon yang diperoleh melalui gugatan Freedom of Information Act (FOIA) mengungkap rencana penggunaan sistem AI OpenAI dengan batas penolakan minimal untuk aplikasi militer. OpenAI dan Pentagon sama-sama membantah bahwa ketentuan “minimal refusal rates” tercantum dalam kontrak final yang telah ditandatangani. Perselisihan ini mencuat ke publik setelah dokumen tersebut beredar dan memicu pertanyaan tentang sejauh mana perusahaan teknologi mengendalikan AI yang dipakai pemerintah.

Dokumen yang dirilis lewat gugatan FOIA itu memuat rencana Pentagon untuk sistem AI dengan pembatasan lebih longgar. Paperwork tersebut mendeskripsikan model yang ditujukan untuk kerja keamanan nasional dengan “minimal refusal rates” pada aplikasi militer tertentu. Bahasa kontrak yang disengketakan muncul dalam dokumen yang menjelaskan pekerjaan pengujian, evaluasi, dan peningkatan model OpenAI untuk aktivitas terkait pertahanan. Dokumen itu merujuk pada model khusus yang dibuat untuk penggunaan keamanan pemerintah, termasuk sistem yang dirancang menolak lebih sedikit permintaan saat beroperasi.

Namun, pejabat dari kedua organisasi kemudian menyatakan dokumen yang diperoleh melalui gugatan tersebut bukan versi kontrak final. “OpenAI tidak pernah menyetujui bahasa kontrak yang mensyaratkan ‘minimal refusal rates.’ Bahasa ini tidak muncul dalam kontrak kami yang dieksekusi,” kata Nate Evans, juru bicara OpenAI. “Dokumen yang Anda terima tampaknya merupakan draf awal yang diusulkan oleh Departemen sebelum kami memberikan umpan balik.” Evans menambahkan bahwa OpenAI menolak kata-kata itu dan menegaskan perjanjian final yang dieksekusi tidak memuat persyaratan tersebut.

Seorang perwakilan Departemen Pertahanan kemudian menyatakan frasa “minimal refusal rates” tidak muncul dalam kontrak aktif mana pun. Ketidaksepakatan berlanjut setelah seorang pengacara Pentagon awalnya mengonfirmasi dokumen tersebut, lalu menarik pernyataannya. Trevor Tiedeman, pejabat riset Pentagon, mengatakan mungkin ada kebingungan antara catatan yang dirilis dan perjanjian yang dieksekusi. Tiedeman juga mengindikasikan akan memeriksa bagaimana dokumen itu melewati prosedur peninjauan sebelum tersedia untuk publik.

Dokumen asli dirilis setelah The Intercept meminta catatan kontrak terkait perjanjian kecerdasan buatan militer. Permintaan itu secara spesifik mencari perjanjian yang telah selesai, sementara pejabat kemudian berargumen materi yang dirilis mewakili versi awal. OpenAI tidak memberikan kontrak lengkap secara publik, sehingga sebagian detail perjanjian tidak tersedia untuk peninjauan independen.

Kekhawatiran soal Pengamanan AI Militer

Perselisihan ini kembali memicu diskusi tentang seberapa besar kendali perusahaan teknologi terhadap kecerdasan buatan yang digunakan pemerintah. Sistem AI komersial biasanya menyertakan pembatasan yang dirancang mencegah bantuan untuk aktivitas berbahaya tertentu, termasuk pengembangan senjata. Chatbot publik OpenAI, misalnya, menolak permintaan yang melibatkan bantuan perencanaan serangan spesifik atau pemilihan target untuk serangan.

“Minimal refusal kemungkinan merujuk pada sedikit atau tidak adanya pengamanan pada model yang digunakan,” kata Heidy Khlaaf, kepala ilmuwan di AI Now Institute. Ia berargumen perusahaan teknologi swasta menghadapi keputusan sulit ketika sistem mereka terhubung dengan operasi militer.

Pentagon juga menghadapi ketidaksepakatan terpisah dengan firma AI lain terkait pembatasan aplikasi pertahanan. Meski ada perselisihan tersebut, OpenAI memperluas perjanjian militernya, memungkinkan penggunaan layanannya di seluruh jaringan pemerintah yang terklasifikasi. Perjanjian yang diperbarui tetap mempertahankan referensi ke model AI yang berfokus pada misi, meski bagian signifikan dari kontrak disunting. OpenAI menyatakan perjanjiannya mencakup pembatasan terhadap penggunaan senjata otonom dan aktivitas pengawasan tertentu yang melibatkan warga Amerika. Perusahaan dan lembaga pemerintah belum sepenuhnya mengungkap bagaimana pembatasan itu akan berlaku di berbagai skenario militer.

Perdebatan soal batas penolakan ini menjadi bagian dari rangkaian panjang ketegangan antara vendor AI dan institusi pertahanan. Sebelumnya, Pentagon juga terlibat dalam sejumlah langkah terkait teknologi dan keamanan, termasuk upaya keamanan pasukan AS melalui penonaktifan pelacakan iklan. Langkah tersebut menunjukkan bagaimana Pentagon semakin agresif mengatur teknologi yang menyentuh operasi militernya.

Di sisi lain, hubungan Pentagon dengan perusahaan teknologi lain juga menghadapi gesekan hukum. Produsen memori asal China, CXMT, bahkan menggugat Pentagon soal status perusahaan militer China yang dibebankan kepadanya. Gugatan itu menambah daftar sengketa antara institusi pertahanan AS dan perusahaan teknologi, baik domestik maupun asing.

Yang paling krusial dari perselisihan OpenAI-Pentagon adalah absennya transparansi kontrak. Karena OpenAI tidak merilis kontrak lengkap, publik tidak dapat memverifikasi secara independen klaim kedua pihak soal batas penolakan. Dokumen yang beredar hanya versi awal, sementara kontrak final tetap tertutup. Kondisi ini menyisakan pertanyaan terbuka tentang sejauh mana AI militer benar-benar dibatasi oleh pengamanan yang diklaim.

Bagi pengamat industri, kasus ini memperlihatkan pola berulang ketika perusahaan AI memperluas kerja sama dengan pemerintah. Ketegangan antara kebutuhan operasional militer dan komitmen pengamanan perusahaan menjadi titik rawan yang sulit diselesaikan lewat pernyataan publik semata. Tanpa akses ke kontrak final, klaim soal pembatasan senjata otonom dan pengawasan warga Amerika juga sulit diverifikasi secara independen.

Pernyataan resmi dari OpenAI dan Pentagon menegaskan bahwa frasa “minimal refusal rates” tidak ada dalam kontrak yang berlaku. Namun, dokumen yang bocor tetap menunjukkan bahwa bahasa tersebut pernah muncul dalam draf yang beredar. Perbedaan antara draf dan kontrak final inilah yang menjadi inti perselisihan, sekaligus alasan mengapa kasus ini menarik perhatian luas di kalangan pengamat kebijakan teknologi dan pertahanan.

Ke depan, perhatian akan tertuju pada bagaimana Pentagon meninjau ulang prosedur pelepasan dokumen, serta apakah OpenAI akan membuka lebih banyak detail kontraknya untuk peninjauan independen. Tanpa langkah tersebut, ketidaksepakatan soal batas penolakan AI militer berpotensi berlanjut tanpa titik terang, meski kedua pihak sama-sama membantah ketentuan yang disengketakan.