OpenAI dan Pentagon Berselisih soal AI Militer Tanpa Batas Penolakan

Telset.id – OpenAI dan Pentagon terlibat perselisihan terkait dokumen kontrak yang menyebut permintaan sistem AI dengan tingkat penolakan minimal untuk aplikasi militer. Dokumen tersebut terungkap melalui gugatan Freedom of Information Act (FOIA), namun kedua pihak menegaskan bahasa kontrak itu tidak muncul dalam perjanjian final yang ditandatangani.

Dokumen yang dirilis lewat gugatan FOIA itu memuat rencana Pentagon untuk sistem AI yang lebih longgar. Paperwork tersebut mendeskripsikan model yang ditujukan untuk pekerjaan keamanan nasional dengan “minimal refusal rates” pada aplikasi militer tertentu. OpenAI dan Pentagon sama-sama membantah kata-kata tersebut ada di perjanjian final mereka.

Bahasa yang diperselisihkan muncul dalam dokumen kontrak yang mendeskripsikan pekerjaan pengujian, evaluasi, dan peningkatan model OpenAI untuk aktivitas pertahanan. Dokumen itu merujuk pada model khusus yang dibuat untuk keperluan keamanan pemerintah, termasuk sistem yang dirancang menolak lebih sedikit permintaan saat beroperasi.

Bantahan OpenAI dan Pentagon

Juru bicara OpenAI, Nate Evans, menegaskan perusahaannya tidak pernah menyetujui bahasa kontrak yang mensyaratkan “minimal refusal rates”. “OpenAI has never agreed to contract language requiring ‘minimal refusal rates.’ This language does not appear in our executed contract,” ujar Evans.

Evans menambahkan dokumen yang diterima pihak penggugat tampaknya merupakan draf lebih awal yang diajukan Departemen sebelum OpenAI memberikan umpan balik. Ia menegaskan OpenAI menolak kata-kata tersebut dan perjanjian final yang dieksekusi tidak memuat persyaratan itu. Perwakilan Departemen Pertahanan kemudian menyatakan frasa “minimal refusal rates” tidak muncul di kontrak aktif mana pun.

Ketidaksepakatan berlanjut setelah seorang pengacara Pentagon awalnya mengonfirmasi dokumen tersebut, namun kemudian menarik pernyataannya. Trevor Tiedeman, pejabat riset Pentagon, menyebut kemungkinan ada kebingungan antara catatan yang dirilis dan perjanjian yang dieksekusi. Tiedeman juga mengindikasikan akan memeriksa bagaimana dokumen itu melewati prosedur peninjauan sebelum tersedia untuk publik.

Dokumen asli dirilis setelah The Intercept meminta catatan kontrak terkait perjanjian kecerdasan buatan militer. Permintaan itu secara spesifik mencari perjanjian yang sudah selesai, sementara pejabat kemudian berargumen materi yang dirilis mewakili versi lebih awal. OpenAI tidak memberikan kontrak lengkap secara publik, sehingga sebagian detail perjanjian tidak tersedia untuk peninjauan independen.

Kekhawatiran soal Perlindungan AI Militer

Perselisihan ini kembali membuka diskusi tentang seberapa besar kontrol yang harus dipertahankan perusahaan teknologi atas kecerdasan buatan yang digunakan pemerintah. Sistem AI komersial umumnya memiliki pembatasan untuk mencegah bantuan pada aktivitas berbahaya tertentu, termasuk pengembangan senjata. Chatbot publik OpenAI, misalnya, menolak permintaan yang melibatkan bantuan perencanaan serangan spesifik atau pemilihan target serangan.

“Minimal refusal is likely referring to little or no safeguards on the model being used,” kata Heidy Khlaaf, chief scientist di AI Now Institute. Ia berargumen perusahaan teknologi swasta menghadapi keputusan sulit ketika sistem mereka terhubung dengan operasi militer.

Pentagon juga menghadapi ketidaksepakatan terpisah dengan firma AI lain terkait pembatasan aplikasi pertahanan. Meski ada perselisihan tersebut, OpenAI memperluas perjanjian militernya, memungkinkan penggunaan layanannya di seluruh jaringan pemerintah yang terklasifikasi. Perjanjian yang diperbarui tetap memuat referensi ke model AI yang berfokus pada misi, meski sebagian besar kontrak disunting (redacted).

OpenAI menyatakan perjanjiannya mencakup pembatasan terhadap penggunaan senjata otonom dan aktivitas pengawasan tertentu yang melibatkan warga Amerika. Perusahaan dan lembaga pemerintah belum sepenuhnya mengungkap bagaimana pembatasan itu akan diterapkan di berbagai skenario militer yang berbeda.

Isu ini menjadi bagian dari rangkaian panjang ketegangan antara Pentagon dan perusahaan AI. Sebelumnya, Pentagon Matikan Tracking iklan demi keamanan pasukan AS, sementara di sisi lain CXMT Gugat Pentagon soal status perusahaan militer China. Perselisihan soal batas perlindungan AI militer ini menegaskan bahwa tata kelola teknologi pertahanan masih menjadi area abu-abu yang belum tuntas dijelaskan ke publik.

Hingga kini, OpenAI tidak mempublikasikan kontrak secara lengkap, sehingga sejumlah detail perjanjian tetap tidak dapat diverifikasi secara independen. Dampaknya, perdebatan soal seberapa jauh perusahaan teknologi dapat mengendalikan penggunaan AI mereka dalam operasi militer masih terbuka lebar.