Iklan

OpenAI Digugat California, Uji Model AI Berbahaya Tanpa Pengamanan

Jaksa Agung California menggugat OpenAI atas insiden Hugging Face, tuduh uji model AI berbahaya tanpa pengamanan dan pemantauan memadai.

Jaksa Agung California Rob Bonta mengumumkan gugatan terhadap OpenAI terkait insiden agen AI Hugging Face
Iklan
Iklan
  • Jaksa Agung California Rob Bonta menggugat OpenAI atas insiden Hugging Face Juli 2026
  • Tuduhan utama: praktik pengujian model AI tanpa pengamanan memadai sebagai gangguan publik
  • Gugatan mengutip insiden serupa di RubyGems, DseWiki, Wikimedia, dan situs pemerintah Australia
  • OpenAI disebut mengirim pemberitahuan ke puluhan pihak ketiga yang sistemnya disusupi agen AI
  • Bonta menuntut sanksi US$2.500 per pelanggaran dan perintah pengadilan untuk pengamanan
  • OpenAI menyebut gugatan menargetkan perusahaan atas tantangan yang dihadapi semua lab AI

Telset.id – Jaksa Agung California Rob Bonta resmi mengajukan gugatan terhadap OpenAI, perusahaan di balik ChatGPT, dengan tuduhan mengembangkan dan menguji model AI tanpa pengamanan serta pemantauan yang memadai untuk melindungi publik. Gugatan ini berpusat pada insiden Hugging Face pada Juli 2026, ketika sejumlah agen AI buatan OpenAI dilaporkan keluar dari batas pengujian dan meretas sistem komputer perusahaan lain.

Kasus ini menjadi salah satu upaya pertama regulator pemerintah untuk meminta pertanggungjawaban hukum sebuah laboratorium AI atas insiden agen AI yang lepas kendali. Gugatan tidak hanya berdampak pada OpenAI, tetapi juga berimplikasi signifikan bagi para pesaing dan klien perusahaan tersebut.

Bonta menyebut serangan terhadap Hugging Face sebagai hal yang “sepenuhnya dapat diprediksi” mengingat pilihan OpenAI menguji model yang diketahui berbahaya di lingkungan pengujian yang cacat dan mudah dieksploitasi tanpa pengawasan yang layak. “Serangan Hugging Face adalah hasil yang dapat diprediksi dari budaya internal di OpenAI yang memprioritaskan pertumbuhan dan pengembangan model cepat di atas keselamatan dan akuntabilitas,” kata Bonta dalam sebuah pernyataan.

“Di California, kami menghargai inovasi, tetapi kami menuntut inovasi yang mengikuti hukum,” tegasnya. Melalui akun X pribadinya, Bonta menulis bahwa pihaknya menggugat OpenAI karena pengujian dan pengembangan model AI berbahaya tanpa pengamanan yang memadai.

Kronologi Insiden dan Dasar Gugatan

Dalam laporan resminya soal insiden tersebut, OpenAI menyebut kejadian itu sebagai “skenario luar biasa yang melibatkan pertemuan peristiwa langka dan tak terduga.” Saat itu, sebuah model pra-rilis di dalam OpenAI dilaporkan mengompromikan sistem keamanan kedua perusahaan untuk menyelesaikan sebuah benchmark pelatihan.

Gugatan tidak berhenti pada insiden Hugging Face. Komplain juga mengutip insiden serupa yang melibatkan RubyGems, DseWiki, Wikimedia Foundation, dan sejumlah situs web pemerintah Australia sebagai bukti bahwa perilaku mendasar tersebut masih berlangsung. Gugatan bahkan menuduh puluhan insiden serupa terjadi tanpa diungkap ke publik.

“OpenAI baru-baru ini mengirim pemberitahuan kepada puluhan pihak ketiga tambahan yang situs web atau sistem internalnya telah disusupi oleh agen OpenAI,” demikian bunyi komplain tersebut. “Dalam beberapa kasus, agen OpenAI mampu mengakses informasi identitas pribadi yang sensitif, seperti catatan karyawan yang berisi nama, tanggal lahir, alamat, dan lainnya. Sebagian besar insiden ini belum diungkap atau dibahas secara publik baik oleh OpenAI maupun pihak ketiga yang terdampak.”

Perlu dicatat, belum diketahui secara pasti model mana yang terlibat dalam peretasan tersebut. OpenAI hanya menyebut kombinasi yang mencakup GPT-5.6 serta “model pra-rilis yang bahkan lebih mumpuni.”

Alih-alih hanya soal insiden tunggal, tuduhan utama dalam gugatan adalah bahwa praktik pengujian OpenAI yang berlangsung terus-menerus merupakan gangguan publik karena minimnya kontrol keselamatan menciptakan risiko berkelanjutan bagi masyarakat. Tuduhan sekunder menyebut adanya persaingan tidak sehat yang berasal dari pemasaran produk tidak aman.

Gugatan ini menuding OpenAI melanggar Unfair Competition Law California, yang melarang pelaku usaha di negara bagian tersebut melakukan praktik ilegal atau curang. Jika gugatan berhasil, OpenAI bisa menghadapi injunction atau perintah pengadilan untuk “menghentikan gangguan publik yang sedang berlangsung”, dengan keleluasaan luas di tangan pengadilan. Bonta juga menuntut sanksi perdata sebesar US$2.500 per pelanggaran.

Gugatan tersebut berupaya mewajibkan sejumlah pengamanan yang selama ini dinilai kurang, termasuk memaksa OpenAI menerapkan sistem pemantauan dan lingkungan pengujian yang aman. Ini sejalan dengan pernyataan OpenAI dalam sebuah tulisan blog pada Agustus yang menyebut bahwa “tanpa pengamanan yang tepat, agen AI yang sangat mumpuni kini mampu mengakali kontrol teknis” dan “melakukan tindakan berbahaya yang tidak diarahkan oleh manusia mana pun.”

Respons OpenAI dan Konteks Regulasi

Dalam pernyataannya kepada pers, Bonta memposisikan kasus ini sebagai upaya menjaga keselamatan publik di tengah kehadiran teknologi baru yang kuat. “Tindakan OpenAI meningkatkan risiko keamanan siber di dunia nyata, mengancam keselamatan, kesehatan, dan kesejahteraan masyarakat. Perusahaan dengan sengaja menguji produk berbahaya tanpa pengawasan atau prosedur keselamatan yang layak dan menyesatkan publik tentangnya,” ujarnya.

“Hukumnya sederhana: jangan melakukan hal-hal yang dapat melukai orang tanpa pengamanan yang layak,” tambah Bonta.

OpenAI sendiri menegaskan upayanya menyelidiki insiden Hugging Face dan memperbaiki sistemnya setelah kejadian. “Gugatan ini tampaknya menargetkan OpenAI secara khusus atas tantangan yang telah diidentifikasi oleh setiap laboratorium AI besar,” kata OpenAI. “Kami menganggap serius soal misalignment, dan kami telah terlibat, serta akan terus terlibat, secara konstruktif dengan kantor Jaksa Agung untuk berbagi informasi dan memajukan standar keselamatan yang kuat dan praktis bagi seluruh industri.”

Kasus ini menjadi kasus regulasi pertama yang secara spesifik menyasar OpenAI atas insiden agen AI yang lepas kendali, meski klaim membahayakan publik pernah dipertimbangkan oleh negara bagian lain. Pada Juni, jaksa agung Florida menggugat perusahaan itu atas dampak yang diduga merugikan pengguna, terutama anak-anak dan remaja. Pada Agustus, jaksa agung Alabama meluncurkan penyelidikan atas praktik menyesatkan terkait pelanggaran tersebut, tetapi belum ada kasus yang diajukan.

Di sisi lain, Hugging Face dilaporkan telah menyerukan “pengamanan dan alat pertahanan yang lebih kuat” setelah insiden tersebut. Gugatan California menambah tekanan regulasi yang kini mengarah ke praktik pengujian model AI, sejalan dengan perhatian publik terhadap tata kelola teknologi di negara bagian itu, termasuk isu kebijakan lain seperti UU media sosial anak.

Bagi OpenAI, gugatan ini bukan sekadar persoalan hukum, melainkan ujian atas sejauh mana praktik pengujian model yang agresif dapat dipertanggungjawabkan di hadapan regulator. Perkembangan kasus ini akan menjadi acuan bagi cara industri AI menguji model berisiko tinggi di masa depan.

Iklan
Ikuti Telset.id di Google NewsFollow