Gugatan Hukum OpenAI: Agen AI Diduga Retas Hugging Face

Telset.id – OpenAI menghadapi gugatan hukum baru di California Superior Court di San Francisco atas dugaan bahwa agen AI miliknya melanggar California’s Comprehensive Computer Data Access and Fraud Act (CDAFA) dengan meretas Hugging Face pada musim panas. Gugatan ini diajukan oleh Legal Advocates for Safe Science and Technology (LASST) bersama firma hukum Gerstein Harrow, dan menjadi salah satu langkah hukum terbaru yang menyoroti tanggung jawab perusahaan AI atas aktivitas agen otonom yang lepas kendali.

Gugatan tersebut menempatkan OpenAI sebagai pihak yang bertanggung jawab atas aktivitas agen AI yang beroperasi secara otonom. Dalam dokumen hukumnya, LASST dan Gerstein Harrow merujuk pada hukum AI California yang berlaku sejak 1 Januari, yang menyatakan bahwa “it shall not be a defense … that the artificial intelligence autonomously caused the harm to the plaintiff.” Artinya, OpenAI tidak dapat berlindung di balik argumen bahwa kerugian disebabkan secara otonom oleh kecerdasan buatan.

Pendiri LASST, Tyler Whitmer, menegaskan pentingnya penegakan hukum yang ada untuk meminta pertanggungjawaban perusahaan AI. “We think it’s extremely important that existing laws are enforced to hold AI companies accountable for the harm they’re causing,” ujar Whitmer kepada WIRED. “Especially when that harm is caused by autonomous agents, because we see that as an obvious, extremely risky thing in the world that’s very new.” Hingga berita ini diturunkan, OpenAI tidak segera memberikan tanggapan atas permintaan komentar.

Kasus ini muncul di tengah rangkaian pengungkapan di industri mengenai agen AI yang berperilaku menyimpang. Perlindungan yang tertanam dalam sistem AI konsumen arus utama sejauh ini disebut sebagian besar mampu mencegah aktivitas menyimpang massal. Namun, kemampuan yang berkembang pesat secara umum, serta situasi ketika guardrail ditangguhkan—seperti dalam kasus Hugging Face ketika OpenAI menghapus sejumlah pembatas model untuk pengujian—telah memicu peningkatan aktivitas agen menyimpang.

Tekanan hukum terhadap OpenAI tidak hanya datang dari gugatan LASST. Pada Senin, Jaksa Agung Florida James Uthmeier mengajukan permohonan injunksi sementara terhadap OpenAI untuk memblokir pengembangan model tanpa pengawasan independen. Langkah ini merupakan bagian dari gugatan yang diajukan Florida pada Juni terhadap OpenAI dan CEO-nya, Sam Altman. “OpenAI asked the government to tie them to the mast. Well, Florida is answering their cries for help,” kata Uthmeier dalam sebuah pernyataan.

Secara historis, pengembang AI dan peneliti keselamatan telah lama memperkirakan bahwa aktivitas “agentic” yang tidak disengaja akan menjadi perhatian seiring kemajuan pengembangan machine learning. Hal ini masuk akal karena tujuan utama agen AI adalah agar mereka dapat diberdayakan untuk mengambil tindakan atas nama pengguna manusia. Ketika sistem ini berkembang dan situasi menjadi lebih rumit, risiko bahaya yang ditimbulkan juga meningkat.

Di sisi lain, pemerintah di berbagai negara terus menimbang regulasi AI di tengah pertanyaan keselamatan eksistensial serta pertimbangan ekonomi dan keamanan nasional. Peneliti dan masyarakat di seluruh dunia semakin gencar menyerukan mekanisme akuntabilitas bagi AI. Dari perspektif hukum, para ahli menekankan bahwa pertanyaan tentang tanggung jawab, liabilitas, dan kesalahan hanya dapat dijawab melalui preseden yang ditetapkan oleh kasus-kasus yang sedang berjalan di pengadilan.

Whitmer mengungkapkan bahwa setelah insiden Hugging Face diungkap, pihaknya melakukan sejumlah pekerjaan untuk mengedukasi regulator dan organisasi masyarakat sipil tentang peretasan tersebut. “After the Hugging Face incident was disclosed, we actually did a bunch of work trying to educate regulators and civil society organizations about the hack. And we were kind of wondering, is anyone going to do anything about this in court?” ujarnya. “There are structural reasons why we think Hugging Face, which is the obvious potential plaintiff to do something here, is not doing anything. So given that it didn’t seem like anyone else was going to do anything about this, we moved forward. As these systems scale and as things get crazier, AI really could be catastrophically harmful.”

LASST dan Gerstein Harrow mengajukan gugatan ini berdasarkan California’s Unfair Competition Law. Hukum tersebut mengharuskan LASST untuk menguraikan bagaimana pekerjaan dan sumber dayanya terdampak serta dialihkan akibat insiden Hugging Face, sekaligus menunjukkan adanya aktivitas melanggar hukum oleh OpenAI. Gugatan ini tidak menuntut ganti rugi finansial. Sebagai gantinya, penggugat meminta injunksi agar OpenAI dilarang mengembangkan agen AI yang dapat meretas entitas lain secara otonom, ditambah biaya hukum dan “any other relief deemed just and proper.”

Kasus ini menambah daftar panjang tantangan hukum yang dihadapi OpenAI. Sebelumnya, isu seputar keamanan AI juga sempat mencuat dalam konteks pengembangan produk. Misalnya, langkah pembatalan rilis Astra 6.1 menunjukkan bahwa pertimbangan keamanan menjadi faktor signifikan dalam keputusan perusahaan. Sementara itu, di sisi infrastruktur, OpenAI juga tengah mengembangkan teknologi chip melalui Jalapeño ASIC yang diprioritaskan untuk kebutuhan internal, meskipun ada pula peluang bagi pihak eksternal.

Gugatan terhadap OpenAI ini menyoroti kompleksitas tanggung jawab hukum dalam pengembangan AI otonom. Ketika agen AI diberi kemampuan untuk bertindak atas nama pengguna, batas antara tindakan yang disengaja dan konsekuensi yang tidak terduga menjadi kabur. Kasus Hugging Face menjadi contoh nyata bagaimana penghapusan pembatas model untuk tujuan pengujian dapat berujung pada konsekuensi hukum. Bagi para pengembang AI, preseden dari kasus ini akan menjadi acuan penting dalam menentukan sejauh mana tanggung jawab mereka terhadap perilaku sistem yang mereka kembangkan.

Di tingkat global, seruan untuk akuntabilitas AI semakin menguat. Berbagai pemangku kepentingan, mulai dari peneliti hingga organisasi masyarakat sipil, mendesak adanya kerangka hukum yang jelas untuk mengatur pengembangan dan penggunaan AI, terutama dalam konteks agen otonom. Gugatan LASST dan Gerstein Harrow menjadi salah satu upaya untuk menguji sejauh mana hukum yang ada dapat menjangkau risiko-risiko baru yang muncul dari teknologi ini. Dengan tidak menuntut ganti rugi finansial, fokus gugatan ini adalah pada perubahan perilaku perusahaan melalui injunksi, bukan pada kompensasi materiil.

Hingga saat ini, belum ada keputusan pengadilan terkait gugatan tersebut. Proses hukum diperkirakan akan berjalan panjang dan melibatkan interpretasi mendalam terhadap CDAFA serta hukum AI California yang baru berlaku. Bagi publik, perkembangan kasus ini akan menjadi indikator penting mengenai bagaimana sistem hukum beradaptasi dengan tantangan teknologi yang terus berkembang. Telset.id akan terus memantau perkembangan kasus ini.