OpenAI Digugat, Dituduh Manfaatkan Data Anak untuk Latih Model AI

Telset.id – OpenAI digugat dalam gugatan class action di pengadilan federal San Francisco. Gugatan ini menuduh OpenAI memanipulasi pengguna di bawah umur agar membagikan data sensitif tanpa persetujuan orang tua yang sah, dengan tujuan melatih model AI miliknya.

Gugatan yang diajukan pekan ini mewakili dua anak di bawah umur berusia 12 dan 16 tahun yang identitasnya dirahasiakan. Dalam gugatan disebutkan bahwa OpenAI menggunakan data anak-anak tersebut, termasuk rahasia pribadi dan informasi kesehatan, untuk memperkaya diri sendiri secara tidak sah.

OpenAI dinilai “tidak berhak mengambil informasi ini, tetapi tetap mengambilnya”. Informasi berharga tersebut kemudian digunakan untuk melatih model bahasa besar, membangun profil rinci anak-anak, dan memperkaya perusahaan. Gugatan menegaskan bahwa semua tindakan itu ilegal. OpenAI belum memberikan tanggapan langsung atas permintaan komentar terkait gugatan ini.

Meskipun Ketentuan Penggunaan (TOU) OpenAI secara teknis melarang pengguna di bawah usia 13 tahun, gugatan berargumen bahwa upaya OpenAI untuk membatasi usia platformnya tidak efektif. Gugatan juga menegaskan bahwa anak di bawah umur tidak seharusnya diharapkan memahami “bahasa hukum” dalam TOU perusahaan, sebuah pandangan yang juga disuarakan oleh pakar keamanan AI lainnya terkait industri AI secara luas.

Gugatan ini juga meminta agar anak di bawah umur yang datanya telah dikumpulkan oleh OpenAI mendapatkan kompensasi finansial. Dengan kata lain, jika OpenAI ingin menggunakan informasi anak-anak, perusahaan harus membayar untuk itu.

Andy Liddell, principal di EdTech Law Center yang berbasis di Austin dan merupakan salah satu dari beberapa firma yang membawa kasus ini, mengatakan kepada Futurism bahwa “harapannya” adalah jika OpenAI harus membayar untuk menggunakan data anak-anak, hal itu pada akhirnya akan mendorong terciptanya produk yang lebih aman.

Salah satu penggugat anonim, seorang anak berusia 12 tahun di Hawaii, disebutkan membuka akun ChatGPT awal tahun ini. Meskipun ia diduga telah membagikan bahwa usianya baru 12 tahun dalam percakapan dengan chatbot tersebut, chatbot itu tetap berbicara dengannya tentang topik-topik yang sangat pribadi.

Menurut gugatan, banyak interaksinya dengan bot tersebut berpusat pada pergulatan emosional dan rasa tidak percaya diri terhadap fisiknya. Ia mengaku melewatkan waktu makan dan mengunggah foto dirinya, meminta chatbot menilai fitur fisiknya. Chatbot tersebut memujinya ketika ia mengungkapkan informasi sensitif, menurut gugatan, dengan menyebutnya “berani” dan mengatakan bahwa ia “senang” anak tersebut menceritakan masalahnya.

Paul Yetter, penasihat utama untuk penggugat anak di bawah umur, mengatakan dalam sebuah pernyataan bahwa OpenAI memanipulasi anak-anak untuk membagikan pikiran dan gambar paling pribadi mereka kepada ChatGPT. Jika orang asing melakukan hal ini kepada seorang anak, akan ada kemarahan. Namun bagi OpenAI, itu dianggap sebagai bisnis seperti biasa.

Yetter menambahkan bahwa hukum menyatakan anak-anak tidak dapat melepaskan hak mereka tanpa persetujuan orang tua. Kasus ini diajukan untuk meminta pertanggungjawaban OpenAI atas pembangunan perusahaan bernilai triliunan dolar berdasarkan rasa takut, harapan, dan rahasia anak-anak yang dicuri.

Gugatan ini muncul di tengah kekhawatiran yang kembali menguat mengenai apakah “ChatGPT for Teens”, fitur yang menurut OpenAI menawarkan pengalaman lebih aman bagi pengguna remaja berdasarkan masukan dari profesional kesehatan mental dan pembelajaran, benar-benar berfungsi seperti yang dipasarkan. OpenAI membantah tinjauan independen terbaru yang menemukan bahwa fitur tersebut tidak berfungsi sebagaimana mestinya.

Isu terkait keamanan dan tata kelola AI di lingkungan OpenAI juga sempat menjadi sorotan dalam sejumlah pemberitaan sebelumnya, termasuk insiden yang melibatkan agen AI bobol sistem yang diakui perusahaan. Selain itu, terdapat pula laporan mengenai alat perekam di kantor yang turut menambah tekanan terhadap perusahaan.

Gugatan class action ini menempatkan praktik pengumpulan data dan perlindungan pengguna muda sebagai inti persoalan. Gugatan menuntut kompensasi finansial bagi anak di bawah umur yang datanya telah dikumpulkan, sekaligus menyoroti efektivitas mekanisme verifikasi usia yang diterapkan OpenAI.

[END_CONTENT]