Telset.id – OpenAI menghadapi badai kontroversi setelah meluncurkan Sora 2, aplikasi pembuat video dari teks yang memicu gelombang konten deepfake dan pelanggaran hak cipta. Aplikasi mirip TikTok ini langsung disalahgunakan pengguna untuk menghasilkan video tokoh kartun memasak narkoba hingga selebritas yang telah meninggal, memaksa perusahaan Sam Altman melakukan pembatasan ketat.
Dalam seminggu sejak peluncurannya, Sora 2 menjadi ajang eksperimen konten-konten kontroversial. Pengguna dengan cepat memproduksi video SpongeBob SquarePants memasak kristal biru di laboratorium metamfetamin dan Sam Altman memanggang Pikachu yang terlihat nyata. Bahkan episode lengkap South Park yang seluruhnya dibuat AI dibagikan secara luas di platform.
Para ahli keamanan digital mengungkapkan kekhawatiran mendalam terhadap implikasi teknologi ini. Kemampuan menghasilkan rekaman yang menjebak menggunakan wajah orang lain dinilai berpotensi mempercepat erosi kepercayaan terhadap konten online. Seperti yang terjadi sebelumnya, Sora 2 OpenAI Disalahgunakan untuk Stalking dan Deepfake menunjukkan betapa seriusnya ancaman ini.
Respons Cepat dan Kontroversial OpenAI
OpenAI awalnya menerapkan pendekatan “move fast and break things” dengan pengamanan konten yang minimal. Staf OpenAI sendiri, Gabriel Petersson, membuat video CCTV viral yang menunjukkan Sam Altman mencuri di Target, memicu debat tentang batasan etika dalam pengembangan AI.
Pengguna juga membuat video realistik selebritas yang telah meninggal seperti Michael Jackson, Tupac Shakur, dan Bob Ross. Meski OpenAI berjanji memblokir penggambaran figur publik, perusahaan menyatakan tetap mengizinkan generasi figur sejarah, membuat selebritas yang telah meninggal menjadi sasaran empuk.
Situasi semakin memanas ketika seorang pengguna membagikan iklan TV tahun 1990-an untuk mainan anak bertema pulau Karibia milik Jeffrey Epstein. Insiden ini memaksa OpenAI mengambil tindakan tegas dengan memperketat filter konten, meski kemudian dikeluhkan pengguna karena membuat aplikasi “secara harfiah tidak bisa digunakan untuk hal kreatif.”
Baca Juga:
Perubahan Kebijakan dan Model Bisnis
Dalam posting blog terbaru, Sam Altman mengaku perusahaan “sangat bersemangat” bahwa pengguna menghasilkan video terinspirasi kekayaan intelektual mereka. “Kami harus menghasilkan uang dari generasi video,” tulis Altman, mengumumkan rencana memberikan bagian pendapatan kepada pemegang hak.
Namun, detail model bisnis ini masih belum jelas. Tidak disebutkan apakah pengguna akan dikenai biaya per generasi video atau dari mana pendapatan akan berasal. Altman mengakui, “Orang menghasilkan lebih banyak dari yang kami perkirakan per pengguna, dan banyak video dibuat untuk audiens yang sangat kecil.”
OpenAI juga melakukan reversal kebijakan signifikan. Awalnya perusahaan menyatakan pemegang hak harus aktif memilih keluar dari penggunaan materi berhak cipta. Kini kebijakan berubah menjadi opt-in, dimana pemegang hak harus menyetujui secara eksplisit.
Perusahaan semakin memperketat kontrol dengan perjanjian unggah media yang mewajibkan pengguna mencentang kotak persetujuan bahwa mereka memiliki semua hak必要 untuk media yang diunggah. Perjanjian ini mengancam akan menangguhkan atau melarang akun tanpa pengembalian dana jika terjadi penyalahgunaan.
Perkembangan Sora 2 ini terjadi di tengah lanskap AI yang semakin kompetitif. Seperti dilaporkan sebelumnya, Grok 2.5 Resmi Open Source, Elon Musk Janji Grok 3 Menyusul, menunjukkan percepatan inovasi di bidang AI.
Sementara OpenAI terus mengembangkan kemampuan AI-nya, termasuk OpenAI Resmi Umumkan Model AI GPT-4o, Makin Mirip Manusia, tantangan regulasi dan etika semakin kompleks. Perusahaan kini harus menyeimbangkan antara inovasi teknologi dan tanggung jawab sosial dalam menghadapi realitas baru konten generatif AI.
Dengan Sora 2 menduduki peringkat teratas di app store, OpenAI kini fokus memadamkan kebakaran hukum yang diakibatkan popularitas aplikasi tersebut. Masa depan platform video AI ini akan sangat bergantung pada kemampuan perusahaan menavigasi kompleksitas hak cipta dan perlindungan privasi di era konten generatif.
