Oversight Board Sebut Aturan AI Deepfake Meta Tidak Memadai

Telset.id – Oversight Board kembali mendesak Meta untuk menangani banjir konten yang dihasilkan AI di platformnya. Dalam dua keputusan terbarunya, dewan pengawas independen itu menyatakan bahwa aturan Meta soal konten AI “secara konsisten dan fundamental tidak memadai” untuk menghadapi lonjakan cepat konten AI di platformnya. Kritik ini muncul dari dua kasus video deepfake yang melibatkan tokoh publik dan warga biasa, di mana penanganan Meta dinilai lambat dan tidak konsisten.

Kedua kasus tersebut sama-sama berkaitan dengan unggahan berisi video yang dihasilkan AI. Kasus pertama menampilkan seorang politikus Skotlandia yang seolah-olah mengatakan, “refugees are welcome here, even if they rape our women, because white people do that too.” Menurut Oversight Board, video itu merupakan penggambaran yang “realistis” namun sintetis. Politikus yang suaranya direplikasi menyebut efek video tersebut “cukup traumatis.”

Meta beralasan tidak menghapus video itu saat dilaporkan karena belum ditandai oleh organisasi “trusted partner”-nya dan karena video tersebut tampak tidak mengganggu proses pemungutan suara atau proses lainnya. Video itu juga tidak dilabeli sebagai AI, tampaknya karena pengunggahnya tidak memilih untuk mengungkapkan bahwa konten tersebut dibuat dengan AI. Oversight Board menilai video itu seharusnya dihapus karena melanggar aturan hateful conduct Meta, dan seharusnya diberi label AI secara mencolok.

Kasus kedua juga menampilkan video yang dihasilkan AI dari orang nyata. Video tersebut didasarkan pada wawancara TV dengan seorang relawan yang mempromosikan edukasi kesehatan menstruasi. Beberapa waktu setelah wawancara awal, “akun-akun di berbagai platform media sosial memanipulasi rekaman wawancara itu secara digital untuk mengejeknya,” dan video-video itu menjadi viral. Menurut dewan, Meta secara otomatis menutup laporan dan banding berikutnya terkait unggahan tersebut, yang tidak pernah dilabeli sebagai AI. Meta baru menghapus video itu karena melanggar aturannya soal bullying setelah Oversight Board terlibat.

Dewan menilai kedua kasus ini menyoroti bagaimana konten AI digunakan untuk menargetkan orang di platform Meta, dan minimnya pelabelan yang konsisten justru menimbulkan kerugian tambahan. “Dari politikus hingga warga biasa, deepfake yang dihasilkan AI semakin sering digunakan untuk melecehkan dan membungkam perempuan dari keterlibatan dalam wacana publik,” kata Co-Chair Oversight Board Pamela San Martin dalam sebuah pernyataan. “Kasus-kasus ini menunjukkan pola yang lebih luas dan mengkhawatirkan, di mana perempuan yang terlibat secara publik dalam suatu isu secara tidak proporsional menjadi sasaran pelecehan dan misinformasi.”

Meta Diminta Prioritaskan Konten AI yang Dilaporkan

Kritik Oversight Board terhadap Meta sebenarnya bukan hal yang mengejutkan. Lembaga yang memberikan rekomendasi kebijakan kepada Meta ini telah berulang kali mengkritik pendekatan perusahaan terhadap konten AI dan mendesak adanya aturan baru. Pertanyaan yang lebih besar adalah apakah Meta benar-benar peduli dengan pandangan dewan tersebut terkait isu ini.

Sejauh ini Meta hanya melakukan sedikit perubahan pada label AI-nya, yang biasanya berupa banner kecil bertuliskan “AI Info.” Perusahaan juga belum menyetujui banyak rekomendasi dewan soal pelabelan AI pada kasus-kasus terbaru lainnya. Meta tidak menanggapi permintaan komentar atas pernyataan terbaru dewan tersebut. Namun, perusahaan memiliki waktu 60 hari untuk menanggapi rekomendasi terbarunya, termasuk permintaan agar Meta memprioritaskan konten yang kemungkinan besar dihasilkan AI untuk ditinjau ketika dilaporkan.

Tekanan terhadap Meta ini menjadi bagian dari perdebatan yang lebih luas soal tata kelola konten AI di platform digital. Sebelumnya, isu serupa juga mencuat dalam diskusi soal privasi dan regulasi yang melibatkan perusahaan teknologi lintas negara. Oversight Board berharap rekomendasinya dapat mendorong Meta memperbaiki sistem pelabelan dan peninjauan konten AI, terutama untuk melindungi pengguna dari penyalahgunaan deepfake.

Hingga kini, Meta belum menunjukkan perubahan besar pada kebijakan label AI-nya. Keputusan dewan dalam dua kasus ini menegaskan bahwa tanpa aturan yang lebih tegas, konten AI yang menargetkan individu—terutama perempuan yang aktif di ruang publik—berpotensi terus menyebar tanpa penanganan yang memadai. Respons Meta dalam 60 hari ke depan akan menjadi indikator apakah rekomendasi dewan benar-benar dijalankan atau kembali diabaikan.