Telset.id – Meta akhirnya menghapus dua dari tiga akun yang dilaporkan memproduksi video AI berisi anak-anak tunawisma yang ditangkap polisi karena mencuri makanan. Penghapusan itu terjadi setelah beberapa hari perusahaan menunda merespons pertanyaan soal konten tersebut, sementara satu akun lain yang dilaporkan masih dibiarkan aktif lengkap dengan puluhan video serupa.
Kasus ini menyoroti celah moderasi di platform milik Mark Zuckerberg itu, di tengah maraknya konten AI yang memancing emosi pengguna. Video-video tersebut beredar di Facebook dan Instagram melalui akun dengan nama seperti “Emotional Tots” dan “Tiny Miracle”.
Formula video AI itu seragam. Seorang anak berlari masuk atau keluar toko sambil mengambil bahan pokok, umumnya sepotong roti. Anak itu lalu dihadang figur otoritas, seperti polisi atau petugas keamanan, yang menyatakan bahwa si anak tidak punya cukup likes dan followers. Jika penonton mau membantu, anak itu akan dibebaskan.
Ancaman Likes dan Followers di Video AI
Dalam salah satu contoh yang viral, seorang polisi hasil AI menyatakan penangkapan kepada anak yang menangis sambil memeluk sepotong roti. “You are under arrest,” ujar polisi AI itu. “Why? I didn’t do anything,” jawab si anak. “You don’t have enough followers and shares on your videos,” jelas polisi tersebut. “If the person watching this video follows and shares, then you will be free.”
Anak itu lalu terisak memohon. “Please give me one more chance. I don’t want to go to jail… Please share and follow.”
Klip lain menampilkan balita yang kabur membawa sekarung buah sebelum dihadang polisi. “It’s for my grandma,” ujar anak hasil AI itu terbata-bata. “Please don’t take it, my grandma is hungry and my mom is gone.” Polisi dalam video itu kemudian menghadap ke arah penonton dan bertanya: “Should I let him take these to his grandma? Follow, like, and comment below.”
Juru bicara Meta berulang kali meminta tambahan waktu untuk menjawab pertanyaan soal kisah ini setelah perusahaan diberi tautan ke beberapa video spesifik. Setelah beberapa hari, perusahaan menurunkan dua akun yang ditandai, tetapi membiarkan akun lain tetap online bersama banyak video serupa.
“So far, we’ve removed two of the three links you shared,” kata juru bicara Meta, beberapa hari setelah perusahaan dihubungi untuk memberi komentar. “We will remove content, regardless of whether it is created by AI or a person, if it violates our policies.”
Juru bicara tersebut menolak menyebut apakah video anak-anak yang terisak memohon likes dan follows di bawah ancaman penangkapan melanggar kebijakan perusahaan. Sikap itu menegaskan bahwa keputusan penghapusan konten AI di Meta masih bergantung pada penilaian kasus per kasus, bukan aturan yang jelas dan terbuka.
Baca Juga:
Meta bukan satu-satunya perusahaan yang berhadapan dengan persoalan tata kelola AI. Sejumlah langkah industri menunjukkan bahwa ekosistem AI kini bergerak menuju aturan yang lebih baku, termasuk saat Meta, Walmart, Stripe menyusun standar terbuka untuk agen AI. Namun, standar semacam itu belum menyentuh konten yang diproduksi untuk memancing interaksi di platform media sosial.
Dalam menampilkan polisi yang menangkap anak jalanan kelaparan, video-video itu tanpa sengaja memainkan kritik lama di negara-negara Barat: bahwa polisi ada bukan untuk menolong orang, dalam hal ini anak-anak kurus, melainkan untuk melindungi properti pribadi, misalnya dengan mengembalikan roti yang dicuri.
Akibatnya, komentar di bawah setiap video, baik yang ditulis manusia maupun bot, menuntut keadilan bagi para balita tersebut. Banyak di antaranya tampak tidak menyadari bahwa seluruh video adalah fiksi buatan AI.
“Let baby have the bread,” tulis satu komentar dengan 45 likes. “He didn’t do any thing, give him chance; no jail no jail no jail please please, he is a a baby,” pinta pengguna lain.
Pengguna lain juga tampak tidak memahami apa yang mereka lihat, baik secara metaforis maupun harfiah. “Big boys I do follow because the officer is a good guy,” balas satu akun yang tampak manusia dan dibuat pada 2019 pada Reel serupa. “Amen.”
Konten Paling Manipulatif di Meta
Melihat luasnya pelanggaran hak asasi manusia dan konten rasis yang dibiarkan berkembang di platform Meta, klip AI berisi anak kelaparan palsu bukanlah hal yang paling parah. Namun, konten jenis ini termasuk yang paling manipulatif secara emosional.
Meta sendiri sedang memperluas perangkat AI-nya ke berbagai lini. Di sisi lain, pengembangan asisten AI dan produk pendukungnya terus berjalan, seperti yang terlihat pada persaingan di segmen Tab AI Assistant senilai Rp4,6 triliun. Sementara itu, di ranah infrastruktur, CRAM Meta menawarkan kompresi memori Linux yang diklaim 452x lebih cepat dari ZRAM.
Meski begitu, inisiatif teknologi tersebut tidak otomatis menjawab persoalan moderasi konten. Video AI berisi anak-anak yang memohon likes dan follows tetap dapat menyebar, terutama karena keputusan penghapusan baru dilakukan setelah ada laporan pihak luar.
Juru bicara Meta menegaskan perusahaan akan menghapus konten yang melanggar kebijakan, terlepas dari apakah konten itu dibuat AI atau manusia. Pernyataan itu tidak disertai penjelasan apakah video anak yang menangis di bawah ancaman penangkapan masuk kategori pelanggaran. Dua akun yang diturunkan dan satu akun yang masih aktif menjadi bukti bahwa penegakan aturan berjalan tidak merata.
Mengingat tidak adanya tindakan tegas Meta pada kasus-kasus sebelumnya, sangat kecil kemungkinan ada langkah signifikan terhadap klip-klip anak kelaparan palsu ini. Konten yang menguras emosi itu pun berpotensi terus menyebar di Meta, Instagram, dan platform lainnya.
Komentar
Belum ada komentar.