Telset.id, Jakarta – Twitter bingung kenapa preview foto di platform mereka cenderung fokus ke seseorang berwajah putih. Twitter tengah memeriksa kenapa AI atau artificial intelligence buatannya terkadang berlaku rasis dengan memotong wajah orang berkulit hitam.
Twitter menggunakan teknologi neural network atau jaringan saraf untuk membuat preview foto yang dipotong saat dilihat pengguna saat menggulir timeline.
Akan tetapi, pengguna menemukan sesuatu yang terbilang aneh. Dilaporkan New York Post, seperti dikutip Telset.id, Rabu (23/9/2020), sistem tersebut sering kali menampilkan wajah orang kulit putih saat digambarkan dalam gambar yang sama dengan wajah orang kulit hitam.
{Baca juga: Catat! Jangan Posting 9 Informasi Ini ke Media Sosial, Ingat Bahaya!}
“Kami menguji bias sebelum mengirimkan model. Kami tidak menemukan bukti bias ras atau gender dalam pengujian. Kami memiliki lebih banyak analisis untuk dilakukan,” demikian kata juru bicara Twitter, Liz Kelley.
thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH
— liz kelley (@lizkelley) September 20, 2020
Programmer Tony Arcieri kemudian mendemonstrasikan masalah itu dengan gambar yang menggambarkan Pemimpin Mayoritas Senat, Mitch McConnell, dan mantan Presiden Amerika Serikat, Barack Obama.
{Baca juga: Trending di Twitter, Ada Apa dengan Nama Jamal?}
Hasilnya, preview foto Twitter hanya menampilkan wajah McConnell. Hal yang sama terjadi di gambar lain yang menampilkan dua karakter kartun “The Simpsons”, Lenny yang berkulit putih, dan Carl yang berkulit hitam.
I wonder if Twitter does this to fictional characters too.
Lenny Carl pic.twitter.com/fmJMWkkYEf
— Jordan Simonovski (@_jsimonovski) September 20, 2020
Twitter memotong Carl dan hanya menampilkan Lenny di preview foto. Gara-gara isu rasis pada AI preview foto, saham Twitter turun satu persen menjadi USD 39,75 per lembar pada perdagangan Senin (21/9/2020) kemarin.
Masih terkait isu rasisme, raksasa teknologi Amazon, Google, dan Wish akhirnya hapus produk neo-Nazi dan supremasi kulit putih yang dijual di situs. Penghapusan dilakukan setelah penyelidikan yang dipimpin oleh BBC.
Meski tiga perusahaan itu menyatakan bahwa produk rasis dilarang di platform, BBC dengan mudah menemukan bendera supremasi kulit putih, buku-buku neo-Nazi, dan barang dagangan Ku Klux Klan yang ditawarkan di situs.
Yang lebih buruk, jika mengklik sebuah item, algoritma untuk Amazon dan Wish membawa Anda ke item yang lebih “mirip” ke produk penuh kebencian.
Satu barang yang dijual di Amazon adalah bendera supremasi kulit putih yang menampilkan Celtic Cross, yang oleh Liga Anti-Pencemaran Nama Baik disebut salah satu simbol supremasi kulit putih yang paling umum.
{Baca juga: Amazon dan Google Hapus Produk Neo-Nazi dari Situs}
Seorang konsumen mencatat dalam ulasan produk pada Juni 2020 bahwa simbol itu adalah bendera neo-Nazi. “Amazon seharusnya tidak mengambil keuntungan dari penjualan produk tersebut,” terang sang konsumen.
Daftar itu juga merekomendasikan bendera kontroversial lain, yakni simbol di bendera yang dikenakan oleh pria bersenjata Christchurch ketika membunuh 51 orang di masjid Selandia Baru pada 2019 lalu.
Di lain sisi, Google menyatakan tidak mengizinkan iklan atau produk yang dijual di platform yang menampilkan konten mengejutkan atau mempromosikan kebencian. “Kami menegakkan kebijakan ini,” tegas Google. (SN/MF)
Simak Video Terbaru “REALME 7i UNBOXING: GEDE SEMUA.. !!”
