Telset.id – Bayangkan jika AI yang seharusnya netral justru menganggap Anda penjahat hanya karena warna kulit atau jenis kelamin. Itulah kenyataan pahit yang diungkap Sony melalui dataset terbarunya, Fair Human-Centric Image Benchmark (FHIBE). Dalam gebrakan yang bisa dibilang mengguncang industri kecerdasan buatan, raksasa teknologi asal Jepang ini membuktikan bahwa bias sistemik dalam model AI lebih buruk dari yang kita duga.
Anda mungkin bertanya: seberapa parah sebenarnya bias dalam teknologi AI yang semakin merasuki kehidupan kita sehari-hari? Jawabannya ternyata cukup mengkhawatirkan. FHIBE, yang diucapkan seperti “Phoebe”, bukan sekadar dataset biasa. Ini adalah alat diagnostik canggih yang mampu mengungkap ketidakadilan tersembunyi dalam algoritma computer vision yang selama ini dianggap objektif.
Yang membuat FHIBE istimewa adalah komitmennya terhadap etika dari hulu ke hilir. Berbeda dengan praktik umum di industri yang mengandalkan scraping data web tanpa izin, dataset Sony ini dibangun dengan partisipasi hampir 2.000 orang dari lebih 80 negara yang semuanya dibayar dan memberikan persetujuan eksplisit. Bahkan, mereka bisa menarik gambar mereka kapan saja – hak yang hampir tidak pernah ada dalam pengumpulan data AI konvensional.
Lalu, apa yang ditemukan Sony setelah menguji berbagai model AI dengan FHIBE? Hasilnya membuat kita semua perlu duduk sejenak. Tidak ada satu pun dataset perusahaan teknologi yang mampu memenuhi standar keadilan yang ditetapkan Sony. “Alat ini mengonfirmasi bias yang sebelumnya telah didokumentasikan,” ujar pernyataan resmi Sony, namun dengan tingkat granularitas yang belum pernah ada sebelumnya.
Baca Juga:
Bukan Sekadar Angka, Tapi Realita yang Mengganggu
Detail temuan FHIBE ini yang benar-benar membuat merinding. Beberapa model AI menunjukkan akurasi lebih rendah untuk orang yang menggunakan kata ganti “she/her/hers”. Tapi yang lebih menarik, FHIBE berhasil mengidentifikasi bahwa variasi gaya rambut – faktor yang sering diabaikan – berkontribusi signifikan terhadap bias ini. Ini menunjukkan bahwa masalah bias AI jauh lebih kompleks dari yang kita bayangkan.
Yang lebih mengkhawatirkan lagi adalah bagaimana model-model ini memperkuat stereotip berbahaya. Ketika diberi pertanyaan netral tentang pekerjaan seseorang, AI justru menghasilkan deskripsi yang diskriminatif terhadap kelompok kata ganti dan leluhur tertentu. Beberapa subjek secara tidak adil dilabeli sebagai pekerja seks, pengedar narkoba, atau pencuri.
Puncak kekhawatiran muncul ketika AI diminta tentang kejahatan apa yang mungkin dilakukan seseorang. Tingkat respons beracun ternyata lebih tinggi untuk individu keturunan Afrika atau Asia, mereka dengan kulit lebih gelap, dan yang mengidentifikasi sebagai ‘he/him/his’. Bayangkan implikasinya jika sistem seperti ini digunakan dalam proses rekrutmen atau bahkan penegakan hukum.
Masa Depan yang Lebih Adil Dimulai dari Data
Kehadiran FHIBE membuktikan bahwa pengumpulan data yang etis, beragam, dan adil sangat mungkin dilakukan. Sony secara tegas menunjukkan bahwa jalan pintas dengan menggaruk data web secara massal tanpa persetujuan bukan hanya tidak etis, tetapi juga menghasilkan AI yang cacat secara fundamental.
Dataset ini tidak hanya berisi gambar, tetapi juga anotasi mendetail tentang karakteristik demografis dan fisik, faktor lingkungan, bahkan pengaturan kamera. Tingkat detail ini memungkinkan peneliti dan pengembang untuk melakukan diagnosis yang sangat granular terhadap akar penyebab bias.
Dalam industri yang didominasi oleh performa prosesor dan kualitas layar, FHIBE mengingatkan kita bahwa teknologi terhebat pun tidak ada artinya jika tidak adil bagi semua pengguna. Seperti halnya perangkat mobile yang mengutamakan pengalaman pengguna, AI juga harus dibangun dengan prinsip yang sama.
Kini, FHIBE tersedia untuk publik dan akan terus diperbarui seiring waktu. Penelitian lengkap tentang alat ini telah dipublikasikan dalam jurnal Nature, memberikan legitimasi akademis terhadap temuan-temuan pentingnya. Ini bukan akhir dari perjalanan, tetapi awal yang menjanjikan untuk menciptakan AI yang benar-benar melayani seluruh umat manusia tanpa diskriminasi.
Pertanyaannya sekarang: akankah perusahaan teknologi lain mengikuti jejak Sony, atau mereka akan terus berkubang dalam praktik pengumpulan data yang bermasalah? Dengan alat seperti FHIBE, alasan untuk tidak berubah menjadi semakin tipis. Waktunya telah tiba untuk membangun AI yang tidak hanya cerdas, tetapi juga berprikemanusiaan.
