Telset.id – Sebuah studi terbaru mengungkap bahwa model AI besar cenderung menghasilkan tokoh hewan jantan daripada betina saat diminta membuat cerita anak. Dari 23.800 cerita yang dihasilkan, hanya 513 cerita atau sekitar 2 persen yang menampilkan tokoh utama betina, sementara 41 persen lainnya berjenis kelamin jantan dan mayoritas sisanya tidak menyebut gender sama sekali.
Penelitian ini dipimpin oleh Melanie Walsh, asisten profesor di University of Washington’s Information School. Timnya menjalankan prompt yang sama melalui enam model AI yang banyak digunakan, termasuk GPT-4o, GPT-5.1, Gemini 2.5, Claude Sonnet 4.5, Mistral Medium, dan model open-source OLMo 3. Setiap model diminta membangun cerita berdasarkan frasa pendek yang sama.
Temuan ini menjadi perhatian bagi orang tua yang menggunakan AI untuk membuat cerita pengantar tidur. Jika Anda berharap cerita yang dihasilkan menampilkan tokoh utama betina, kemungkinan besar Anda harus memintanya secara eksplisit karena AI tidak akan menawarkannya secara otomatis.
Hasil Pengujian Enam Model AI
Dari keseluruhan respons yang dianalisis, karakter netral atau tanpa gender menjadi mayoritas dengan persentase 57 persen. Karakter jantan menyusul di posisi kedua dengan 41 persen, sementara karakter betina hanya muncul di 2 persen dari total cerita yang dihasilkan. Artinya, secara rata-rata, hanya satu dari setiap 46 cerita yang memiliki tokoh utama betina.
Walsh mengungkapkan bahwa timnya hanya bisa “mengamati dari luar” karena sebagian besar model tersebut bersifat proprietary atau tertutup. Teorinya, perusahaan AI cenderung menggunakan kata ganti netral untuk menghindari bias gender, namun cara ini justru berujung pada penghilangan karakter betina secara tidak sengaja.
Perbedaan hasil antar model cukup signifikan. GPT-5.1 dan Gemini 2.5 menjadi model yang paling sering menghasilkan tokoh utama jantan, masing-masing di angka 65 persen dan 63 persen dari total respons. Sementara itu, OLMo 3 paling sering menggunakan karakter netral dengan persentase 85 persen. Claude Sonnet 4.5 mencatatkan hasil terbaik untuk karakter betina, meski hanya di bawah 4 persen dari seluruh respons yang dihasilkan.
Baca Juga:
Implikasi bagi Pengguna AI
Temuan ini sejalan dengan pola bias lain yang pernah ditemukan dalam sistem AI. Penelitian sebelumnya menunjukkan bahwa keputusan chatbot dapat berubah berdasarkan karakteristik seperti usia, agama, dan gender. Pola yang konsisten ini menunjukkan bahwa bias gender dalam AI bukanlah kasus terisolasi, melainkan masalah sistemik yang perlu mendapat perhatian lebih.
Bagi orang tua yang menggunakan fitur seperti Interactive Storytime di Google Home untuk membuat cerita hewan secara cepat, temuan ini menjadi catatan penting. Jika menginginkan cerita dengan tokoh utama betina, pengguna perlu menyebutkannya secara spesifik dalam permintaan mereka.
Hasil penelitian ini dipublikasikan melalui ACM Digital Library dan dilaporkan oleh TechXplore. Studi ini menambah daftar panjang literatur tentang bias dalam sistem kecerdasan buatan, sekaligus menjadi pengingat bahwa teknologi AI masih memiliki banyak pekerjaan rumah dalam hal representasi gender yang seimbang.
Meskipun penelitian ini berfokus pada cerita anak-anak, implikasinya bisa lebih luas. Jika model AI secara konsisten menghasilkan tokoh jantan dalam cerita, hal yang sama mungkin terjadi di jenis konten lain. Pengguna perlu menyadari keterbatasan ini dan secara aktif mengarahkan AI untuk menghasilkan output yang lebih beragam dan inklusif.
Walsh dan timnya berharap temuan ini dapat mendorong perusahaan AI untuk mengevaluasi kembali pendekatan mereka terhadap representasi gender. Alih-alih menghindari bias dengan menghilangkan gender sama sekali, pendekatan yang lebih baik mungkin diperlukan untuk memastikan karakter betina mendapat porsi yang setara dalam konten yang dihasilkan AI.
Komentar
Belum ada komentar.