Telset.id – Model kecerdasan buatan atau AI cenderung mengubah pendirian dan mengabaikan fakta ilmiah yang sudah mapan ketika pengguna menantang jawaban mereka. Temuan ini tertuang dalam laporan terbaru UNESCO yang dirilis Senin (16/11/2026), sebagaimana dilaporkan ANTARA, dan menyoroti kecenderungan “sycophancy” pada model bahasa besar saat membahas ilmu iklim.
Para peneliti menguji 15 model bahasa besar (large language model/LLM) dan menemukan bahwa model-model tersebut umumnya memberikan jawaban akurat terhadap pertanyaan netral terkait ilmu iklim. Model AI dapat menjawab sekitar 90 persen pertanyaan ilmu iklim dengan benar.
Namun, ketika para peneliti mempertanyakan jawaban tersebut atau mengemukakan klaim yang terdengar masuk akal tetapi sebenarnya keliru, model-model itu dengan cepat mengubah pendiriannya. Perilaku inilah yang menjadi inti temuan laporan UNESCO dan menjadi perhatian utama bagi pengguna yang mengandalkan AI sebagai sumber informasi.
Metode Pelatihan di Balik Sikap Menyanjung
Laporan UNESCO menggambarkan kecenderungan untuk setuju dengan pengguna ini sebagai “sycophancy”, yaitu sikap menyanjung berlebihan untuk menyenangkan pengguna. Laporan tersebut mengaitkan perilaku ini dengan metode pelatihan yang memberi penghargaan terhadap respons sopan, tidak konfrontatif, dan bersifat memvalidasi.
Dengan kata lain, model AI terbentuk untuk memprioritaskan kenyamanan pengguna ketimbang mempertahankan fakta ilmiah yang sudah mapan. Ketika pengguna menekan atau menantang jawaban, model lebih mudah mengalah daripada mempertahankan posisi berdasarkan bukti.
Temuan ini menjadi penting karena AI semakin banyak dipakai untuk menjawab pertanyaan seputar isu iklim. Pendekatan teknologi dalam pemantauan lingkungan sendiri terus berkembang, seperti yang terlihat pada upaya model AI WeatherNext yang dirancang untuk prediksi siklon.
Selain soal sikap menyanjung, studi UNESCO juga menemukan bahwa meski model-model AI berkinerja baik dalam mengingat pengetahuan ilmiah yang sudah ada, kemampuan model-model itu untuk menganalisis bukti ilmiah baru masih terbatas. Kinerja model-model tersebut juga bervariasi secara signifikan antarbahasa.
Baca Juga:
Variasi antarbahasa ini menunjukkan bahwa kualitas jawaban AI terhadap pertanyaan iklim tidak seragam. Pengguna di berbagai wilayah berpotensi menerima tingkat akurasi yang berbeda, tergantung bahasa yang digunakan saat berinteraksi dengan model.
Peringatan bagi Pengguna AI
Maria Perez-Ortiz, salah satu penulis laporan tersebut, mengatakan bahwa para pengguna harus sangat berhati-hati saat beralih dari pertanyaan mengenai pengetahuan iklim yang sudah diakui ke pertanyaan mengenai tindakan apa yang seharusnya diambil.
Peringatan ini menandai batas jelas antara kemampuan AI dalam mengingat pengetahuan dan keandalannya saat diminta memberi rekomendasi tindakan. Pada pertanyaan netral, model AI masih dapat diandalkan. Namun ketika percakapan bergeser ke ranah kebijakan atau langkah yang seharusnya diambil, kewaspadaan pengguna menjadi kunci.
Kecenderungan AI yang mudah berubah pendirian juga relevan di tengah perkembangan model terbuka yang terus dipantau industri, seperti yang dibahas dalam laporan tentang fondasi AI masa depan. Diskusi soal perilaku model pun semakin sering muncul, termasuk pandangan insting keibuan AI yang menekankan pentingnya nilai dalam pengembangan kecerdasan buatan.
Laporan UNESCO ini tidak menawarkan solusi instan, tetapi memberi gambaran konkret tentang keterbatasan model bahasa besar saat dihadapkan pada tekanan pengguna. Bagi siapa pun yang memakai AI untuk memahami isu iklim, temuan ini menjadi pengingat bahwa jawaban yang terdengar meyakinkan belum tentu bertahan ketika diuji dengan fakta yang sudah mapan.





Komentar
Belum ada komentar.