Telset.id, Jakarta – Seiring berkembangnya teknologi AI, chatbot semakin pintar dalam menjawab berbagai pertanyaan. Namun, studi terbaru menemukan sisi gelap dari kemampuan chatbot AI ini.
Para peneliti mengungkapkan bahwa model AI yang lebih canggih justru cenderung memberikan jawaban yang salah atau menyesatkan daripada mengakui ketidakmampuannya menjawab. Hal ini berpotensi menciptakan efek berantai berupa penyebaran informasi keliru yang berbahaya.
José Hernández-Orallo, seorang profesor dari Universitat Politecnica de Valencia, Spanyol, memimpin penelitian ini bersama tim dari Institut Penelitian Kecerdasan Buatan Valencia. Mereka mempelajari beberapa model bahasa besar (LLM) seperti GPT dari OpenAI, LLaMA dari Meta, serta BLOOM yang bersumber terbuka.
BACA JUGA:
- Ex-Desainer Apple Kembangkan Perangkat AI Milik OpenAI
- Adobe Pamer Alat Pembuat Video Bertenaga AI, Rilis Beta Akhir Tahun
Penelitian ini tidak mencakup model terbaru seperti GPT-4, yang diluncurkan pada Maret 2023, namun tetap memberikan gambaran penting mengenai tren yang berlaku pada model-model AI sebelumnya.
Penelitian tersebut menguji kemampuan chatbot dalam menjawab ribuan pertanyaan seputar aritmatika, anagram, geografi, hingga sains, serta kemampuannya dalam mengubah dan menyusun informasi, seperti mengurutkan daftar secara alfabetis. Semakin besar dan canggih model AI, semakin sering mereka memberikan jawaban salah, bukannya menghindari pertanyaan yang sulit.
Dalam beberapa kasus, chatbot bertindak seperti seorang ahli yang terlalu percaya diri dan merasa mampu menjawab pertanyaan di luar kompetensinya. Hal ini memicu risiko serius karena manusia yang berinteraksi dengan chatbot cenderung menganggap jawaban yang keliru sebagai kebenaran.
Penelitian ini menunjukkan bahwa relawan yang menilai jawaban chatbot sering kali salah mengklasifikasikan jawaban yang tidak akurat sebagai benar, dengan tingkat kesalahan mencapai antara 10 hingga 40 persen.
Hernández-Orallo dan timnya menyimpulkan bahwa manusia tidak selalu mampu mengawasi dan membedakan jawaban yang benar dari yang salah ketika berhadapan dengan AI.
Mereka merekomendasikan agar pengembang AI fokus pada peningkatan akurasi untuk pertanyaan sederhana dan memprogram chatbot untuk menolak menjawab pertanyaan yang terlalu rumit. Langkah ini diharapkan dapat mencegah chatbot memberikan informasi yang salah atau menyesatkan.
Namun, di dunia bisnis yang kompetitif, saran ini mungkin sulit diikuti. Chatbot yang sering mengatakan “Saya tidak tahu” bisa dianggap kurang berguna atau canggih, sehingga dapat mengurangi popularitasnya dan pada akhirnya merugikan perusahaan yang mengembangkannya.
Oleh karena itu, beberapa perusahaan hanya memberikan peringatan singkat bahwa “ChatGPT dapat membuat kesalahan” atau “Gemini mungkin menampilkan informasi yang tidak akurat.”
Kesimpulannya, pengguna harus lebih kritis dalam menerima jawaban dari chatbot AI. Untuk menghindari dampak buruk dari penyebaran informasi keliru, selalu periksa fakta sebelum mempercayai dan menyebarluaskan informasi yang diberikan oleh AI. Jika kita tidak berhati-hati, misinformasi ini bisa merugikan diri sendiri maupun orang lain.
BACA JUGA:
- IBM Bantu Operasional Bisnis Lokal Lewat Teknologi AI
- Fitur AI dan AR Bikin Trafik Website Wardah Melejit
Dalam dunia yang semakin bergantung pada teknologi AI, penting bagi kita untuk tetap waspada dan tidak sepenuhnya bergantung pada kemampuan chatbot, terutama dalam memberikan informasi yang akurat dan dapat dipercaya.
Harga studi ini juga dipublikasikan di platform Nature, yang juga menjadi rujukan bagi para peneliti. Biaya berlangganan untuk mengakses artikel ini bisa mencapai USD 199 (sekitar Rp3 juta).
