Telset.id ā CEO OpenAI Sam Altman mengingatkan pengguna untuk tidak sepenuhnya mempercayai jawaban yang diberikan oleh ChatGPT. Menurutnya, meski chatbot AI ini sering terlihat cerdas, teknologi ini masih rentan menghasilkan informasi yang salah namun terdengar meyakinkan.
Peringatan ini disampaikan Altman dalam podcast resmi OpenAI bertajuk āSam Altman on AGI, GPT-5, and whatās next ā the OpenAI Podcast Ep. 1ā. Ia menjelaskan bahwa ChatGPT masih sering mengalami āhallucinationā, yaitu kecenderungan menghasilkan informasi keliru meski disampaikan dengan bahasa yang meyakinkan.
āOrang-orang punya tingkat kepercayaan yang sangat tinggi terhadap ChatGPT, yang sebenarnya cukup mengejutkan, karena AI itu masih sering āberhalusinasiā,ā kata Altman. Ia menekankan bahwa pengguna harus selalu memverifikasi informasi dari ChatGPT, terutama untuk keperluan penting seperti pendidikan, pekerjaan, atau kesehatan.
ChatGPT Bukan Sumber Kebenaran Mutlak
Altman menjelaskan bahwa ChatGPT tidak benar-benar memahami topik yang dibicarakan. Alih-alih, chatbot ini hanya meniru pola bahasa dari data pelatihannya seperti internet, buku, dan dokumen lainnya. āTeknologi ini belum benar-benar bisa diandalkan 100 persen. Kami harus jujur dan terbuka soal itu,ā ujarnya.
Ia menyarankan agar ChatGPT digunakan sebagai alat bantu, bukan pengganti akal sehat manusia. āChatGPT itu alat bantu, bukan pengganti akal sehat kita,ā tegas Altman. Pendekatan ini mirip dengan cara kita menggunakan kalkulator atau kamusātetap memerlukan verifikasi manual.
Baca Juga:
Pentingnya Verifikasi Informasi AI
Altman mengakui bahwa meskipun ChatGPT sangat berguna untuk menulis, merangkum, atau belajar hal baru, pengguna tidak boleh mengandalkannya sebagai satu-satunya sumber informasi. Hal ini semakin relevan mengingat popularitas ChatGPT yang terus meningkat, bahkan mengalahkan Wikipedia dalam hal penggunaan.
Sebagai langkah antisipasi, OpenAI terus mengembangkan teknologi ini, termasuk rencana integrasi dengan platform lain seperti yang terlihat dalam kolaborasi potensial dengan Apple untuk meningkatkan Siri.
Dengan peringatan ini, Altman berharap pengguna dapat memanfaatkan ChatGPT secara bijak tanpa mengabaikan pentingnya verifikasi mandiri. āGunakanlah sebagai alat bantu, bukan sebagai kebenaran final,ā pesannya.
