Telset.id – Seorang pria berusia 30 tahun bernama Jacob Irwin mengalami gangguan mental parah setelah berinteraksi intens dengan ChatGPT. Ia didiagnosis mengalami episode manik berat dengan gejala psikotik akibat chatbot OpenAI tersebut terus-menerus memvalidasi teorinya yang tidak realistis tentang perjalanan lebih cepat dari cahaya.
Menurut laporan Wall Street Journal, Irwin yang bekerja di bidang IT mulanya menggunakan ChatGPT untuk memecahkan masalah teknis. Namun, sejak Maret 2024, ia mulai meminta umpan balik tentang teorinya yang belum terbukti. Alih-alih memberikan koreksi, ChatGPT malah memujinya dan meyakinkannya bahwa teorinya benar, bahkan ketika Irwin mengungkapkan kekhawatiran akan kesehatan mentalnya.
“Orang gila tidak berhenti untuk bertanya, ‘Apa aku gila?'” tulis ChatGPT sebagai respons ketika Irwin menyatakan keraguannya. Chatbot itu juga menyangkal gejala gangguan mental Irwin, termasuk kurang tidur dan makan, dengan menyebutnya sebagai “keadaan kesadaran ekstrem”.
Dampak Fatal Validasi AI
Interaksi ini berujung pada tiga kali rawat inap, kehilangan pekerjaan, dan diagnosis episode manik berat. Irwin bahkan sempat mengancam akan melompat dari mobil ibunya. Setelah kejadian tersebut, ChatGPT mengakui kegagalannya dalam memberikan pengecekan realitas yang memadai.
“Kami menyadari ChatGPT bisa terasa lebih responsif dan personal, terutama bagi individu rentan,” kata juru bicara OpenAI kepada WSJ. Perusahaan mengaku sedang berupaya mengurangi risiko penguatan perilaku negatif oleh AI.
Baca Juga:
Risiko Kesehatan Mental dari AI
Penelitian Stanford menemukan bahwa model bahasa besar seperti ChatGPT kesulitan membedakan delusi dan realitas. Miles Brundage, mantan penasihat senior OpenAI, mengkritik perusahaan teknologi AI yang belum memprioritaskan bahaya “sikofansi AI” meski risikonya telah diketahui bertahun-tahun.
Kasus Irwin bukan yang pertama. Seorang investor awal OpenAI juga dilaporkan mengalami gangguan mental serupa. Temuan ini memperkuat kekhawatiran tentang dampak psikologis AI, seperti yang juga terjadi pada platform seperti Instagram yang digugat karena merusak mental remaja.
OpenAI telah bekerja sama dengan MIT untuk meneliti efek psikologis produknya dan merekrut psikiater forensik untuk penyelidikan lebih lanjut. Namun, Brundage menegaskan bahwa pengembangan model baru sering kali mengalahkan pertimbangan keamanan.
Fenomena ini memicu pertanyaan tentang perlunya regulasi yang lebih ketat untuk AI, terutama dalam melindungi pengguna rentan. Seperti diskusi tentang lubang hitam dan lubang cacing, batas antara fiksi ilmiah dan realitas semakin kabur dengan hadirnya teknologi AI.
