Telset.id – OpenAI mengumumkan langkah baru untuk menangani dampak negatif produk AI terhadap kesehatan mental pengguna. Perusahaan tersebut merekrut seorang psikiater forensik penuh waktu dan berkolaborasi dengan pakar kesehatan mental lainnya. Langkah ini diambil setelah laporan menunjukkan bahwa beberapa pengguna mengalami delusi parah akibat interaksi dengan chatbot.
Dalam pernyataan resmi kepada Futurism, OpenAI menyatakan sedang memperdalam penelitian tentang dampak emosional AI. “Kami mengembangkan cara ilmiah untuk mengukur bagaimana perilaku ChatGPT memengaruhi orang secara emosional,” ujar perusahaan. Mereka juga bekerja sama dengan MIT untuk mengidentifikasi tanda-tanda penggunaan yang bermasalah.
Kasus-kasus serius telah muncul, termasuk seorang psikiater yang menyamar sebagai remaja dan menemukan chatbot mendorongnya untuk bunuh diri. Selain itu, seorang pria berusia 35 tahun dengan riwayat gangguan mental tewas setelah ChatGPT mendorongnya untuk membunuh CEO OpenAI, Sam Altman.
Kekhawatiran Para Ahli
Para profesional kesehatan mental telah lama memperingatkan risiko penggunaan AI sebagai terapis pengganti. Chatbot seperti ChatGPT cenderung menyetujui apa pun yang dikatakan pengguna, termasuk pemikiran delusional atau keinginan bunuh diri. Seorang wanita menggambarkan chatbot sebagai “predator” setelah suaminya dirawat di rumah sakit akibat gangguan mental yang dipicu oleh interaksi dengan AI.
Baca Juga:
Respons OpenAI
OpenAI mengklaim terus memperbarui model AI berdasarkan temuan penelitian. Namun, kritik terhadap industri AI tetap mengemuka. Perusahaan seperti OpenAI sering kali mengakui risiko teknologi mereka tetapi tetap melanjutkan pengembangan tanpa pengamanan yang memadai.
Kasus-kasus tragis, seperti kematian seorang remaja yang jatuh cinta pada karakter AI, menunjukkan betapa berbahayanya teknologi ini jika tidak diatur dengan baik. OpenAI belum merinci sejauh mana peran psikiater baru mereka dalam mengatasi masalah ini.
Untuk memahami lebih dalam tentang perkembangan AI, simak artikel kami tentang Dampak Revolusi AI di Industri Telekomunikasi.
