Dalam dunia kecerdasan buatan (AI), ChatGPT telah menjadi salah satu chatbot paling populer. Namun, popularitasnya kali ini diwarnai oleh insiden memalukan. ChatGPT dituduh memberikan informasi yang salah dan bahkan memfitnah seorang pria tak bersalah, Arve Hjalmar Holmen, dengan menyatakan bahwa ia telah membunuh dua anaknya. Kasus ini menimbulkan pertanyaan serius tentang keandalan dan akurasi AI dalam menyajikan informasi.
Kesalahan Fatal ChatGPT
Arve Hjalmar Holmen, seorang warga Norwegia, menjadi korban kesalahan fatal ChatGPT. Saat ia mencari namanya di chatbot tersebut, jawaban yang muncul justru mengejutkan. ChatGPT menyatakan bahwa Holmen adalah seorang ayah yang telah membunuh dua anaknya yang berusia 7 dan 10 tahun di Trondheim, Norwegia, pada Desember 2020. Lebih parah lagi, chatbot itu juga menyebut bahwa Holmen dihukum penjara selama 21 tahun karena kejahatan tersebut.
Fakta yang mengejutkan adalah bahwa informasi ini sama sekali tidak benar. Holmen tidak pernah terlibat dalam kasus pembunuhan anak-anaknya. Namun, ChatGPT justru menggabungkan beberapa informasi yang benar, seperti jumlah anak Holmen, usia, dan nama kampung halamannya, dengan narasi yang sepenuhnya palsu. Hal ini membuat kesalahan tersebut terlihat lebih meyakinkan dan berpotensi merusak reputasi Holmen.
Dampak dan Reaksi
Holmen tidak tinggal diam. Ia melaporkan kasus ini kepada Otoritas Perlindungan Data Norwegia dan meminta OpenAI, perusahaan di balik ChatGPT, untuk dijatuhi denda. Menurutnya, informasi yang salah ini telah merugikannya secara signifikan. Organisasi hak asasi digital Noyb, yang mewakili Holmen, juga menegaskan bahwa tindakan ChatGPT melanggar aturan perlindungan data pribadi Uni Eropa (GDPR).
“GDPR sudah jelas. Data pribadi harus akurat. Dan jika tidak, pengguna memiliki hak untuk mengubahnya agar sesuai dengan kebenaran,” tegas Joakim Söderberg, pengacara Noyb. Ia juga menambahkan bahwa peringatan kecil yang diberikan ChatGPT tentang kemungkinan kesalahan tidak cukup untuk mengatasi masalah ini. “Anda tidak dapat menyebarkan informasi palsu dan kemudian hanya menambahkan peringatan kecil bahwa tidak semua yang Anda katakan benar,” ujarnya.
Masalah Halusinasi AI
Kasus ini bukanlah yang pertama kali terjadi. ChatGPT dan chatbot AI lainnya sering kali mengalami apa yang disebut “halusinasi,” yaitu kondisi di mana AI mengarang informasi dan menampilkannya sebagai fakta. Hal ini menjadi salah satu tantangan terbesar dalam pengembangan teknologi AI. Beberapa kasus serupa sebelumnya termasuk ChatGPT yang menuduh seorang pria melakukan penipuan, seorang reporter pengadilan melakukan pelecehan anak, dan seorang profesor hukum melakukan pelecehan seksual.
Para ilmuwan dan pengembang AI terus berupaya untuk mengatasi masalah ini. Namun, hingga saat ini, belum ada solusi yang benar-benar efektif untuk mencegah halusinasi AI. Hal ini menimbulkan kekhawatiran serius tentang bagaimana AI dapat digunakan secara bertanggung jawab, terutama dalam konteks penyebaran informasi yang sensitif dan berdampak besar.
Kasus Holmen menjadi pengingat bahwa meskipun AI memiliki potensi besar untuk membantu manusia, teknologi ini juga memiliki keterbatasan yang perlu diwaspadai. Tanpa pengawasan dan regulasi yang ketat, AI dapat menjadi alat yang berbahaya, terutama ketika menyangkut informasi yang dapat merusak reputasi dan kehidupan seseorang.
Sebagai pengguna, penting untuk selalu kritis terhadap informasi yang diberikan oleh AI. Jangan mudah percaya begitu saja, terutama jika informasi tersebut bersifat sensitif atau memiliki dampak besar. Sementara itu, perusahaan pengembang AI seperti OpenAI harus terus meningkatkan sistem mereka untuk meminimalkan kesalahan dan memastikan bahwa informasi yang diberikan akurat dan dapat dipertanggungjawabkan.
Kasus ini juga membuka diskusi tentang perlunya regulasi yang lebih ketat terhadap penggunaan AI, terutama dalam hal perlindungan data pribadi dan akurasi informasi. Tanpa langkah-langkah yang tegas, insiden seperti ini mungkin akan terus terjadi, dan korban berikutnya bisa saja adalah Anda.
