Telset.id, Jakarta – Bayangkan ketika Anda mencari nama sendiri di ChatGPT dan menemukan bahwa AI tersebut mengklaim Anda telah dipenjara selama 21 tahun atas tuduhan pembunuhan keluarga Anda.
Itulah yang dialami oleh Arve Hjalmar Holmen, seorang warga Norwegia, setelah mencoba mencari tahu apa yang ChatGPT ketahui tentang dirinya. Tanpa diduga, chatbot AI buatan OpenAI tersebut memberikan informasi yang sepenuhnya salah, menuduh Holmen sebagai pelaku pembunuhan dua anaknya dan percobaan pembunuhan terhadap anak ketiganya.
Holmen, yang sama sekali tidak pernah terlibat dalam kasus kriminal apa pun, kini telah mengajukan keluhan resmi kepada Norwegian Data Protection Authority, menuntut OpenAI untuk bertanggung jawab atas pencemaran nama baik ini.
BACA JUGA:
- Siri Kesulitan Ketika Ditanya “Bulan apa sekarang?” Oleh Pengguna
- OpenAI Laporkan Penyalahgunaan ChatGPT dan Tindakan Pencegahannya
Apa yang terjadi pada Holmen bukanlah kasus pertama di mana AI memberikan informasi yang salah. Dalam dunia kecerdasan buatan, fenomena ini dikenal sebagai “hallucination”, yaitu ketika AI menghasilkan jawaban yang terdengar meyakinkan, tetapi sepenuhnya tidak berdasar atau salah.
Kasus ini menyoroti kelemahan mendasar dalam teknologi chatbot AI berbasis model bahasa besar (Large Language Models/LLM). Model seperti ChatGPT tidak memiliki mekanisme verifikasi fakta secara langsung, melainkan menggabungkan informasi berdasarkan pola teks yang dipelajari. Hal ini menyebabkan AI terkadang menghasilkan pernyataan yang terdengar kredibel, tetapi sebenarnya tidak benar.
Bahkan dengan adanya peringatan dari OpenAI yang menyatakan bahwa “ChatGPT dapat membuat kesalahan, jadi sebaiknya periksa informasi penting”, tetap tidak bisa menjadi alasan untuk membiarkan AI menyebarkan informasi berbahaya seperti ini.
Kesalahan fatal ini bukan hanya merugikan Holmen secara pribadi, tetapi juga memunculkan pertanyaan serius terkait keamanan AI generatif dan dampaknya terhadap privasi serta pencemaran nama baik.
Dalam wawancaranya dengan BBC, Holmen mengungkapkan kekhawatirannya, “Ada orang yang percaya bahwa tidak ada asap tanpa api. Fakta bahwa seseorang bisa membaca ini dan menganggapnya benar adalah hal yang paling menakutkan bagi saya.”
Keluhan terhadap OpenAI didukung oleh organisasi hak digital Noyb, yang menilai bahwa ChatGPT telah melanggar regulasi perlindungan data Eropa (GDPR) terkait akurasi informasi pribadi. Dalam dokumen resminya, Noyb menegaskan bahwa Holmen tidak pernah dituduh atau dihukum atas kejahatan apa pun dan merupakan warga negara yang taat hukum.
Kasus Holmen bukan satu-satunya contoh ketika AI generatif memberikan informasi yang keliru. Tahun lalu, AI chatbot Gemini (sebelumnya dikenal sebagai Google Bard) juga menjadi sorotan setelah memberikan jawaban yang aneh, seperti menyarankan menggunakan lem untuk menempelkan keju pada pizza dan mengklaim bahwa geologis merekomendasikan manusia untuk makan satu batu setiap hari.
Hal ini membuktikan bahwa teknologi chatbot AI masih jauh dari sempurna dan belum bisa sepenuhnya diandalkan untuk memberikan jawaban yang akurat.
Kasus ini semakin memperkuat urgensi regulasi AI. Sejak kemunculan ChatGPT pada akhir 2022, industri kecerdasan buatan telah berkembang pesat tanpa banyak pengawasan hukum yang jelas.
Kesalahan yang menimpa Arve Hjalmar Holmen menunjukkan bahwa teknologi AI, terutama yang berbasis model bahasa besar, masih memiliki keterbatasan serius dalam hal akurasi dan keamanan informasi.
BACA JUGA:
- OpenAI Rilis Operator, Beri Cara Baru untuk Browsing
- Apakah Teknologi AI akan Menggantikan Smartphone di Masa Depan?
Meskipun AI dapat membantu manusia dalam banyak hal, kasus ini membuktikan bahwa teknologi ini masih jauh dari sempurna. Jika tidak diatur dengan baik, kesalahan seperti ini bisa menimbulkan dampak yang serius, baik bagi individu maupun bagi kepercayaan masyarakat terhadap AI secara umum.
OpenAI dan perusahaan AI lainnya perlu mengambil langkah yang lebih tegas dalam memastikan bahwa teknologi mereka tidak hanya kuat dalam menghasilkan teks, tetapi juga memiliki sistem yang lebih akurat dalam memverifikasi kebenaran informasi.
