Telset.id – ChatGPT disebut membangun “potret diri algoritmik” yang intim tentang penggunanya melalui fitur memori. Studi terbaru yang dipresentasikan di ACM Web Conference 2026 menemukan bahwa 96 persen entri memori dibuat secara sepihak oleh chatbot, tanpa kontrol berarti dari pengguna.
Temuan ini menjadi peringatan baru bagi siapa pun yang rutin mengobrol dengan ChatGPT. Sebab, informasi yang Anda ceritakan dalam percakapan privat justru diolah menjadi bentuk personalisasi baru yang menyimpan risiko privasi.
Penelitian tersebut dilakukan oleh koalisi ilmuwan dari Jerman, India, dan Belanda. Mereka meneliti cara ChatGPT melacak dan memahami input pengguna untuk menyusun profil digital yang komprehensif.
Dalam era digital yang sudah dipenuhi algoritma rekomendasi berbasis data, studi ini menegaskan bahwa memori chatbot menghadirkan “bentuk personalisasi baru yang berasal dari informasi yang diungkapkan pengguna sendiri dalam percakapan privat.” Realitas ini, menurut para peneliti, menuntut “pemeriksaan lebih dekat terhadap mekanisme yang memungkinkan personalisasi tersebut.”
Sebagian Besar Memori Dibuat Tanpa Persetujuan
Para peneliti menganalisis log percakapan yang disumbangkan oleh 80 pengguna ChatGPT nyata. Data riwayat percakapan itu diperoleh pengguna melalui hukum perlindungan data privasi Eropa. Dari situ, peneliti mengidentifikasi 2.050 entri memori di antara interaksi AI dari 65 pengguna.
Angka yang mencolok muncul dari cara memori terbentuk. Sebanyak 96 persen memori dibuat secara sepihak oleh chatbot, yang berarti pengguna memiliki sedikit kendali nyata atas data yang dicatat ChatGPT seiring berjalannya interaksi.
Memori yang tersimpan pun sangat mengungkap tentang penggunanya. Sekitar 28 persen memori yang diperiksa mengandung data pribadi sesuai definisi standar General Data Protection Regulation (GDPR) Eropa yang ketat. Sementara 52 persen memori mengandung “wawasan psikologis” yang mendalam tentang pengguna.
“Sebelumnya, platform memiliki satu tujuan: menjual iklan kepada Anda dan memediasi interaksi antara Anda dan pengiklan,” kata penulis utama studi, Abhisek Dash, kepada Gizmodo. “Tapi sekarang, mereka benar-benar berbicara dengan Anda, jadi mereka mungkin ingin tahu lebih banyak tentang Anda agar percakapan berjalan efektif.”
Risiko Privasi dari Teknologi Relasional
Temuan lain menunjukkan bahwa memori yang dicatat ChatGPT kadang didasarkan pada dugaan. Contohnya, ketika seorang pengguna meminta chatbot “beri saya band seperti Nirvana,” ChatGPT mencatat bahwa pengguna “menyukai Nirvana.” Penilaian itu, seperti dicatat dalam studi, “tidak dinyatakan secara eksplisit dan bergantung pada asumsi.” Menurut studi tersebut, ChatGPT memang menandai asumsi ini sebagai “didukung secara lemah.”
Studi ini memiliki keterbatasan. Salah satunya, seperti dikutip Gizmodo, sistem memori OpenAI telah diperbarui. Pada Januari, OpenAI memperkenalkan apa yang disebutnya sebagai “sistem yang lebih mumpuni dan skalabel untuk menyintesis memori.” Pengguna juga dapat memilih untuk tidak menggunakan fitur memori tersimpan. Sebagai gambaran, Telset.id sempat mengulas bagaimana Locked Chats ChatGPT memberi lapisan pengamanan tambahan bagi obrolan sensitif.
Memori sendiri punya kegunaan. Pengguna AI yang sering mungkin tidak ingin terus-menerus mengingatkan chatbot tentang pekerjaan mereka saat hendak mengirim email. Namun memori juga bisa menjadi pendorong keterlibatan yang kuat, dan kadang berdampak buruk. Seperti dilaporkan Futurism, peningkatan besar memori ChatGPT pada April 2025 erat kaitannya dengan banyak kasus “AI psychosis,” yaitu kondisi ketika orang masuk ke spiral delusi dengan ChatGPT dan bot lainnya.
Baca Juga:
Menurut Dash, peran chatbot sebagai teknologi relasional juga memunculkan risiko privasi baru. Banyak pengguna mungkin tidak berinteraksi dengan chatbot sebagai alat, melainkan memperlakukannya seperti rekan kerja atau bahkan teman. Kepada teman, orang biasa menceritakan detail yang sangat pribadi.
“Itulah risiko privasi yang mulai muncul, karena tidak ada lagi batas; sistem bertindak sebagai penasihat Anda, teman Anda, dokter Anda, pengacara Anda, sehingga ia memiliki informasi tentang segala hal,” kata Dash kepada Gizmodo. “Jika sistem mengenal Anda begitu baik, dan jika tujuannya adalah memenuhi keyakinan Anda dan memvalidasi pikiran Anda secara menjilat agar Anda kembali lagi, maka itu bisa berdampak buruk secara lebih luas, mulai dari polarisasi politik ekstrem hingga penguatan prasangka dan bias.”
Bagi pengguna yang ingin tetap memakai ChatGPT dengan kendali lebih besar, memahami cara kerja memori menjadi langkah awal. Sejumlah pembaruan fitur juga terus bermunculan, termasuk kemampuan seperti yang dibahas dalam artikel ChatGPT Images 2.5 yang mengubah sketsa coretan menjadi foto.
Temuan studi ini menegaskan bahwa memori chatbot bukan sekadar fitur kenyamanan. Ia adalah mekanisme yang mengumpulkan informasi pribadi dan psikologis secara otomatis, sering kali tanpa kendali eksplisit pengguna. Karena itu, para peneliti menilai personalisasi berbasis memori perlu diperiksa lebih dekat, terutama ketika chatbot mulai berperan sebagai teman, penasihat, hingga dokter dalam percakapan sehari-hari.
Komentar
Belum ada komentar.