Telset.id – OpenAI menjalankan proyek bernama Project Lily, sebuah inisiatif yang melibatkan manusia untuk membaca dan menilai transkrip percakapan pengguna ChatGPT. Fakta ini terungkap lewat laporan 404 Media yang mengungkap mekanisme di balik proses review percakapan yang sebelumnya tidak diketahui publik. Laporan tersebut menyoroti bagaimana obrolan pribadi pengguna ternyata bisa dibaca oleh operator manusia, bukan hanya diproses oleh mesin.
Project Lily melibatkan sejumlah operator yang disebut sebagai “prompt reviewers”. Tugas mereka cukup sederhana, yakni melihat percakapan nyata yang sudah dianonimkan dan menilai kualitas respons ChatGPT. Penilaian itu mencakup apakah jawaban benar-benar menjawab pertanyaan, serta apakah teksnya tidak berlebihan memakai “AI-speak”, nada menggurui, emoji, atau sikap sycophancy.
Menurut seorang reviewer, pekerjaan ini terbilang “very rote” atau sangat monoton. Namun, bayarannya dilaporkan lebih dari US$50 per jam atau setara sekitar Rp800 ribuan per jam, angka yang terbilang tinggi untuk pekerjaan yang terlihat cukup sederhana. Reviewer tersebut juga menyebut pedoman kerjanya terus berubah dan sering kali saling bertentangan.
404 Media memperoleh informasi soal Project Lily dari sejumlah dokumen internal, termasuk panduan instruksi, saluran Slack, percakapan ChatGPT asli, dan sistem rating untuk mengklasifikasikan percakapan. Hal ini menunjukkan bahwa layanan ChatGPT tidak sepenuhnya dikelola oleh mesin. Ada peran manusia yang menilai kualitas percakapan di balik layar.
Reviewer tersebut menilai sebagian besar pengguna tidak menyadari bahwa obrolan mereka dibaca orang lain. Kondisi ini dinilai cukup mengkhawatirkan, terutama karena banyak orang memakai ChatGPT layaknya teman curhat atau terapis dadakan. Mereka menuangkan rahasia mendalam ke dalam kata-kata untuk dibaca oleh bot. Padahal, isi percakapan itu bisa sampai ke tangan manusia.
Anonimisasi Tidak Sepenuhnya Melindungi Data
Percakapan yang diberikan kepada reviewer disebut telah melalui proses anonimisasi, sehingga mereka tidak melihat nama pengguna. Meski demikian, OpenAI mengakui kepada 404 Media bahwa proses penyaringan tersebut masih bisa meloloskan sejumlah data pribadi. Risiko ini terutama muncul pada percakapan yang lebih pendek.
404 Media juga mencatat bahwa dalam banyak percakapan, pengguna meminta ChatGPT menjaga kerahasiaan isi obrolan mereka. Selain itu, versi percakapan yang diserahkan ke reviewer dilaporkan menyertakan “user memories summary”. Ringkasan ini berisi rangkuman pertanyaan dan minat pengguna, konteks, bahkan berpotensi memuat lokasi.
Ada satu hal penting dari Project Lily. Proyek ini tidak menilai akurasi faktual percakapan secara menyeluruh, kecuali hanya menandai kesalahan yang jelas. Artinya, kemungkinan ada setidaknya satu tim lain atau beberapa tim yang melakukan evaluasi terpisah. Review ini juga terpisah dari pemeriksaan keamanan manual yang menentukan apakah seseorang mungkin berniat menyakiti orang lain atau dirinya sendiri.
Keberadaan proyek ini menunjukkan bahwa model AI tidak berkembang hanya lewat kemajuan teknologi dan set data pelatihan yang lebih baik. Ternyata, masih dibutuhkan sejumlah manusia yang kompeten di dalam prosesnya. Hal ini bertentangan dengan citra yang coba dibangun perusahaan AI bahwa model bisa meningkat sendiri.
Bagi pengguna, pertanyaan berikutnya adalah soal pengaturan “izinkan kami memakai obrolan Anda untuk meningkatkan produk” yang ada di sebagian besar chatbot konsumen. Pengaturan itu aktif secara default di hampir semua bot, bahkan pada banyak paket berbayar. Khusus ChatGPT, pengaturan tersebut secara default nonaktif untuk pelanggan Enterprise, Business, dan Educational.
Namun, tombol tersebut tidak bekerja secara retroaktif. Artinya, semua obrolan yang sudah masuk ke basis data ChatGPT akan tetap tersimpan di sana kecuali pengguna meminta penghapusan. Penghapusan itu pun tidak bersifat retroaktif, sehingga obrolan yang sudah dihapus mungkin telah disedot dan dianonimkan, lalu berpotensi berada di suatu set data.
Awalnya OpenAI tidak punya jawaban atas pertanyaan 404 Media soal apakah pengguna secara eksplisit diberi tahu bahwa obrolan mereka bisa dibaca manusia. Perusahaan akhirnya memberikan tautan ke salah satu halaman FAQ yang membahas review manusia untuk tujuan peningkatan model. Tom’s Hardware memverifikasi bahwa pemberitahuan itu setidaknya sudah berusia dua tahun, bahkan mungkin lebih lama.
Setelah laporan tersebut terbit, OpenAI mengubah halaman bantuan yang menjelaskan cara pengguna menolak pengumpulan data. Namun, dalam teks itu tidak ada penyebutan soal operator manusia. Perubahan ini dilakukan setelah sorotan publik muncul.
Praktik Serupa Berlaku di Provider AI Lain
Pengumpulan dan peninjauan data semacam ini ternyata menjadi tema yang berulang di sebagian besar penyedia layanan AI. Google Gemini secara jelas menyatakan bahwa “manusia dapat meninjau sebagian obrolan yang tersimpan” di Privacy Hub mereka. Sikap Anthropic juga serupa, dengan halaman khusus yang membahas topik ini.
Berbeda dengan keduanya, sikap Perplexity justru tidak jelas. Privacy Notice mereka tidak mengonfirmasi maupun menyangkal akses manusia ke log percakapan. Ketidakjelasan ini menambah daftar panjang pertanyaan soal transparansi data di industri AI.
Bagi pengguna yang memanfaatkan ChatGPT untuk keperluan pribadi maupun pekerjaan, temuan ini menjadi pengingat bahwa obrolan tidak sepenuhnya privat. Ada proses di balik layar yang melibatkan manusia. Sejumlah panduan soal penggunaan ChatGPT pun sebaiknya mempertimbangkan aspek kerahasiaan ini.
Di sisi lain, industri AI terus bergerak cepat. Berbagai pengembangan baru terus muncul, termasuk langkah komersial seperti iklan ChatGPT di pasar tertentu. Namun, isu privasi dan keterlibatan manusia dalam review data tetap menjadi perhatian yang tidak bisa diabaikan begitu saja.
Project Lily mengungkap satu hal yang jarang dibahas publik, yakni bahwa di balik kecanggihan model bahasa, ada manusia yang membaca percakapan nyata pengguna. OpenAI sendiri belum memberikan penjelasan rinci soal sejauh mana data pribadi bisa lolos ke reviewer. Sampai informasi lebih jelas tersedia, pengguna sebaiknya menyadari bahwa obrolan di ChatGPT tidak selalu sepenuhnya rahasia.
Komentar
Belum ada komentar.