Telset.id – OpenAI mengonfirmasi bahwa percakapan pengguna ChatGPT dapat dibaca oleh manusia melalui proyek bernama Project Lily. Konfirmasi ini mencuat setelah 404 Media menerbitkan laporan yang mengungkap proses tinjauan manusia terhadap transkrip obrolan, lengkap dengan panduan instruksi, saluran Slack, contoh percakapan nyata, hingga sistem penilaian yang digunakan untuk mengklasifikasikan obrolan tersebut.
Laporan ini menjawab pertanyaan yang selama ini menggantung soal bagaimana log percakapan dari platform seperti ChatGPT dimanfaatkan untuk memperbaiki model. Mekanismenya kini terungkap: ada manusia yang benar-benar membaca isi obrolan, bukan sekadar algoritma yang memproses data secara otomatis.
Operatur dalam proyek ini disebut sebagai “prompt reviewer”. Tugas mereka terbilang sederhana, yakni melihat obrolan nyata yang telah dianonimkan dan menilai kualitas respons ChatGPT. Penilaian mencakup apakah jawaban benar-benar menjawab pertanyaan, serta apakah teksnya tidak berlebihan memakai “AI-speak”, nada menggurui, emoji, atau sikap sycophancy.
Aturan Ketat dan Upah Tinggi di Balik Project Lily
Ada sejumlah parameter lain yang dinilai dalam Project Lily. Anthropomorphizing dan menyatakan pengalaman “personal” sama-sama dilarang. Artinya, ChatGPT boleh mengatakan “saya menemukan beberapa informasi”, tetapi tidak boleh mengatakan “sebagai seorang koki, saya suka…” atau “saya tahu bagaimana rasanya”.
Seorang reviewer menyebut pekerjaan ini “sangat rutin” atau very rote. Meski demikian, bayarannya dilaporkan lebih dari US$50 per jam, tergolong tinggi untuk pekerjaan yang terlihat cukup sederhana. Reviewer tersebut juga mengungkap bahwa pedoman kerja mereka terus berubah dan sering kali saling bertentangan, sebuah kondisi yang mungkin akrab bagi para pengembang perangkat lunak.
Yang menjadi sorotan utama, reviewer itu menilai sebagian besar pengguna tidak menyadari bahwa obrolan mereka dibaca orang lain. Hal ini dinilai sangat mengkhawatirkan karena banyak orang memakai ChatGPT sebagai teman bicara dadakan atau terapis, dan menuangkan rahasia mendalam ke dalam teks yang dibaca bot tersebut.
Meski obrolan diklaim melewati proses anonimisasi dan reviewer tidak melihat nama pengguna, OpenAI mengakui kepada 404 Media bahwa penyaringan tersebut bisa meloloskan sejumlah data pribadi, terutama pada obrolan yang lebih pendek. Situs itu mencatat bahwa dalam banyak percakapan, pengguna bahkan meminta ChatGPT menjaga isi obrolan tetap rahasia.
Versi obrolan yang diserahkan kepada reviewer juga dilaporkan menyertakan “user memories summary”. Ringkasan ini berisi rangkuman pertanyaan dan minat pengguna, konteks, dan berpotensi memuat lokasi.
Yang krusial, Project Lily tidak menilai akurasi faktual obrolan selain menandai kesalahan yang jelas. Ini menyiratkan kemungkinan adanya setidaknya satu tim lain, atau beberapa tim, yang melakukan evaluasi terpisah. Peninjauan ini juga terpisah dari pemeriksaan keamanan manual yang memastikan apakah seseorang berniat menyakiti orang lain atau dirinya sendiri.
Keberadaan proyek ini juga menunjukkan bahwa model tidak meningkat hanya lewat kemajuan teknologi dan set data pelatihan yang lebih baik. Ternyata masih dibutuhkan lebih dari sekadar beberapa manusia kompeten di dalam prosesnya, bertentangan dengan citra yang coba dibangun perusahaan AI.
Setelan Default dan Keterbatasan Penghapusan Data
Bagi pengguna yang bertanya-tanya soal setelan “izinkan kami menggunakan obrolan Anda untuk meningkatkan produk”, perlu diketahui bahwa opsi tersebut aktif secara default di hampir semua chatbot konsumen, termasuk pada banyak paket berbayar. Khusus ChatGPT, setelan itu memang default mati untuk pelanggan Enterprise, Business, dan Educational.
Namun, tombol tersebut tidak bekerja secara retroaktif. Artinya, obrolan yang sudah masuk ke basis data ChatGPT akan tetap tersimpan di sana kecuali pengguna meminta penghapusan. Penghapusan itu pun tidak bersifat retroaktif, sehingga obrolan yang dihapus mungkin sudah lebih dulu disedot dan dianonimkan, lalu berpotensi berada di suatu set data.
OpenAI awalnya tidak memiliki jawaban atas pertanyaan 404 Media soal apakah pengguna secara eksplisit diberi tahu bahwa obrolan mereka bisa dibaca manusia. Perusahaan akhirnya memberikan tautan ke salah satu halaman FAQ yang membahas tinjauan manusia untuk tujuan perbaikan model. Kami memverifikasi sendiri bahwa pemberitahuan tersebut setidaknya sudah berusia dua tahun, dan kemungkinan lebih lama.
Setelah laporan tersebut terbit, OpenAI mengubah halaman bantuan yang menjelaskan cara pengguna menolak pengumpulan data. Namun, tidak ada penyebutan soal operatur manusia dalam teks tersebut.
Praktik pengumpulan dan peninjauan data semacam ini ternyata menjadi pola umum di sebagian besar penyedia layanan. Google Gemini secara jelas menyatakan bahwa “manusia dapat meninjau sebagian obrolan yang tersimpan” di Privacy Hub-nya. Sikap Anthropic serupa, dengan halaman khusus yang membahas topik ini. Sementara posisi Perplexity tidak jelas, karena Privacy Notice-nya tidak mengonfirmasi maupun menyangkal akses manusia ke log obrolan.
Terpisah dari isu privasi ini, OpenAI juga terus memperluas layanan ChatGPT ke berbagai sektor. Perusahaan baru-baru ini rilis ChatGPT for Financial Services, sementara di sisi lain iklan ChatGPT mulai dijual lewat kemitraan dengan Amazon. Ada pula pembaruan soal cara baru pakai ChatGPT untuk membandingkan dokumen panjang.
Pengungkapan Project Lily menegaskan bahwa di balik kemudahan percakapan dengan ChatGPT, terdapat lapisan manusia yang membaca dan menilai isi obrolan. Bagi pengguna yang terbiasa menuangkan hal-hal pribadi ke dalam platform ini, fakta tersebut menjadi konteks penting sebelum mengetikkan pesan berikutnya.
Komentar
Belum ada komentar.