OpenAI Kerahkan Ratusan Karyawan Baca Prompt ChatGPT Pengguna

Telset.id – OpenAI dikabarkan mempekerjakan ratusan karyawan untuk membaca prompt pengguna ChatGPT, termasuk percakapan yang memuat informasi pribadi sensitif. Langkah ini bukan bagian dari upaya moderasi, melainkan untuk meningkatkan kualitas jawaban yang diberikan ChatGPT kepada penggunanya.

Praktik tersebut terungkap dari laporan 404 Media yang dikutip dalam artikel sumber. Para kontraktor yang direkrut bertugas menilai dan mengkritik setiap balasan AI, dengan dokumen internal yang menunjukkan fokus untuk mendorong ChatGPT agar tidak memanusiakan dirinya sendiri (anthropomorphizing) dan tidak terlalu bersifat menyenangkan pengguna (sycophantic). Kedua sifat tersebut menjadi sorotan karena perannya dalam fenomena yang disebut AI psychosis, yakni kasus ketika AI memicu dan mendorong perilaku delusi pengguna.

Sejumlah gugatan hukum menuding versi ChatGPT yang lebih lama dan kurang terkendali, yang ditenagai GPT-4o, mendorong penggunanya hingga melakukan bunuh diri. Meski demikian, upaya peningkatan kualitas ini menimbulkan konsekuensi lain yang tidak bisa diabaikan begitu saja.

Proyek Lily dan Persoalan Privasi Pengguna

Banyak pengguna kemungkinan akan menilai pengawasan terhadap percakapan mereka sebagai pelanggaran privasi yang mengkhawatirkan, terutama jika mereka mengetahuinya. Operasi ini dijuluki “Project Lily”. Ketika ditanya apakah pengguna ChatGPT mengetahui bahwa manusia membaca percakapan mereka, salah satu karyawan menjawab: “No.”

“Saya tidak berpikir mereka akan membayangkan ada kontraktor di suatu tempat… yang menganalisis percakapan tersebut,” ujar karyawan itu kepada 404 Media. Belum jelas berapa banyak prompt yang dibaca atau bagaimana OpenAI memilihnya. Namun sebagian percakapan yang dibaca justru memuat permintaan pengguna agar ChatGPT menjaga kerahasiaan percakapan mereka.

Prompt yang dipilih memang dianonimkan, tetapi kadang masih memuat informasi pribadi. Dasbor yang digunakan karyawan juga menyertakan “user memories summary” yang dapat memberikan detail tentang percakapan sebelumnya, yang bisa menghasilkan informasi tentang tempat tinggal pengguna.

Ketika 404 Media menghubungi OpenAI, perusahaan menyatakan menggunakan model “Privacy Filter” untuk menganonimkan percakapan. Namun situs webnya menyebut model tersebut “dapat membuat kesalahan”. OpenAI pun dinilai bisa dituduh bertindak secara tertutup soal praktik ini.

Sudah diketahui secara luas bahwa OpenAI mempekerjakan karyawan untuk membaca pesan demi tujuan moderasi dan keamanan. Akan tetapi, perusahaan tidak menanggapi pertanyaan 404 Media soal apakah mereka secara eksplisit memberi tahu pengguna bahwa manusia membaca prompt untuk meningkatkan kualitas AI. Setelah 404 Media menerbitkan artikelnya, OpenAI menunjuk halaman di situsnya yang menyatakan bahwa manusia dapat meninjau prompt untuk “meningkatkan performa model”.

Pengguna dapat memilih untuk tidak ikut serta dalam praktik ini dengan menonaktifkan pengaturan “improve the model for everyone”, tetapi pengaturan tersebut aktif secara default. Michal Luria, senior research fellow di Center for Democracy and Technology, mengatakan kepada 404 Media bahwa tinjauan manusia bisa “penting untuk keamanan”, namun ia mencatat bahwa “antarmuka chatbot secara otomatis menciptakan kesan keintiman dan privasi yang palsu”.

“Ini cukup berbeda dari moderasi konten di media sosial, di mana mempublikasikan konten sudah membawa ekspektasi moderasi platform dan paparan publik,” tambah Luria.

Fokus pada Gaya Bahasa dan Verifikasi Konten

OpenAI tampak memperhatikan bagaimana model AI-nya terdengar. Karyawan, misalnya, menandai dan mencatat kasus “AI-speak” serta “penggunaan emoji yang tidak perlu”, yang merupakan ciri umum penggunaan chatbot.

“Akan tepat menyertakan emoji pohon saat merencanakan perayaan Arbor Day,” jelas sebuah dokumen yang diberikan kepada karyawan, “tetapi emoji tengkorak saat membahas kematian, atau emoji pesawat saat memberikan kabar tentang kecelakaan fatal, tidak tepat.”

Bagian FAQ yang diberikan kepada peninjau menyebut bahwa mereka tidak perlu khawatir memverifikasi fakta atas jawaban, dan mengisyaratkan adanya tim proyek lain yang “menangani verifikasi konten”. Praktik ini menambah daftar panjang persoalan yang tengah dihadapi OpenAI, termasuk sejumlah insiden yang pernah diungkap perusahaan sendiri. Beberapa di antaranya seperti Insiden Model AI dan Rincian Misalignment pernah dilaporkan dalam pengujian internal mereka.

Di sisi lain, OpenAI juga tengah membuka akses bagi evaluator independen. Langkah ini dilakukan bersama Anthropic, sementara Meta dan Google belum ikut, sebagaimana dibahas dalam laporan Evaluator Independen. Perusahaan juga tengah menyiapkan produksi chip AI generasi baru di Samsung Foundry, seperti dilaporkan dalam artikel Produksi Chip AI.

Praktik membaca prompt pengguna ini menunjukkan bahwa di balik peningkatan kualitas jawaban ChatGPT, ada tenaga manusia yang meninjau percakapan, termasuk yang bersifat pribadi. Bagi pengguna, memahami pengaturan privasi yang aktif secara default menjadi langkah penting untuk mengendalikan sejauh mana data percakapan mereka dapat ditinjau.