OpenAI Private Safety Processing: Privasi Tanpa Simpan Data

Telset.id – OpenAI mengumumkan layanan baru bernama Private Safety Processing yang dirancang untuk memantau penyalahgunaan AI tanpa menyimpan data pelanggan. Langkah ini menjadi pembeda jelas dengan kebijakan retensi data Anthropic yang menuai kekhawatiran dari kalangan enterprise.

Private Safety Processing merupakan sistem otomatis yang mengawasi potensi penyalahgunaan sekaligus tidak menyimpan data pelanggan sama sekali. Pendekatan privasi ini secara langsung bertolak belakang dengan kebijakan penyimpanan data yang baru-baru ini diterapkan Anthropic.

Kebijakan Anthropic yang diumumkan pada Juli tersebut memungkinkan lab AI menyimpan data pengguna, termasuk semua sesi dan percakapan, selama 30 hari untuk model yang termasuk kategori “covered models”. Kebijakan ini mencakup semua model kelas Mythos dan model masa depan dengan kemampuan serupa.

Kebijakan tersebut dirancang untuk tujuan keamanan, memungkinkan lab menganalisis potensi pelanggaran. Namun, kebijakan ini sangat mengkhawatirkan sejumlah perusahaan yang menangani data sensitif dalam jumlah besar dan tidak ingin data mereka disimpan atau diperiksa oleh lab AI.

Zero Data Retention Diperluas

OpenAI, seperti kebanyakan perusahaan AI lain, sebenarnya sudah memberikan tingkat privasi relatif kepada pelanggan melalui kebijakan Zero Data Retention (ZDR). ZDR menggunakan agen dalam API OpenAI untuk memantau penyalahgunaan berdasarkan sesi per sesi. Dengan cara ini, data pelanggan tidak disimpan oleh perusahaan, tetapi perusahaan tetap dapat memindai aktivitas buruk tanpa intervensi manusia.

Perlu dicatat bahwa Anthropic juga sebagian besar mematuhi ZDR, kecuali untuk “covered models” seperti Fable. OpenAI menyatakan Private Safety Processing adalah teknologi baru yang memperluas cakupan ZDR.

Teknologi ini digambarkan sebagai bentuk pemantauan keamanan jangka panjang yang menilai input dan output dari beberapa percakapan, bukan hanya satu percakapan. Pemantauan dilakukan oleh agen yang, jika terpicu, menangkap interaksi dan menganalisisnya lintas sesi untuk mencari tanda-tanda potensi penyalahgunaan.

Deteksi Penyalahgunaan Multi-Sesi

Teknologi baru ini membantu OpenAI mendeteksi penggunaan AI secara jahat yang terjadi melalui beberapa sesi. Seorang aktor jahat, misalnya seseorang yang mencoba merekayasa malware untuk serangan siber, mungkin menyebarkan permintaan mereka untuk menghindari deteksi.

Private Safety Processing dapat menganalisis beberapa percakapan tersebut untuk mencari tanda-tanda penyalahgunaan tanpa tinjauan manusia terhadap percakapan pengguna. Jika sistem terpicu, sistem dapat mengirim “sinyal yang didefinisikan secara sempit” ke OpenAI yang memperingatkan tentang jenis aktivitas tertentu.

Berdasarkan sinyal tersebut, OpenAI dapat memutuskan apakah “penegakan diperlukan”. Jika diperlukan, OpenAI akan menghubungi pelanggan untuk konteks lebih lanjut atau bekerja sama dengan mereka. Pelanggan dapat memilih untuk berbagi data dengan OpenAI sesuai kebijaksanaan mereka.

Sebagai perbandingan, Anthropic mencatat bahwa tinjauan manusia terhadap data pelanggan dapat terjadi, tetapi hanya melalui “jalur akses terkontrol” yang melibatkan “sekelompok kecil peninjau yang disetujui”. Setiap sesi tinjauan tersebut dicatat dalam “log anti-rusak yang tidak dapat ditekan atau dimodifikasi oleh peninjau”.

Persaingan Ketat dengan Anthropic

Persaingan korporasi antara OpenAI dan Anthropic saat ini sangat intens, dengan kedua perusahaan mencari peluang untuk mendapatkan keunggulan satu sama lain. Laporan terbaru menunjukkan pertumbuhan Q2 OpenAI lebih lambat dibandingkan Anthropic.

Pendapatan tahunan Anthropic kini dilaporkan mencapai $65 miliar. Investor Anthropic menyebut perusahaan bisa IPO dengan valuasi $2 triliun, sementara OpenAI juga sedang mengerjakan IPO-nya.

Langkah OpenAI meluncurkan Private Safety Processing ini merupakan upaya untuk menarik pelanggan enterprise yang mengutamakan privasi data. Dengan menawarkan pemantauan keamanan tanpa penyimpanan data, OpenAI berusaha mengatasi kekhawatiran yang muncul akibat kebijakan retensi data kompetitornya.

Bagi perusahaan yang menangani data sensitif, pilihan antara kebijakan privasi ketat OpenAI dan kebijakan retensi data Anthropic menjadi pertimbangan penting. Persaingan ini pada akhirnya menguntungkan pelanggan karena mendorong inovasi dalam hal keamanan dan privasi.

Perkembangan ini juga menarik diamati mengingat kontroversi suara Sky yang pernah menimpa OpenAI sebelumnya. Selain itu, mode ultrafast yang dirilis OpenAI menunjukkan perusahaan terus berinovasi di berbagai lini.

Kemitraan dengan IBM untuk perusahaan global juga memperkuat posisi OpenAI di segmen enterprise. Dengan Private Safety Processing, OpenAI menawarkan solusi yang menjawab kebutuhan keamanan sekaligus privasi bagi pelanggan korporat.

Ke depan, keputusan pelanggan enterprise akan menentukan apakah pendekatan privasi ketat OpenAI mampu menggeser posisi Anthropic di pasar. Yang jelas, kedua perusahaan sama-sama serius dalam hal keamanan AI, hanya dengan pendekatan yang berbeda.