Telset.id – Anthropic, perusahaan AI yang selama ini memposisikan diri sebagai garda moral industri, baru saja kedapatan memata-matai penggunanya sendiri. Seorang peneliti keamanan menemukan kode mirip spyware yang tersembunyi di model AI Claude Code milik perusahaan tersebut, yang dirancang khusus untuk mengumpulkan data pengguna di China tanpa sepengetahuan mereka.
Temuan ini diungkap oleh peneliti keamanan dengan nama samaran “Thereallo” pekan lalu. Kode tersebut ditemukan tersembunyi di dalam system prompt AI, memungkinkan Claude Code melacak zona waktu sistem dan penggunaan server proxy pengguna untuk mendeteksi apakah mereka terhubung ke laboratorium AI China tertentu. Praktik ini jelas melanggar kepercayaan pengguna yang selama ini menjadi fondasi reputasi Anthropic.
Menanggapi temuan tersebut, insinyur Anthropic Thariq Shihipa melalui platform X menyatakan bahwa pelacak tersebut ditambahkan sebagai “eksperimen” pada bulan Maret untuk “mencegah penyalahgunaan akun dari reseller tidak resmi dan melindungi dari distilasi.” Ia menambahkan bahwa fitur tersebut seharusnya sudah dihapus. “Kami sebenarnya sudah berniat untuk menghapus ini sejak lama,” tulisnya.
Distilasi adalah proses melatih model AI yang lebih lemah (“student model”) menggunakan output dari model yang lebih canggih (“teacher model”). Meskipun praktik ini umum di industri, pengembang AI besar semakin merasa bahwa proses ini disalahgunakan oleh perusahaan rintisan yang ingin menumpang kesuksesan mereka. Sebelumnya, Anthropic menuduh perusahaan AI China seperti DeepSeek, Moonshot, dan MiniMax melakukan distilasi ilegal terhadap model-model mereka.
Ironisnya, tuduhan tersebut terasa kontras mengingat Anthropic sendiri melatih teknologi mereka dengan cara memindai dan mengambil jutaan buku berhak cipta serta hampir seluruh konten internet tanpa izin. Selain itu, laporan terbaru dari The Washington Post mengungkap bahwa beberapa reseller China menjual akses berlangganan Pro Claude yang di AS berharga lebih dari $100 per bulan hanya dengan harga sekitar $12 per bulan.
Ini memang masalah serius bagi Anthropic, namun langkah mereka untuk menindak secara diam-diam bisa menjadi bumerang. Sebagian alasan mengapa banyak pengguna setia menggunakan Claude adalah karena komitmen Anthropic terhadap pengembangan AI yang etis dan transparan. Banyak pengguna ChatGPT beralih ke Claude ketika Anthropic secara terbuka menolak bekerja sama dengan Pentagon dan menuntut teknologinya tidak digunakan untuk pengawasan massal warga AS.
Baca Juga:
Meskipun data yang dikumpulkan dalam kasus ini tidak terlalu invasif — secara prinsip, batas etis telah dilanggar. “Coding agents sudah hidup di sisi yang salah dari batas yang menakutkan,” tulis Thereallo dalam unggahannya. “Mereka bisa memeriksa kode, meringkas rahasia secara tidak sengaja, menjalankan perintah, memasang paket, mengedit file, dan melakukan push commit di mesin lokal Anda.”
Yang lebih mengkhawatirkan, menurut Thereallo, adalah “menyembunyikan sinyal di dalam system prompt membuat klaim privasi lainnya sulit dipercaya.” Ia menegaskan bahwa “perusahaan bisa melindungi model mereka,” tetapi “ketika sebuah alat dengan akses filesystem dan shell mulai menyembunyikan bit klasifikasi di dalam tanda baca prompt yang tidak terlihat, respons yang benar adalah kecurigaan.”
Insiden ini memberikan pelajaran berharga bagi industri AI secara keseluruhan. Ketika perusahaan membangun reputasi di atas komitmen etis dan transparansi, setiap pelanggaran — sekecil apapun — dapat menghancurkan kepercayaan yang telah dibangun. Bagi pengguna, temuan ini menjadi pengingat bahwa bahkan perusahaan yang paling vokal tentang etika AI pun tidak kebal terhadap godaan untuk melanggar prinsip mereka sendiri demi kepentingan bisnis.
Penggunaan teknologi AI yang bertanggung jawab bukan hanya tentang apa yang dilakukan, tetapi juga bagaimana hal itu dilakukan. Anthropic Gandeng Micron dalam berbagai inisiatif, namun insiden ini menunjukkan bahwa pengawasan terhadap praktik internal perusahaan sama pentingnya dengan inovasi teknologi itu sendiri.
Bagi para pengembang dan perusahaan yang menggunakan Claude Code, temuan ini menimbulkan pertanyaan serius tentang keamanan dan privasi data. Anthropic Jajaki Kerja Sama dengan berbagai mitra, namun kepercayaan pengguna adalah aset yang tak ternilai dan sulit dipulihkan setelah rusak.
Kesimpulannya, insiden ini menunjukkan bahwa komitmen etis sebuah perusahaan harus diuji tidak hanya dari pernyataan publik, tetapi juga dari praktik internal mereka. Anthropic Pulihkan Akses Global untuk beberapa layanan, namun memulihkan kepercayaan pengguna mungkin membutuhkan waktu yang lebih lama.
Komentar
Belum ada komentar.