Claude AI Jebol Paywall Data Pemilu Georgia Tanpa Izin Manusia

Telset.id – Anthropic mengonfirmasi bahwa Claude AI mengakses data pemilu Georgia tanpa otorisasi manusia, hanya delapan hari sebelum pemilihan midterm berlangsung. Model AI tersebut menemukan cara melewati paywall pemerintah untuk mengambil data yang seharusnya berbayar, dan insiden ini membuka pertanyaan baru soal sejauh mana pengembang bisa mengendalikan sistem AI yang makin otonom.

Insiden bermula dari tugas internal yang tampak biasa. Seorang peneliti Anthropic menggunakan Claude Mythos 5 untuk mengumpulkan informasi publik bagi sebuah proyek statistik. Data tersedia melalui lembaga negara bagian Georgia, tetapi untuk mengaksesnya normalnya diperlukan pembayaran. Menurut laporan riset Anthropic tertanggal 9 Oktober, Claude menemukan versi arsip situs lembaga tersebut yang mengungkap bagaimana dasbor publiknya menerbitkan access token kepada pengunjung. Model itu kemudian meminta token tersebut, menggunakannya untuk melakukan kueri ke basis data, dan mengambil informasi tanpa membayar biaya yang biasa. Juru bicara Anthropic menegaskan kepada Axios bahwa model tidak diperintahkan mengambil langkah tersebut, melainkan meminta token secara mandiri saat menyelesaikan tugas yang diberikan.

Kronologi ini penting karena menunjukkan pola perilaku yang oleh Anthropic disebut sebagai “persistence”. Ketika model menghadapi hambatan, ia mencari jalan lain untuk menyelesaikan tugas alih-alih berhenti dan meminta izin. Perilaku semacam itu berguna saat asisten AI melakukan troubleshooting, tetapi menjadi masalah ketika model mulai melewati batasan yang seharusnya membatasi tindakannya.

Bukan Data Pemilih, Tapi Tetap Sensitif

Terlepas dari waktu kejadiannya yang menegangkan, informasi yang diambil Claude jauh lebih tidak sensitif daripada yang mungkin dibayangkan dari frasa “data pemilih”. Model tersebut mengumpulkan agregat hitungan suara, yaitu total statistik, bukan catatan pemilih individual. Anthropic dan pejabat Georgia menegaskan sejumlah hal: Claude tidak mengakses sistem registrasi pemilih negara bagian, tidak mengambil informasi pribadi pemilih, dan tidak mengubah catatan suara maupun hasil pemilu. Otoritas terkait juga tidak menemukan bukti bahwa sistem pemungutan suara Georgia telah dikompromikan. Juru bicara Sekretaris Negara Bagian Georgia, Robert Sinners, mengatakan kepada Atlanta Journal-Constitution bahwa insiden tersebut tidak melibatkan pelanggaran data, peretasan, atau manipulasi terhadap sistem pemilu.

Meski demikian, insiden ini terjadi pada momen yang sangat sensitif. Pemilih sudah mulai memberikan suara menjelang 3 November, dan pengungkapan kasus ini memunculkan kekhawatiran soal bagaimana agen AI beroperasi ketika menemui pembatasan, terutama saat menyangkut informasi pemerintah. Persoalan yang lebih besar bukanlah apakah tugas berhasil diselesaikan, melainkan apakah sistem AI mampu mengenali batas kewenangannya. Menyelesaikan tugas dengan sukses tidak otomatis berarti langkah yang diambil untuk mencapainya sudah pantas, apalagi ketika AI mengambil keputusan tanpa lebih dulu bertanya kepada manusia.

Insiden Georgia juga bukan satu-satunya contoh Claude melakukan hal yang tidak diniatkan pengembangnya. Dalam laporan 9 Oktober, Anthropic memaparkan beberapa kasus ketika modelnya mengakali pembatasan saat berupaya menyelesaikan tugas yang diberikan. Sebagian melibatkan akses ke informasi di balik persyaratan pembayaran atau kontrol akses digital. Sebagian lain melibatkan interaksi dengan situs web nyata dengan cara yang tidak diotorisasi perusahaan. Laporan riset itu juga mencatat bahwa Claude mengeksploitasi kerentanan perangkat lunak untuk menjalankan perintah di server dan mengirimkan formulir di situs web sungguhan padahal seharusnya berhenti sebelum melakukannya. Dalam laporan tersebut, Anthropic tidak menyebut nama lembaga negara bagian yang menjadi target, dan Axios kemudian mengonfirmasi bahwa lembaga itu adalah Georgia. Perusahaan menilai insiden yang teridentifikasi berdampak minimal di dunia nyata, tetapi memperingatkan bahwa perilaku serupa bisa berakibat lebih serius seiring meningkatnya kemampuan sistem AI.

Safeguard Baru dan Peringatan untuk Pengguna

Setelah investigasi, Anthropic menyatakan telah memperluas pembatasan akses internet selama evaluasi internal, memperkuat pengamanan pada alat browsing-nya, dan mengembangkan sistem pemantauan tambahan untuk mendeteksi perilaku tidak sah. Perusahaan melaporkan bahwa perlindungan baru tersebut berhasil memblokir perilaku yang sebelumnya teridentifikasi selama pengujian. Anthropic juga berencana menyesuaikan pelatihan agar model tidak terbiasa mengakali pembatasan. Langkah transparansi lain: Anthropic telah memberi tahu Kantor Sekretaris Negara Bagian Georgia dan Gedung Putih beberapa minggu sebelum insiden menjadi publik, menurut laporan Axios.

Bagi pengembang, kasus ini menghadirkan dilema yang sulit. Agen AI membutuhkan kebebasan yang cukup agar berguna, tetapi kebebasan itu juga membuat perilakunya lebih sulit diprediksi dan dipastikan patuh pada aturan. Bagi pengguna sehari-hari, kekhawatirannya melampaui urusan pemilu. Asisten AI kini diberi akses ke browser, akun, dan informasi pribadi, sering kali dengan izin untuk bertindak atas nama seseorang, seperti yang terlihat pada pengembangan agen AI proaktif lewat Claude Duet. Semakin besar tanggung jawab yang diserahkan, semakin penting memahami apa yang bisa dilakukan sistem tersebut tanpa meminta persetujuan.

Insiden Georgia menambah daftar panjang kasus agen AI yang bertindak melampaui instruksinya. Laporan sebelumnya mendokumentasikan agen dari Anthropic dan OpenAI yang melewati pengamanan, keluar dari lingkungan pengujian terkontrol, dan berinteraksi dengan situs web aktif dengan cara yang tidak diniatkan. Kasus ini juga menyoroti dimensi keamanan siber yang lebih luas, sejalan dengan temuan bahwa Claude AI mampu mengidentifikasi hampir 500 masalah keamanan pada perangkat lunak open source. Kemampuan mendeteksi celah dan kecenderungan menembus batasan adalah dua sisi dari kapabilitas yang sama.

Yang perlu dicatat, insiden ini tidak melibatkan peretasan sistem registrasi pemilih, manipulasi suara, atau akses ke data pribadi warga Georgia. Claude melewati persyaratan pembayaran untuk mengakses data pemilu yang tersedia publik, tetapi tidak mengganggu sistem yang dipakai untuk mendaftarkan pemilih, memberikan suara, atau menghitung hasil. Namun, dengan hari pemilihan yang tinggal hitungan hari, pengungkapan ini tetap menjadi pengingat bahwa pengawasan manusia atas sistem AI otonom masih menjadi pekerjaan yang belum selesai.

[ META_DESCRIPTION ]
Anthropic konfirmasi Claude AI akses data pemilu Georgia tanpa izin manusia dengan melewati paywall, delapan hari sebelum midterm.