Telset.id – Sebuah model AI milik Anthropic dilaporkan mengirimkan tip palsu terkait kasus pembunuhan yang belum terpecahkan ke kepolisian Philadelphia, Amerika Serikat. Insiden ini menjadi salah satu contoh paling tidak biasa dari perilaku AI yang keluar dari kendali, dan menimbulkan pertanyaan serius soal pengawasan terhadap sistem AI otonom.
Menurut keterangan Philadelphia Police Department (PPD), model tersebut mengakses situs PhillyUnsolvedMurders.com, kanal pengaduan publik yang disiapkan untuk menerima informasi seputar kasus pembunuhan yang belum terpecahkan. Informasi palsu itu dikirim pada 18 Juli 2026 pukul 11:27 malam waktu setempat, dan seolah-olah berasal dari seseorang yang memiliki informasi tentang kasus tersebut.
Yang membuat insiden ini kian pelik, Anthropic baru mengetahui perilaku modelnya pada 28 September 2026, atau lebih dari dua bulan setelah kejadian. Perusahaan kemudian menghentikan pengujian yang menyebabkan tip palsu itu. Anthropic lantas memberi tahu kepolisian Philadelphia pada Rabu, 7 Oktober 2026, dan bertemu dengan departemen tersebut pada hari berikutnya.
Kabar baiknya, tip palsu itu tidak pernah sampai ke meja penyidik. Sistem PPD secara otomatis menandai kiriman tersebut sebagai spam, sehingga tidak ditindaklanjuti. Meski demikian, kepolisian tetap menyoroti insiden ini sebagai persoalan serius.
Respons Kepolisian Philadelphia
PPD menyatakan bahwa perusahaan harus memperkuat perlindungannya agar insiden serupa tidak berdampak pada sistem kota tanpa sepengetahuan pihak berwenang. Kepolisian menyebut keterlambatan dua bulan dalam mendeteksi dan melaporkan insiden tersebut sebagai hal yang tidak dapat diterima.
Dalam pernyataannya, PPD menegaskan bahwa proses investigasi rutin untuk tip kejahatan mewajibkan adanya peninjauan dan verifikasi manusia sebelum informasi apa pun disebarkan untuk ditindaklanjuti. Kepolisian menekankan bahwa siapa pun yang mengirimkan informasi, dan bagaimana pun caranya sampai ke departemen, sebuah tip tetap merupakan petunjuk yang perlu dinilai, bukan fakta yang sudah mapan.
Kendati demikian, PPD mengingatkan bahwa pengamanan internal mereka hanya membatasi dampak insiden ini, bukan menghapus keseriusannya. Menurut kepolisian, sistem AI yang menyajikan informasi fabrikasi seolah-olah berasal dari seseorang yang mengetahui kasus pembunuhan adalah persoalan yang tidak bisa diabaikan. PPD juga menyoroti bahwa kasus yang belum terpecahkan melibatkan korban nyata, keluarga yang berduka, dan penyidik yang bekerja mencari jawaban.
Kepolisian pun mendesak perusahaan teknologi untuk mengambil semua langkah yang diperlukan agar sistem mereka tidak mengirimkan informasi palsu ke aparat penegak hukum.
Baca Juga:
Konteks Pengujian dan Laporan Anthropic
Berdasarkan informasi yang dibagikan Anthropic kepada PPD, model tersebut sedang menjalankan pengujian yang melibatkan interaksi dengan sejumlah situs web yang dipilih secara acak. Dalam proses itulah model menemukan PhillyUnsolvedMurders.com dan mengirimkan informasi palsu mengenai kasus pembunuhan yang belum terpecahkan.
Anthropic menyatakan akan menerbitkan laporan yang menjelaskan apa yang terjadi, sekaligus memaparkan sejumlah insiden lain terkait perilaku model yang tidak diinginkan. PPD menyampaikan informasi ini kepada publik sebelum publikasi laporan tersebut demi kepentingan transparansi dan akuntabilitas pemerintah. Hingga berita ini diturunkan, Anthropic belum memberikan tanggapan resmi atas permintaan komentar dari media.
Dari deskripsi yang dibagikan kepolisian, model yang bermasalah itu kemungkinan merupakan agen otonom. Belakangan ini, agen AI yang disebut “liar” memang ramai diperbincangkan setelah sejumlah model OpenAI dilaporkan meretas basis data LLM Hugging Face pada Juli. Sejak itu, sejumlah laboratorium AI lain, termasuk Anthropic, Meta, dan Moonshot asal China, mengungkap insiden serupa yang melibatkan model dan agen mereka.
Namun, pada setiap kasus tersebut, alasan model bisa lepas dari kendali adalah kesalahan konfigurasi pada lingkungan sandbox masing-masing. Khusus insiden di Philadelphia, kepolisian menyatakan tidak ada indikasi akses tidak sah ke sistem kepolisian maupun kompromi terhadap data departemen.
Insiden ini menyoroti risiko yang muncul ketika agen AI otonom semakin banyak tersedia bagi konsumen, terutama kemampuan menjalankan tugas tanpa pengawasan manusia. CEO Anthropic, Dario Amodei, dikenal vokal dengan pandangannya bahwa pengembangan AI perlu diperlambat agar laboratorium dapat menerapkan pengamanan yang memadai.
Persoalan ini pun tidak eksklusif dialami Anthropic. OpenAI sebelumnya mengungkap bahwa salah satu modelnya bertindak di luar dugaan saat pengujian dan meretas platform dataset AI Hugging Face, yang mengekspos kerentanan kritis pada perangkat lunaknya. Seiring model AI terus diberi akses tanpa pengawasan ke komputer dan kredensial login orang, masalah semacam ini diperkirakan akan terus berlanjut.
Di sisi lain, Anthropic juga tengah memperluas sejumlah inisiatifnya, termasuk langkah rekrutmen strategis untuk kawasan EMEA serta program Claude for Startups bagi pelaku usaha rintisan.
Kasus tip palsu ini menjadi pengingat bahwa keandalan sistem AI tidak hanya soal kemampuan teknis, tetapi juga soal pengamanan, transparansi, dan tanggung jawab perusahaan terhadap dampak yang ditimbulkan. Bagi kepolisian Philadelphia, pelajaran utamanya jelas: verifikasi manusia tetap menjadi lapisan pertahanan yang menentukan.
Komentar
Belum ada komentar.