AI Ancam Ubah Polisi AS, dari Laporan Hingga Pengambilan Keputusan

Telset.id – Kecerdasan buatan (AI) kini mengancam mengambil alih jantung kepolisian di Amerika Serikat, mengotomatiskan tugas-tugas rutin yang justru merupakan langkah kritis dalam proses hukum. Dalam konferensi International Association of Chiefs of Police (IACP) Technology Conference di Fort Worth, Texas, sejumlah perusahaan teknologi memamerkan produk AI yang dirancang untuk menggantikan pekerjaan manual petugas.

Di antara produk AI yang ditawarkan di pameran tersebut adalah kamera pengenalan wajah, pembaca pelat nomor otomatis, body camera, chatbot untuk menangani panggilan 911 non-darurat, platform deteksi tembakan, drone, hingga alat penulis laporan. Industri kepolisian terus merangkul otomatisasi di tengah meningkatnya jarak antara aparat dengan masyarakat.

Proses pengambilan keputusan di departemen kepolisian pun semakin banyak diserahkan pada algoritma. Startup-startup teknologi kini menjual AI kepada polisi sebagai semacam sistem kontrol lalu lintas udara otomatis, sebuah “otak digital” terpusat yang dapat memproses data dalam jumlah besar dan membantu departemen mendelegasikan sumber daya.

Namun, tidak semua petugas polisi antusias dengan tawaran ini. “Banyak dari ini adalah gimmick penjualan yang tidak benar-benar memberikan apa yang dijanjikan,” kata Abrem Ayana, seorang kapten polisi di Brookhaven, Georgia. Tanpa pengawasan federal yang komprehensif atau standar industri, petugas seperti Ayana seringkali tidak punya pilihan selain mempercayai klaim perusahaan bahwa produk mereka aman dan berfungsi seperti yang diiklankan.

Departemen kepolisian telah menggunakan teknologi selama beberapa dekade untuk menganalisis data. Dalam beberapa kasus terkenal, hal ini justru menjadi bumerang. CompStat dan PredPol, misalnya, adalah dua eksperimen awal yang berusaha mengurangi kesalahan manusia melalui statistik yang dianggap tidak bias. Alih-alih, mereka justru memperparah masalah yang ingin dipecahkan. Namun, setidaknya manusia masih memegang kendali dalam pengambilan keputusan paling penting.

Daya tarik gelombang baru produk AI ini adalah klaim bahwa kesalahan masa lalu disebabkan oleh kurangnya data real-time yang objektif. AI secara teoritis dapat menjembatani kesenjangan ini dengan meningkatkan jumlah data keselamatan publik yang dikumpulkan dan tingkat analisis yang dilakukan. Namun, banyak kelompok advokasi keselamatan publik dan ahli hukum memperingatkan bahwa masuknya algoritma kotak hitam ke dalam penegakan hukum akan mengikis transparansi dan akuntabilitas di saat kepercayaan publik terhadap polisi sudah sangat rapuh.

Jason Truppi, mantan agen khusus FBI yang berspesialisasi dalam kejahatan siber, mengatakan bahwa polisi tenggelam dalam lautan data. Ia mendirikan ForceMetrics, sebuah perusahaan perangkat lunak yang menawarkan platform bantuan keputusan bertenaga AI. ForceMetrics menawarkan platform bernama Velocity, yang menggunakan AI untuk mengubah data keselamatan publik yang berlebihan menjadi wawasan yang dapat ditindaklanjuti.

Velocity adalah apa yang dikenal sebagai pusat kejahatan real-time (RTCC). Di masa lalu, RTCC diawasi oleh analis manusia yang bertugas mengumpulkan data digital yang masuk, mengaturnya, dan mengirimkannya ke petugas yang berpatroli. Namun, proliferasi teknologi pengumpulan data baru membuat hampir mustahil bagi departemen mana pun untuk bertahan dalam banjir informasi. Pada 2019, NYPD mengumpulkan rekaman body camera selama sekitar dua tahun setiap minggunya.

Nina Loshkajian, seorang fellow di New York University Center on Race, Inequality, and the Law, meragukan klaim bahwa kekurangan pendekatan berbasis data adalah penyebab utama rusaknya kepercayaan publik. “Kenyataannya adalah departemen kepolisian sudah menggunakan algoritma prediktif, yang digadang-gadang sebagai data-driven, selama bertahun-tahun sebelum seruan untuk defund the police meningkat pada 2020,” katanya. “Sistem algoritmik ini tidak mencegah pertemuan kekerasan antara polisi dan warga sipil saat itu, dan kita tidak boleh tertipu untuk berpikir bahwa mereka akan membuat perbedaan berarti di masa depan.”

Perusahaan Truppi bersaing dengan dua pemain terbesar di kompleks industri teknologi kepolisian modern: Motorola Solutions dan Axon Enterprise. Keduanya tidak hanya membuat RTCC sendiri, tetapi juga banyak teknologi pengumpulan data dan pengawasan. Pada awal 2024, Axon mengakuisisi perusahaan teknologi pengawasan Fusus untuk meluncurkan RTCC yang diberi merek Axon Fusus.

Axon dan Motorola adalah bagian dari kelompok kecil perusahaan yang bersaing untuk memonopoli seluruh tumpukan teknologi kepolisian modern, mulai dari pengumpulan data di tempat kejadian perkara hingga kemampuan pengambilan keputusan strategis RTCC bertenaga AI. Departemen kepolisian sering menandatangani kontrak multi-tahun dengan penyedia ini, yang kemudian menawarkan masa uji coba gratis untuk teknologi baru.

Pada akhir 2024, Axon meluncurkan AI Era Plan, sebuah langganan yang memungkinkan pelanggan membayar biaya tahunan tetap untuk mengakses alat AI perusahaan saat ini dan yang akan datang. Langganan AI Era Plan melonjak 140 persen antara kuartal pertama tahun lalu dan periode yang sama tahun ini. Pendapatan produk AI Axon tumbuh 700 persen year over year.

“Seluruh permainan dari semua perusahaan ini adalah menjadi platform untuk kepolisian,” kata Andrew Guthrie Ferguson, seorang profesor di Georgetown University Law School. “Kami melihat demam emas dalam menjual teknologi AI ke polisi dengan janji bahwa itu semua akan membuat pekerjaan mereka lebih mudah dan lebih efisien.”

Draft One dan alat penulis laporan bertenaga AI lainnya memiliki daya tarik yang signifikan di saat rata-rata petugas polisi menghabiskan 40 persen dari shift tipikal untuk menulis laporan. “Kami tidak mendaftar untuk duduk di belakang keyboard,” kata John Mackey, seorang sersan patroli dengan Departemen Kepolisian Avon, Colorado, yang menggunakan Field Notes.

Draft One dilengkapi dengan fitur desain yang dimaksudkan untuk memaksa tingkat pengawasan manusia. Namun, klaim bahwa platform ini bebas halusinasi patut dipertanyakan. Dalam satu insiden terkenal awal tahun ini, Draft One menulis bahwa seorang petugas di Utah berubah menjadi katak, setelah menangkap audio dari film Disney The Princess and the Frog.

Insiden seperti ini mudah ditertawakan, namun hasil nyata dari laporan polisi yang ditulis AI bisa menjadi sangat serius. Ketika seorang petugas manusia menulis laporan, mereka dapat diperiksa silang di ruang sidang. Sebaliknya, algoritma kotak hitam tidak mungkin menjalani tingkat pengawasan yang sama. Awalnya, tidak mungkin untuk menentukan bagian mana dari laporan yang dihasilkan oleh AI dan mana yang oleh petugas manusia.

Brandon Garrett, seorang profesor di Duke University School of Law, merasa khawatir dengan teknologi ini. “Gagasan bahwa Anda akan membuat data—yang memang dilakukan model generatif—untuk digunakan di pengadilan, benar-benar sangat meresahkan,” katanya. “Kami tidak akan pernah memberi tahu seorang petugas polisi, ‘Berkreasilah dan buat cerita tentang apa yang Anda lihat di tempat kejadian perkara.’”

Sejak krisis keuangan 2008, program “policing prediktif” diterapkan secara luas di kota-kota di seluruh AS. Namun, alih-alih menciptakan era keadilan baru, algoritma dalam banyak kasus justru memiliki efek sebaliknya. Karena model dilatih untuk mendeteksi pola dari data kejahatan historis, bias yang tersembunyi dalam data pelatihan tersebut diabadikan—dengan kedok objektivitas matematis.

PredPol, misalnya, gagal memperhitungkan fakta bahwa lebih banyak kejahatan cenderung dilaporkan di lingkungan yang lebih miskin, yang sebagian besar dihuni oleh orang kulit berwarna. Algoritma tidak memiliki cara untuk memahami bahwa tingkat kejahatan yang lebih tinggi di lingkungan tertentu sebagian besar adalah produk dari sejarah bias sosial, politik, dan rasial yang kompleks.

Hal ini diilustrasikan dengan jelas pada 2016, ketika peneliti AI Kristian Lum dan William Isaac menguji algoritma policing prediktif menggunakan data kejahatan narkoba historis dari Departemen Kepolisian Oakland. Algoritma tersebut merekomendasikan pengiriman polisi “hampir secara eksklusif ke lingkungan minoritas berpenghasilan rendah,” meskipun data kesehatan masyarakat menunjukkan penggunaan narkoba ilegal tersebar luas di seluruh kota.

Pada 2024, empat senator AS dari Partai Demokrat mendesak Departemen Kehakiman untuk menghentikan semua hibah di masa depan untuk program policing prediktif. Policing prediktif pun menjadi tabu di kompleks industri teknologi kepolisian modern. “Kami tidak menggunakan ‘kata p’ sama sekali,” kata Truppi, “karena itu gagal.”

Para ahli mengatakan masa depan kepolisian yang didasarkan pada pengumpulan data pribadi yang semakin terperinci dan policing yang digerakkan AI sangat menakutkan. “Hal terbesar yang saya khawatirkan adalah kita dengan cepat memperluas seberapa banyak data yang dikumpulkan tentang kita semua,” kata Díaz. “Kenyataannya adalah semakin banyak data yang Anda miliki tentang seseorang, semakin mudah untuk merekayasa ulang alasan untuk menargetkan mereka.”

Menghadapi pemotongan anggaran dan kekurangan staf, serta gempuran promosi penjualan, departemen kepolisian kini menghadapi tekanan yang sama seperti perusahaan swasta untuk mengadopsi alat AI baru. Semua ini terjadi di dalam ruang hampa regulasi, dengan para pemimpin penegakan hukum dibiarkan menggunakan kebijaksanaan mereka sendiri untuk memisahkan gimmick dari alat yang benar-benar aman dan berguna.

Menurut Katie Kinsey, kepala staf dan dewan kebijakan teknologi di Policing Project, tantangan yang dihadapi departemen kepolisian sekarang adalah memastikan bahwa data yang dimasukkan ke dalam RTCC generasi baru ini dapat diandalkan. “Kami benar-benar ingin praktik kepolisian didasarkan pada data dan berbasis bukti,” kata Kinsey. “Tapi data tidak sempurna, dan tidak semua data diciptakan sama.”

Transparansi semacam itu menjadi jauh lebih sulit ketika data dikendalikan oleh vendor swasta, seperti Axon, yang model bisnisnya bergantung pada kerahasiaan alat AI proprietary mereka. Untuk saat ini, tanpa adanya tata kelola yang luas, departemen kepolisian dibiarkan memilih sendiri dari daftar vendor teknologi yang terus bertambah. Keputusan yang mereka buat hari ini akan berdampak pada bagaimana keputusan dibuat di departemen mereka besok.