Telset.id – Penerapan teknologi kecerdasan buatan atau Artificial Intelligence (AI) dalam sistem keamanan sekolah di Amerika Serikat kini menjadi sorotan tajam setelah terbukti memicu gelombang penangkapan siswa yang tidak perlu. Alih-alih menciptakan lingkungan belajar yang aman, sistem pengawasan canggih ini justru kerap gagal memahami konteks percakapan remaja, menyebabkan trauma psikologis mendalam bagi para siswa yang menjadi korban “salah tangkap” akibat algoritma yang terlalu sensitif.
Fenomena ini menyoroti sisi gelap dari ketergantungan institusi pendidikan pada teknologi pemantauan otomatis. Di era modern ini, sistem pengawasan AI memang telah menjamur di mana-mana, mulai dari memantau jalan raya, melacak pembelian kita di toko kelontong, hingga mengawasi toilet sekolah. Namun, laporan terbaru mengungkapkan bahwa sistem ini memiliki kelemahan fatal: mereka terlalu agresif dalam menandai perilaku yang dianggap buruk, yang berujung pada tingginya angka penahanan paksa terhadap anak di bawah umur.
Investigasi mendalam yang dilakukan oleh Milwaukee Independent menemukan fakta mengejutkan bahwa sekolah-sekolah yang menggunakan sistem pengawasan untuk memantau obrolan online terkait kekerasan telah mencatat jumlah “hits” atau peringatan positif yang mencengangkan. Sayangnya, sebagian besar dari peringatan tersebut bukanlah ancaman nyata yang dapat ditindaklanjuti, namun tetap berujung pada interogasi dan penahanan.
Kegagalan Algoritma Memahami Konteks
Salah satu contoh paling mencolok dari kegagalan sistem ini terjadi di distrik sekolah Lawrence, Kansas. Di wilayah ini, sebuah alat pemantauan keamanan online bernama Gaggle menandai lebih dari 1.200 insiden online hanya dalam periode 10 bulan. Angka ini mungkin terdengar mengerikan pada awalnya, seolah-olah sekolah tersebut berada dalam zona perang.
Namun, setelah ditelusuri lebih lanjut oleh Independent, ditemukan bahwa dua pertiga dari ribuan peringatan tersebut adalah masalah sepele atau “non-isu”. Sistem tersebut gagal membedakan antara ancaman serius dengan percakapan remaja biasa, lelucon, atau sarkasme. Meskipun teknologi seperti ini sering digadang-gadang memiliki spesifikasi lengkap dan canggih dalam mendeteksi pola kata, kenyataannya kemampuan mereka dalam memahami nuansa bahasa manusia masih sangat terbatas.
Masalah ini menjadi semakin pelik ketika diterapkan di negara bagian yang memiliki undang-undang pelaporan “nol toleransi” (zero-tolerance) seperti Tennessee atau Florida. Di wilayah-wilayah ini, pihak sekolah diwajibkan secara hukum untuk melaporkan kepada polisi setiap kali ada siswa yang mengisyaratkan kekerasan dalam bentuk apa pun, tanpa memandang konteks atau niat di balik ucapan tersebut.
Di Distrik Sekolah Polk County, Florida, dampaknya sangat nyata dan meresahkan. Selama empat tahun penggunaan, sistem Gaggle menandai sekitar 500 siswa. Akibat dari undang-undang yang kaku tersebut, setidaknya 72 anak sejauh ini telah ditangkap atau dirawat di rumah sakit secara paksa di bawah undang-undang kesehatan mental negara bagian yang dikenal sebagai Baker Act.
Baca Juga:
Trauma Psikologis Akibat Teknologi
Dampak dari penangkapan dan pemeriksaan paksa ini jauh melampaui sekadar catatan disipliner sekolah. Sam Boyd, seorang pengacara dari Southern Poverty Law Center, menegaskan kepada Independent bahwa pengalaman ini meninggalkan bekas luka psikologis yang dalam bagi anak-anak.
“Jumlah anak yang sangat tinggi yang mengalami pemeriksaan paksa mengingatnya sebagai pengalaman yang sangat traumatis dan merusak—bukan sesuatu yang membantu perawatan kesehatan mental mereka,” ujar Boyd. Ironisnya, teknologi yang seharusnya melindungi siswa justru menjadi sumber trauma baru. Hal ini mengingatkan kita pada risiko diskriminasi yang sering menghantui penerapan AI dalam ranah sosial.
Banyak dari siswa ini bahkan tidak menyadari bahwa email, obrolan online, dan pencarian Google mereka di peralatan sekolah sedang dipantau secara real-time. Mereka juga sering kali tidak merasa telah melakukan kesalahan apa pun. Ketidaktahuan ini menambah rasa syok ketika tiba-tiba mereka harus berhadapan dengan aparat penegak hukum.
Kasus memilukan dialami oleh seorang ibu di Tennessee bernama Lesley Mathis. Ia menceritakan bagaimana putrinya yang duduk di kelas delapan ditangkap, diinterogasi, digeledah (strip-searched), dan ditahan di penjara selama satu malam hanya karena lelucon online.
Secara spesifik, teman-teman siswa tersebut telah mengejeknya tentang kulitnya yang berwarna “Meksiko”, meskipun ia memiliki garis keturunan yang berbeda. Sebagai respons defensif khas remaja, siswi kelas delapan itu membalas dengan gurauan, “Pada hari Kamis kita bunuh semua orang Meksiko
