Sainsbury’s dan Facewatch Absen, Korban Salah Tangkap Minta Pertanggungjawaban

Telset.id – Sainsbury’s dan Facewatch tidak mengirim perwakilan dalam pertemuan di House of Commons yang mempertemukan orang-orang yang salah dituduh mencuri oleh teknologi pengenalan wajah (facial recognition) dengan anggota parlemen Partai Buruh untuk Stoke-on-Trent South, Dr Allison Gardner. Pertemuan yang disponsori kelompok kebebasan sipil Big Brother Watch ini digelar untuk memberi ruang bagi korban menyampaikan keluhan kepada politisi, media, dan perusahaan yang terlibat. Ketidakhadiran kedua perusahaan membuat pertanyaan soal siapa yang bertanggung jawab ketika sistem gagal tak terjawab.

Big Brother Watch mengundang Facewatch, perusahaan di balik teknologi tersebut, untuk hadir. Mereka juga mengundang perwakilan Sainsbury’s, perusahaan yang saat ini sedang dalam proses memperkenalkan facial recognition ke 200 tokonya. Tidak ada perwakilan dari kedua perusahaan yang datang ke acara tersebut. “Sainsbury’s senang memindai wajah pelanggannya tetapi tidak mau menghadapi orang-orang yang telah dirugikan teknologinya,” kata Jack Coulson, Head of Advocacy Big Brother Watch, kepada TechRadar.

Kasus yang diungkap dalam pertemuan itu bermula dari pengalaman sehari-hari yang berubah menjadi ordeal publik. Mary bisa tahu suaminya “sangat terguncang” begitu ia dituduh mencuri secara keliru dan diperintahkan meninggalkan Home Bargains. Pengalaman itu membuatnya merasa “terisolasi”. “Saya takut masuk ke toko,” katanya. Padahal mereka hanya keluar untuk membeli vitamin. Di tempat lain, suami seorang perempuan gemetar “dari kepala sampai kaki” setelah istrinya diminta meninggalkan Budgens karena dituduh mencuri “banyak daging” pada minggu sebelumnya. “Pikiran saya kacau,” ujarnya. Padahal mereka sudah berbulan-bulan tidak mengunjungi toko itu.

Pola Kesalahan yang Tak Terduga

Facial recognition adalah teknologi yang secara inheren personal dan intim. Teknologi ini memindai fitur wajah, memproses data biometrik, dan bergantung pada hasilnya dapat menghentikan seseorang memasuki ruang tertentu. Semua bisa terjadi dalam sekejap, tetapi dampaknya meluas dan bertahan lama, diperparah oleh minimnya kejelasan soal siapa yang harus disalahkan ketika terjadi kesalahan.

Setiap kesaksian dari orang-orang yang salah ditandai teknologi ini memiliki kemiripan mencolok. Aktivitas rutin tiba-tiba berubah menjadi pengalaman publik yang membingungkan, di mana mereka harus membela diri atas tuduhan yang tidak langsung mereka pahami. Orang-orang mengaku merasa “bingung”, “terisolasi”, dan “kacau”. Namun, meski dampak emosionalnya konsisten, detail setiap kasus sering berbeda. Sebagian dihentikan begitu melangkah melewati pintu toko. Sebagian lain dihadang di kasir dengan keranjang penuh. Kesalahannya pun sama tak terduganya. Satu orang menjadi korban salah identitas, sementara yang lain melihat wajahnya ditandai di layar gantung. Seorang perempuan salah diintersepsi hanya karena sistem mengidentifikasi orang-orang yang berjalan tepat di belakangnya.

Dalam pertemuan itu dibahas soal algoritma, bias, dan data pelatihan yang dikonfigurasi dengan buruk, mekanisme ganti rugi, serta obrolan tak resmi tentang bagaimana sebagian orang berhasil mengumpulkan lebih banyak informasi. Perasaan yang menyelimuti adalah kelelahan birokratis. Para pembeli tidak punya jalur jelas untuk membersihkan nama mereka. “Saya tidak tahu harus mengadu ke mana,” kata salah satu peserta.

Mendengar detail salah satu kasus spesifik, Dr Gardner mengatakan ia “punya begitu banyak pertanyaan”. Apakah itu glitch algoritma, kesalahan jujur pekerja toko, atau hal lain? Sayangnya, tidak ada yang bisa menjawab spesifiknya. “Anda bisa merasakan ketidakpeduliannya,” kata seseorang di belakang ruangan.

Pembelaan Korporat dan Kebuntuan Regulasi

TechRadar menghubungi semua perusahaan yang disebut dalam artikel ini. Booker Group, pemilik merek Budgens, menolak berkomentar secara resmi. Sainsbury’s tidak merespons, begitu pula Home Bargains. Facewatch menyatakan pihaknya memberikan “pertimbangan serius” atas undangan tersebut, tetapi menyebut kekhawatiran soal keseimbangan acara “mengingat nada pesan kampanye Big Brother Watch sejauh ini”. Perusahaan mengatakan telah memberikan penjelasan kepada penyelenggara dan co-chair parlemen, serta menawarkan untuk menjawab pertanyaan setelah sesi berlangsung.

Ketika ditanya siapa yang bertanggung jawab ketika sistem menghasilkan kesalahan, Facewatch mengatakan pihaknya “bertanggung jawab atas teknologi dan prosesnya, dan peritel bertanggung jawab atas bagaimana staf mereka berinteraksi dengan pelanggan”. Namun, Facewatch menyebut tanggung jawab hukum “bergantung pada fakta dan tidak dapat ditentukan secara bertanggung jawab dengan memberikan jawaban menyeluruh”. Perusahaan juga menyatakan bahwa ketika terjadi peringatan palsu, pihaknya memulai “proses pengamanan dengan peritel untuk menetapkan secara pasti apa yang terjadi”.

Facewatch menambahkan: “Kami menantang pesan kampanye yang menggunakan insiden tersebut untuk menciptakan kesan risiko yang tidak proporsional bagi pembeli biasa. Facewatch beroperasi secara diskret dan sukses di ribuan toko di seluruh Inggris setiap hari. Menyajikan insiden luar biasa sebagai representasi dari operasi sehari-hari itu menyesatkan dan berisiko menciptakan ketakutan yang tidak perlu.”

Minimnya kejelasan setelah seseorang keliru ditandai sistem facial recognition adalah “garam di atas luka dari penghinaan publik”, kata Coulson dari Big Brother Watch. Saat TechRadar mengunjungi sebuah Sainsbury’s di South London awal bulan ini, tidak ditemukan cara yang layak untuk memilih keluar dari sistem facial recognition dan petugas keamanan hanya punya sedikit informasi tentang cara kerja sistem. Ada tanda dengan kode QR di pintu masuk toko, meski peserta acara menyebut tanda itu berisi informasi yang tidak memadai setelah terjadi perselisihan.

Big Brother Watch menawarkan sedikit kelegaan bagi orang-orang terdampak, membantu individu menavigasi Subject Access Requests (SAR), mekanisme statutori di bawah hukum perlindungan data Inggris yang digunakan untuk memaksa perusahaan mengungkap data apa yang mereka simpan. Namun, prosesnya lambat, menuntut korban menyerahkan data pribadi yang lebih banyak lagi, dan tidak menjamin sebuah wajah benar-benar dihapus dari daftar pantauan. “Ini seperti mimpi buruk Kafkaesque terjebak dalam labirin birokrasi dan dipaksa menyerahkan lebih banyak data pribadi hanya untuk diberi tahu tuduhannya,” kata Coulson kepada TechRadar.

Regulator privasi data Inggris, Information Commissioner’s Office (ICO), mengakui beratnya kesaksian tersebut dan menyebut pengalaman itu “mengerikan”. ICO menyatakan berharap dapat membagikan wawasan yang lebih konkret tentang penggunaan komersial teknologi ini segera. Namun untuk saat ini, kebingungan masih berlanjut dan siapa yang harus disalahkan ketika terjadi kesalahan masih belum jelas.

Setelah acara, Dr Gardner kepada TechRadar menyatakan ia “sangat prihatin atas implementasi yang buruk dan kurangnya tata kelola” seputar teknologi ini dan akan mengangkat isu tersebut kepada menteri serta menghubungi perusahaan secara langsung. Ia menambahkan ingin tahu “ganti rugi apa yang diberikan kepada individu yang dituduh secara keliru yang proporsional dengan kekecewaan yang ditimbulkan. Siapa yang akuntabel dan dapat dimintai pertanggungjawaban.”

Hingga pertanyaan-pertanyaan itu terjawab, minimnya kejelasan bukan hanya berperan sebagai celah regulasi; ia berisiko menciptakan efek mencekam bagi publik yang lebih luas. Jika satu orang “takut pergi ke toko” selama berminggu-minggu setelahnya, mungkin Anda pun akan merasakannya. Nama-nama dalam artikel ini diubah untuk melindungi privasi orang-orang terdampak.