Telset.id – Google AI Overview kembali menjadi sorotan setelah memberikan informasi keliru mengenai kandungan logam mulia pada kamera Flock Safety. Fitur ringkasan pencarian berbasis kecerdasan buatan dari Google itu secara gamblang menyebut bahwa kamera pengawas lalu lintas tersebut mengandung emas hingga 5 gram, sebuah klaim yang tidak memiliki dasar faktual yang kuat.
Kesalahan ini terjadi di tengah meningkatnya popularitas meme di kalangan komunitas privasi yang mendorong perusakan perangkat Automatic License Plate Readers (ALPR) milik Flock. AI Overview Google justru memperkuat narasi tersebut dengan memberikan “pembenaran” yang tampak meyakinkan, padahal faktanya informasi itu berasal dari sumber tidak kredibel.
Dalam pencarian dengan kata kunci “how much gold does a Flock camera have”, AI Overview Google menjawab bahwa kamera Flock mengandung sekitar 1 hingga 5 gram emas yang digunakan pada papan sirkuit internal dan kabel. Dengan harga emas saat ini, klaim tersebut berarti setiap kamera Flock menyimpan emas senilai hingga US$650. Padahal, perangkat ALPR tersebut hanya mengandung jejak emas dan logam lain dalam jumlah yang sangat kecil, tidak sebanding dengan usaha untuk membongkarnya.
Lebih parah lagi, AI Overview Google juga mengklaim bahwa kamera Flock mengandung tembaga seberat 2 hingga 23 pon. Klaim ini jelas tidak masuk akal mengingat total berat keseluruhan perangkat hanya sekitar 3 pon. Mustahil sebuah perangkat mengandung komponen yang beratnya berkali-kali lipat dari berat totalnya sendiri.
Sumber Informasi yang Dipertanyakan
Google AI Overview mengutip dua sumber untuk mendukung ringkasannya, namun keduanya tidak dapat dipertanggungjawabkan. Sumber pertama adalah postingan anonim di Substack dari akun bernama do.not.obey.do.not.comply yang mengklaim nilai scrap logam per kamera diperkirakan US$150 hingga US$500. Namun klaim tersebut didasarkan pada “estimasi dari diskusi nilai scrap” yang lebih merupakan opini daripada laporan faktual.
Sumber kedua bahkan lebih tidak masuk akal. Google mengutip postingan Instagram yang dihasilkan oleh kecerdasan buatan yang membahas meme yang sama. Akun di balik postingan tersebut ternyata milik seorang penanam ganja, dengan sebagian besar kontennya tentang kloning tanaman, hidroponik, dan bunga ganja yang sudah matang.
Ironisnya, situasi ini menunjukkan bagaimana salah satu perusahaan yang menjadi pionir pengawasan berbasis AI justru memproduksi konten yang mendorong perusakan produk perusahaan pengawasan AI lainnya. Fenomena ini menjadi cermin dari kondisi industri teknologi yang sedang terobsesi dengan kecerdasan buatan.
Meski terdengar masuk akal, klaim bahwa kamera Flock mengandung logam mulia yang bernilai tinggi hanyalah bagian dari meme yang beredar luas di kalangan komunitas yang peduli privasi. Video dan meme yang mendukung perusakan peralatan pengawasan tersebut memang marak beredar di dunia maya, tetapi nilai logam yang terkandung di dalamnya tidak sebanding dengan usaha untuk membongkarnya.
Bagi mereka yang tidak terbiasa membongkar papan sirkuit, mengumpulkan logam dari kamera Flock bahkan tidak akan cukup untuk membeli satu porsi Big Mac, apalagi menutup biaya tenaga kerja yang dikeluarkan. Fakta ini menunjukkan bahwa meme tersebut hanyalah candaan belaka, bukan informasi yang layak dijadikan dasar tindakan.
Hingga berita ini ditulis, Google belum memberikan tanggapan atas permintaan komentar terkait kesalahan informasi yang dihasilkan oleh AI Overview-nya. Sementara itu, kasus ini menambah daftar panjang kegagalan fitur AI Google dalam menyajikan informasi yang akurat dan dapat dipertanggungjawabkan.
Kasus ini juga menyoroti kelemahan mendasar dari sistem AI Overview yang dirancang Google untuk merangkum informasi dari berbagai sumber di internet. Tanpa mekanisme verifikasi yang memadai, fitur tersebut rentan menyebarkan informasi keliru yang dapat berdampak nyata di dunia nyata, termasuk mendorong tindakan vandalisme terhadap properti orang lain.
Bagi pengguna layanan Google Health maupun produk Google lainnya, insiden ini menjadi pengingat bahwa hasil ringkasan AI tidak selalu dapat dipercaya. Penting untuk selalu memverifikasi informasi dari sumber primer sebelum mengambil keputusan atau tindakan berdasarkan informasi tersebut.
Fenomena ini sejalan dengan pengembangan fitur Chrome yang terus dilakukan Google. Semakin banyak fitur berbasis AI yang diintegrasikan ke berbagai produk Google, semakin besar pula potensi kesalahan informasi yang dapat terjadi tanpa pengawasan manusia yang memadai.
Ke depannya, kasus ini menjadi pelajaran penting bagi industri teknologi bahwa kecerdasan buatan bukanlah pengganti penilaian manusia. Verifikasi fakta tetap menjadi langkah krusial yang tidak boleh dilewatkan, terutama ketika informasi yang dihasilkan berpotensi mendorong tindakan ilegal atau merugikan pihak lain.
Sementara itu, komunitas privasi yang selama ini mengkritik penggunaan ALPR oleh Flock mungkin akan terus menggunakan insiden ini sebagai bahan diskusi. Namun penting untuk dicatat bahwa kritik terhadap teknologi pengawasan seharusnya tetap dilakukan melalui kanal yang konstruktif, bukan dengan tindakan perusakan yang justru merugikan banyak pihak.
Google sendiri belum mengumumkan langkah perbaikan atas kesalahan AI Overview ini. Namun publik berharap perusahaan teknologi raksasa tersebut segera mengambil tindakan untuk mencegah terulangnya insiden serupa di masa mendatang, mengingat dampak yang dapat ditimbulkan dari penyebaran informasi keliru berskala besar.
Komentar
Belum ada komentar.