Telset.id – Sebuah restoran di Montana, Stefanina’s Wentzville, meminta pelanggannya untuk berhenti menggunakan Google AI Overviews untuk mengecek menu dan promo harian. Permintaan ini disampaikan melalui unggahan di Facebook setelah AI Google kerap memberikan informasi yang salah dan menciptakan menu fiktif, menyebabkan konflik dengan pelanggan yang marah.
Pemilik restoran, Eva Gannon, menjelaskan bahwa Google AI terus memberitahu pelanggan tentang penawaran yang tidak nyata dan bahkan membuat item menu sepenuhnya fiktif. Salah satu contohnya, AI Google mengklaim bahwa Stefanina’s menawarkan pizza besar dengan harga pizza kecil. “Ini berdampak buruk pada kami,” kata Gannon kepada First Alert 4. “Sebagai bisnis kecil, kami tidak bisa memenuhi penawaran spesial dari Google AI.”
Restoran tersebut telah memposting permintaan resmi di halaman Facebook mereka, meminta pelanggan untuk mengunjungi situs web atau halaman Facebook resmi untuk informasi yang akurat. Unggahan tersebut menyatakan, “Google AI tidak akurat dan memberitahu orang-orang tentang spesial yang tidak ada, yang menyebabkan pelanggan marah-marah pada karyawan kami.”
Masalah ini bukan hanya dialami oleh Stefanina’s. Pada Juni lalu, sebuah perusahaan tenaga surya di Minnesota menggugat Google atas pencemaran nama baik, mengklaim bahwa AI Overviews memberikan informasi yang merugikan dan tidak benar tentang perusahaan mereka. Dalam satu kasus, AI tersebut dikabarkan berbohong tentang perusahaan yang menghadapi gugatan atas praktik penjualan yang menipu.
Baca Juga:
AI chatbot dan model bahasa besar lainnya masih sangat rentan terhadap halusinasi, istilah industri untuk menghasilkan misinformasi yang terdengar masuk akal. Google AI Overviews telah dikritik karena sering kali memberikan rekomendasi yang aneh, termasuk saran untuk menaruh lem pada pizza. Namun, banyak orang masih tidak menyadari ketidakandalan bawaan dari alat-alat ini.
Google sendiri sedang mempromosikan fitur AI Mode pada aplikasi Search-nya dengan kampanye iklan yang mendorong pengguna untuk “Tanya Google” sebelum melakukan hampir segala hal. Baru-baru ini, raksasa pencarian itu mengumumkan bahwa AI Mode sekarang dapat membantu membuat reservasi restoran untuk pengguna.
Insiden seperti ini menunjukkan bahwa kita seharusnya tidak mempercayai alat AI untuk memberi informasi tentang dunia atau mengendalikan pengambilan keputusan kita. Namun, ini justru yang diinginkan oleh pembuatnya: agar AI digunakan untuk tugas dan pertanyaan sehari-hari, mulai dari merencanakan jadwal hingga merumuskan rencana makan malam.
Kecenderungan AI untuk berhalusinasi bukanlah hal baru. Seperti yang terjadi pada pengembangan AI pencarian canggih oleh perusahaan teknologi lain, masalah akurasi tetap menjadi tantangan utama. Bahkan produk Google lainnya terkadang mengalami masalah keandalan, seperti yang terlihat dalam sistem peringatan gempa Android yang diakui kurang akurat.
Bagi bisnis kecil seperti Stefanina’s, dampak dari kesalahan AI bisa sangat signifikan. Mereka tidak memiliki sumber daya untuk terus-menerus mengoreksi informasi yang salah yang disebarkan oleh platform teknologi besar. Solusi sementara yang mereka tawarkan adalah mengarahkan pelanggan ke saluran informasi resmi yang mereka kendalikan sepenuhnya.
