Pelanggan Percaya ChatGPT, Pekerja Layanan Terjebak Halusinasi AI

Telset.id – Kepercayaan pelanggan terhadap ChatGPT dan alat AI generatif lain kini menciptakan masalah baru bagi pekerja layanan di Amerika Serikat. Pelanggan disebut menolak arahan staf dan bersikeras mengikuti jawaban AI yang mengandung halusinasi, mulai dari informasi alergi makanan hingga jadwal perjalanan yang tidak masuk akal. Fenomena ini mengubah pepatah lama “pelanggan selalu benar” menjadi persoalan baru ketika pelanggan justru meminta pekerja memaklumi informasi yang dibuat-buat oleh AI.

Madison, seorang server di New York City, selalu menyapa setiap meja dengan menanyakan alergi para tamu. Belakangan, situasinya semakin berisiko. “Kadang orang akan memberi tahu saya bahwa mereka punya alergi kerang, lalu saya kembali, dan mereka tidak bertanya apa pun kepada saya,” kata Madison, yang meminta nama belakangnya dirahasiakan untuk melindungi identitasnya. “Dan mereka memesan hidangan ikan yang disajikan dengan kaldu berbahan kerang.”

Ketika Madison memberi tahu bahwa sebuah hidangan mengandung alergen, sebagian tamu justru membantah dengan alasan ChatGPT berkata sebaliknya. “Mereka hanya ingin bicara dengan ChatGPT,” jelas Madison. “Anda alergi kerang, dan ChatGPT bilang tidak ada kerang di hidangan ini, sementara kami memberi tahu Anda, ya ada!”

Adopsi massal alat AI generatif disebut menulis ulang pepatah lama yang selama ini menjadi duri bagi pekerja restoran dan ritel. Persoalannya, apa yang terjadi ketika pelanggan berharap pekerja ikut menuruti hal yang dibuat-buat AI? Selain mengabaikan peringatannya soal alergen, Madison mencatat meningkatnya ketergantungan pada AI generatif di kalangan pelanggan restoran Italia dengan rekomendasi Michelin tempat ia bekerja hingga belum lama ini.

“Berapa kali saya menyarankan, ‘Biar saya panggilkan sommelier untuk Anda,’ dan mereka bilang, ‘Tidak, saya akan tanya ChatGPT saja,’ atau sommelier disingkirkan dari meja karena tamu lebih memilih ChatGPT, itu semakin sering terjadi,” ujarnya. Ia juga menerima permintaan botol wine yang tidak dijual restoran tersebut, atau dalam beberapa kasus, tidak ada sama sekali.

Bagi Madison, halusinasi AI ini memperburuk kecemasan sebagian orang terhadap wine yang sebenarnya sudah ada sebelumnya. “Sebagian orang memang selalu punya masalah dengan sommelier, menganggap ‘Orang-orang ini seperti pedagang mobil bekas yang berusaha membuat kami menghabiskan jauh lebih banyak dari yang kami inginkan untuk sebotol wine,'” katanya, “atau ada orang yang berpikir, ‘Sommelier akan menganggap saya bodoh.'”

Untuk “memperhalus” dampak halusinasi AI, Madison dan rekan-rekannya akan mengatakan hal seperti, “Kami punya daftar wine yang sangat spesifik, mungkin yang muncul ke Anda adalah wine Prancis, sementara kami tidak menjual wine Prancis,” alih-alih memberi tahu pelanggan bahwa chatbot AI mereka sepenuhnya mengarang merek wine. Pola serupa juga muncul di industri lain, sejalan dengan temuan bahwa laporan AI penuh halusinasi bisa menyesatkan banyak pihak.

Masuknya AI ke layanan pelanggan tampaknya kini nyaris di mana-mana. Peluncuran Muse, agen AI baru dari Meta, diperkirakan akan memperparah persoalan ini, termasuk pusingnya pekerja yang harus menangani permintaan pelanggan yang kadang tidak masuk akal. Dalam peliputan kisah ini, terdengar cerita dari pekerja bioskop, barista, dan karyawan Apple Store, yang semuanya pernah menerima permintaan produk atau fitur yang tidak ada. Di Reddit dan X, pekerja layanan pelanggan mengeluhkan pelanggan yang menganggap perkataan ChatGPT sebagai kebenaran mutlak.

Jason, seorang ranger sungai yang bekerja di lahan federal di Mountain West, mengatakan ia melihat peningkatan jumlah pengunjung yang datang ke taman dengan itinerary buatan AI yang tidak masuk akal. “Saya dan kolega saya menjelaskan bahwa AI menghalusinasi lokasi kemah atau menjadwalkan hal-hal di luar urutan geografis, sehingga rombongan harus mendayung perahu ke arah hulu di beberapa hari (tidak mungkin) dan mengikuti arus sungai di hari lain,” kata Jason, yang meminta disebut dengan nama samaran karena ia pegawai federal. “Bagian paling gila adalah meski seorang ranger menjelaskannya sambil menunjuk peta, beberapa rombongan tetap skeptis. Tipe pengguna AI tertentu cenderung mempercayai ChatGPT ketimbang ranger, peta, dan buku panduan cetak.”

Casey, guru program setelah sekolah di New York yang meminta disebut dengan nama samaran, mengatakan ia melihat banyak orang tua, pengasuh, dan caretaker siswa kini beralih ke ChatGPT atau Claude untuk pertanyaan soal perkembangan anak. “Kami punya satu keluarga yang berkonsultasi dengan ChatGPT untuk menyusun rutinitas tidur dan jadwal tidur anak mereka, tapi anak itu tidak mendapat cukup tidur,” kata Casey. Berdasarkan perilaku anak tersebut di program, Casey memperkirakan anak itu butuh dua hingga tiga jam tidur lebih banyak per malam, dan menyampaikannya kepada orang tuanya. “Orang tuanya bersikeras bahwa ChatGPT mereka mengatakan jadwalnya sudah baik-baik saja.”

Sejumlah orang tua, katanya, kini melihat alat AI generatif sebagai ahli yang pengetahuannya melampaui tenaga profesional pengasuhan anak. “Bisa sangat sulit berbicara dengan seseorang yang sudah mengambil keputusan,” kata Casey, “karena mereka mempercayai entitas luar ini sebagai sesuatu yang sangat berharga.” Ia juga mencatat penggunaan teknologi yang lebih ringan, seperti anak-anak yang datang dengan lembar mewarnai buatan AI.

Lauren Wilford, yang telah 15 tahun bekerja di layanan makanan, juga melihat AI merembes ke interaksinya dengan tamu. Semuanya dimulai dari menu: seseorang mengunggah foto menu ke ChatGPT atau Claude dan bertanya apa yang harus dipesan, atau meminta panduan padanan wine, alih-alih bertanya kepada server.

Namun kini, sebagian pelanggan tampaknya melewati perantara sepenuhnya. Selama setahun terakhir, restoran Wilford menerima panggilan dan email dari agen yang berusaha membuat reservasi atas nama pengguna. Kebangkitan AI agentik membuat interaksi ini semakin membingungkan. Wilford terkejut ketika seorang klien yang biasanya tidak banyak menuntut tiba-tiba menjadi demanding menjelang acara besar, mengajukan permintaan mendadak untuk podium dan peralatan AV, yang keduanya tidak tersedia di restoran di Providence, Rhode Island, yang ia kelola, plus perubahan menu katering di menit terakhir. Wilford bahkan lebih terkejut ketika para klien datang keesokan harinya dan tidak menyebutkan satu pun permintaan itu.

Meski tak bisa membuktikannya, Wilford yakin permintaan itu mungkin tidak datang dari siapa pun di perusahaan tersebut; ia menduga itu adalah hasil kerja agen AI. “Saya simpati pada alasan orang memakai agen AI,” kata Wilford, terutama untuk tugas birokratis dan administratif. “Tapi pada hal apa pun yang punya nilai ketika dua manusia bertemu dan menyelesaikan sesuatu bersama, saya rasa kita tidak peka terhadap apa yang mungkin hilang jika kita mencoba melewati semua itu.”

Kasus-kasus ini menunjukkan bahwa halusinasi AI tidak lagi berhenti di ruang rapat atau jurnal ilmiah, tetapi sudah masuk ke restoran, taman nasional, dan ruang kelas. Seiring makin banyak perusahaan menyisipkan AI ke dalam layanan, termasuk langkah iklan di fitur AI, pekerja di garis depan harus menghadapi pelanggan yang memegang jawaban chatbot sebagai kebenaran. Untuk tim yang menangani teknologi, hal ini menjadi pengingat bahwa AI bisa jadi aset tim hanya jika batas kemampuannya dipahami dengan benar.