Laporan KPMG soal AI Ternyata Penuh Halusinasi Buatan AI

Telset.id – Ironi menimpa KPMG, salah satu firma akuntansi “Big Four” dunia. Sebuah laporan yang mereka terbitkan tentang manfaat kecerdasan buatan (AI) justru ditemukan penuh dengan halusinasi yang dihasilkan oleh AI itu sendiri.

Pada Oktober tahun lalu, KPMG merilis laporan berjudul Total Experience: Redefining Excellence in the Age of Agentic AI. Dokumen tersebut membahas bagaimana perusahaan menggunakan AI untuk melayani kebutuhan pelanggan. Namun, investigasi oleh GPTZero, pembuat alat deteksi konten AI, mengungkapkan banyak ketidakakuratan dan catatan kaki palsu di seluruh laporan tersebut. Temuan ini kemudian diverifikasi oleh Financial Times.

Dalam laporan investigasinya, GPTZero menyatakan bahwa hanya lima dari 45 kutipan dalam makalah tersebut yang secara akurat merujuk pada sumber nyata. Sebanyak 28 kutipan memparafrasekan judul atau menambahkan komponen palsu ke sumber asli, sementara 12 lainnya dirumuskan terlalu samar untuk menentukan apakah sumber tersebut benar-benar ada. GPTZero menyebut pembuatan referensi palsu oleh model AI ini sebagai “vibe citing.”

Selain kutipan palsu, penyelidik juga menemukan bahwa sekitar setengah dari klaim dalam makalah tersebut adalah palsu atau salah atribusi. Klaim-klaim ini “kemungkinan besar merupakan hasil dari alat riset AI yang terlalu patuh pada permintaan untuk menemukan contoh ‘agentic AI’ di dunia nyata,” tulis GPTZero.

Salah satu contohnya, KPMG mengklaim bahwa Emirates meluncurkan chatbot seluler bernama Sara yang dapat berbicara dengan penumpang dan mengubah penerbangan mereka. Faktanya, Sara adalah asisten seluler yang diluncurkan pada tahun 2023 dan bukan chatbot bertenaga AI, serta tidak memiliki kemampuan untuk mengubah pemesanan penumpang.

KPMG juga mengklaim bahwa bank investasi multinasional Swiss, UBS, telah mengintegrasikan agentic AI di seluruh “layanan investasi, manajemen risiko, dan pemantauan kepatuhan” mereka. Pihak bank mengatakan kepada Times bahwa informasi tersebut “tidak benar secara faktual.”

Dalam contoh lain, KPMG menyatakan bahwa Kereta Api Federal Swiss (SBB) memiliki agen AI yang dapat membantu penumpang merencanakan, memesan, dan mengoptimalkan perjalanan berdasarkan preferensi, kondisi real-time, dan dampak karbon. Seorang juru bicara SBB mengatakan bahwa klaim itu “tidak akurat.”

Makalah dari perusahaan seperti KPMG biasanya dikutip dalam makalah penelitian dan artikel lain, karena dianggap sebagai sumber yang sangat tepercaya. CEO GPTZero, Edward Tian, menjelaskan bahwa makalah yang penuh kesalahan yang diterbitkan oleh Big Four dapat “meracuni sumur informasi” dan dapat menyebabkan halusinasi AI tahap kedua.

Seorang juru bicara KPMG mengatakan kepada Times bahwa perusahaan “menganggap serius keakuratan dan integritas konten yang diterbitkan.” KPMG telah menarik makalah tersebut dan sekarang “meninjau keadaan seputar publikasinya.”

Insiden ini menjadi pengingat keras tentang bahaya penggunaan AI secara sembarangan dalam proses riset dan penulisan. Ketika lembaga sekredibel KPMG pun bisa terjebak dalam “vibe citing” dan klaim palsu, kredibilitas seluruh ekosistem informasi terancam. Ke depannya, verifikasi manual terhadap setiap fakta dan sumber menjadi lebih krusial daripada sebelumnya, terutama ketika alat AI semakin canggih dalam menghasilkan teks yang tampak meyakinkan.

Kasus KPMG ini juga membuka diskusi lebih luas tentang tanggung jawab perusahaan besar dalam menggunakan AI. Mereka tidak hanya berkewajiban untuk menghasilkan konten yang akurat, tetapi juga harus memastikan bahwa proses produksi konten tersebut tidak tercemar oleh kelemahan teknologi yang mereka promosikan.

Kehadiran laporan yang penuh halusinasi ini juga menimbulkan pertanyaan serius tentang proses kontrol kualitas di KPMG. Bagaimana mungkin sebuah laporan yang diteliti dengan buruk bisa lolos dari tinjauan internal dan dipublikasikan atas nama firma sekelasnya? Jawabannya mungkin terletak pada tekanan untuk menghasilkan konten dengan cepat di era AI, di mana kecepatan sering kali diutamakan daripada akurasi.

Bagi para profesional di industri teknologi, insiden ini adalah studi kasus berharga tentang pentingnya skeptisisme terhadap output AI. Meskipun AI dapat membantu mengotomatiskan tugas-tugas tertentu, ia belum bisa dipercaya untuk melakukan riset dan verifikasi secara mandiri, terutama untuk topik-topik yang membutuhkan ketelitian tinggi seperti teknologi dan keuangan.

Ke depannya, kita mungkin akan melihat lebih banyak perusahaan yang menerapkan kebijakan “human-in-the-loop” yang lebih ketat, di mana setiap konten yang dihasilkan oleh AI harus melalui proses verifikasi manusia yang menyeluruh sebelum dipublikasikan. Ini bukan hanya tentang menjaga reputasi, tetapi juga tentang menjaga integritas informasi di era di mana berita palsu dan misinformasi menyebar dengan mudah.

Kasus KPMG ini juga menjadi pengingat bagi para jurnalis dan peneliti untuk selalu memverifikasi sumber mereka, terutama jika sumber tersebut adalah laporan yang dihasilkan oleh AI. Jangan pernah mengambil klaim begitu saja, bahkan jika klaim tersebut datang dari lembaga terkemuka sekalipun. Di era AI, verifikasi manual adalah kunci untuk menjaga kualitas informasi.

Dengan ditariknya laporan tersebut, KPMG kini harus menghadapi konsekuensi dari kelalaiannya. Reputasi mereka sebagai sumber informasi tepercaya telah tercoreng, dan mereka harus bekerja keras untuk memulihkan kepercayaan publik. Ini adalah pelajaran mahal bagi semua perusahaan yang tergoda untuk mengambil jalan pintas dengan menggunakan AI tanpa pengawasan yang memadai.

Pada akhirnya, insiden ini menunjukkan bahwa AI adalah alat yang ampuh, tetapi ia tidak sempurna. Tanggung jawab untuk menggunakannya dengan bijak dan memverifikasi outputnya tetap berada di tangan manusia. Kita tidak boleh membiarkan teknologi mengalahkan akal sehat dan integritas kita.

Sebagai penutup, kasus ini adalah contoh sempurna dari ironi teknologi: laporan tentang manfaat AI yang penuh dengan halusinasi AI. Ini adalah pengingat bahwa kita harus selalu waspada dan kritis terhadap informasi yang kita konsumsi, terlepas dari sumbernya. Di era informasi yang serba cepat ini, akurasi adalah segalanya.