Telset.id – Perusahaan konsultan keuangan Deloitte terpaksa mengembalikan dana sebesar 291.000 dolar AS (sekitar Rp 4,7 miliar) kepada pemerintah Australia setelah ketahuan menggunakan AI yang menghasilkan angka dan kutipan palsu dalam laporannya. Departemen Ketenagakerjaan dan Hubungan Industrial Australia (DEWR) mengonfirmasi bahwa Deloitte setuju membayar kembali sisa pembayaran terakhir dari kontrak yang ditandatangani Desember lalu.
Deloitte ditugaskan melakukan tinjauan independen terhadap sistem otomatisasi sanksi dalam program kesejahteraan bagi pencari kerja yang tidak memenuhi kewajiban mutual. Namun, laporan yang seharusnya menjadi “tinjauan jaminan independen” justru memuat berbagai kesalahan fatal, termasuk referensi kepada kutipan yang tidak pernah ada – ciri khas dari kesalahan AI yang dikenal sebagai hallucination.
Christopher Rudge, dosen sosiologi Universitas Sydney yang pertama kali mengungkap masalah dalam laporan Deloitte, menyatakan perusahaan tersebut berusaha menutupi kesalahannya dengan membagikan versi laporan yang telah diperbarui. “Alih-alih mengganti satu referensi palsu dengan referensi baru yang nyata, mereka mengganti referensi palsu tersebut dengan lima, enam, tujuh, atau delapan referensi baru,” ujarnya kepada The Guardian.
Baca Juga:
Upaya Penutupan Masalah yang Justru Memperparah
Rudge menambahkan bahwa tindakan Deloitte justru memperkuat dugaan bahwa klaim utama dalam laporan tidak didasarkan pada sumber bukti tertentu. “Apa yang terjadi menunjukkan bahwa klaim asli yang dibuat dalam tubuh laporan tidak didasarkan pada satu sumber bukti tertentu mana pun,” tegasnya.
Meski tertangkap basah menggunakan AI untuk menghasilkan kutipan palsu, Deloitte bersikeras bahwa substansi utama panduan mereka tidak berubah. Dalam catatan kaki versi revisi, perusahaan mengakui stafnya menggunakan GPT-4o dari OpenAI untuk menyusun laporan tersebut.
“Deloitte melakukan tinjauan jaminan independen dan telah mengonfirmasi beberapa catatan kaki dan referensi tidak benar,” ujar juru bicara Deloitte kepada The Guardian. “Substansi tinjauan independen dipertahankan, dan tidak ada perubahan pada rekomendasinya.”
Reaksi Keras dari Parlemen Australia
Insiden ini memicu kemarahan para anggota parlemen Australia yang menuntut pengawasan lebih ketat terhadap perusahaan konsultan. Senator Deborah O’Neill dari Partai Buruh menyatakan Deloitte memiliki “masalah kecerdasan manusia.”
“Ini akan menjadi lucu jika tidak begitu menyedihkan,” ujar O’Neill kepada Australian Financial Review. “Terlalu sering, seperti yang ditunjukkan penyelidikan parlemen kami, perusahaan konsultan ini memenangkan kontrak dengan menjanjikan keahlian mereka, dan ketika kesepakatan ditandatangani, mereka memberikan staf apa pun yang paling murah bagi mereka.”
O’Neill menambahkan bahwa siapa pun yang ingin mengontrak perusahaan-perusahaan ini harus memastikan tepatnya siapa yang melakukan pekerjaan yang mereka bayar, dan memverifikasi keahlian serta tidak adanya penggunaan AI. “Kalau tidak, mungkin alih-alih perusahaan konsultan besar, pengguna jasa akan lebih baik berlangganan ChatGPT,” sindirnya.
Senator Penny Allman-Payne dari Partai Hijau juga menyoroti ironi situasi ini. “Laporan ini seharusnya membantu mengungkap kegagalan dalam sistem kesejahteraan kami dan memastikan perlakuan yang adil bagi penerima dukungan pendapatan, tetapi malah Partai Buruh membiarkan Deloitte membodohi mereka,” katanya.
Kasus Deloitte ini bukan yang pertama kalinya AI menyebabkan masalah dalam dunia kerja. Sebelumnya, pengacara pernah ketahuan mengutip kasus yang tidak ada, dan Pusat Pengendalian Penyakit di era Trump merujuk pada studi yang dikarang oleh AI awal tahun ini.
Financial Times melaporkan bahwa Deloitte dan perusahaan konsultan lainnya telah mengucurkan miliaran dolar untuk mengembangkan alat AI yang mereka klaim dapat mempercepat proses audit. Namun, hari ini juga surat kabar tersebut mencatat bahwa enam firma akuntansi terbesar Inggris belum secara formal memantau bagaimana AI mempengaruhi kualitas audit mereka.
Fenomena ini mengkhawatirkan mengingat besarnya investasi dalam proyek-proyek teknologi yang melibatkan dana publik. Seperti dalam proyek satelit yang membutuhkan perhitungan matang, penggunaan AI dalam analisis kebijakan publik memerlukan verifikasi ketat untuk menghindari kesalahan yang berpotensi merugikan masyarakat.
Insiden Deloitte ini menyoroti perlunya transparansi dan akuntabilitas dalam penggunaan teknologi AI, terutama ketika menyangkut urusan publik dan pengelolaan dana negara. Para ahli menekankan bahwa meskipun AI dapat mempercepat proses, verifikasi manusia tetap menjadi komponen kritis yang tidak bisa diabaikan.
