Telset.id – Konsultan raksasa Accenture mengakui bahwa pengeluaran token AI di perusahaan kliennya semakin tidak terkendali, menandai berakhirnya era “tokenmaxxing” di kalangan korporasi global. Dalam rekaman audio yang bocor, Accenture mengungkapkan bahwa banyak tugas sepele yang dibebankan ke AI justru menyebabkan pemborosan token yang masif, terutama saat agen AI (agentic AI) mulai digunakan.
Fenomena ini menjadi bukti nyata bahwa biaya AI yang membengkak kini menjadi masalah serius di berbagai perusahaan teknologi. Tidak hanya Amazon yang memangkas papan peringkat AI-nya, tetapi juga perusahaan lain yang menghabiskan dana hingga USD 500 juta atau setara Rp8 triliun hanya untuk token AI dalam satu bulan. Accenture kini berada dalam posisi yang rumit, karena sebelumnya justru sangat agresif mendorong adopsi AI di kalangan kliennya.
Tokenmaxxing dan Ledakan Biaya yang Tidak Terduga
Dalam rekaman yang dilaporkan oleh 404Media, staf Accenture mengakui bahwa pengeluaran AI tumbuh di luar kendali di perusahaan yang mengadopsi teknologi ini secara masif. Yang lebih mengkhawatirkan, hampir tidak ada cara untuk memprediksi berapa biaya yang diperlukan untuk setiap tugas, atau apakah ada nilai nyata dalam menggunakan AI untuk menyelesaikannya.
Justive Kwak, pimpinan strategi agen AI Accenture, mengatakan dalam rekaman tersebut: “Apa yang kita lihat sekarang adalah eskalasi cepat dalam pengeluaran token AI. Saat perusahaan mulai menskalakan AI, beralih dari chatbot sederhana ke alur kerja agen AI dan otomatisasi, lalu penerapan alat seperti Copilot, Claude Code, dan Codex di seluruh perusahaan.”
Kwak menegaskan bahwa ini bukan masalah yang hanya terjadi di beberapa perusahaan saja. “Ini benar-benar bukan masalah khusus. Ini adalah masalah yang akan dihadapi setiap perusahaan jika mereka optimis terhadap AI, jika mereka belum mengalaminya,” katanya. Ia menambahkan bahwa pengeluaran token meningkat secara eksponensial seiring semakin banyak orang yang mulai menggunakan AI.
Fenomena ini sejalan dengan laporan bahwa biaya AI membengkak dan memaksa perusahaan teknologi mulai mengerem pengeluaran. Amazon bahkan dikabarkan mematikan papan peringkat AI-nya dan diduga menjadi perusahaan misterius yang menghabiskan setengah miliar dolar untuk token AI dalam satu bulan.
Baca Juga:
Karyawan Non-Teknis Jadi Penyebab Utama Pemborosan
Salah satu temuan menarik dari rekaman Accenture adalah bahwa karyawan non-teknis justru menjadi penyumbang terbesar konsumsi token AI. Kwak mengungkapkan, “Dari data internal, setidaknya kami melihat bahwa bukan insinyur kami yang mendorong konsumsi token. Ini banyak dilakukan oleh non-insinyur yang melakukan perilaku-perilaku tersebut.”
Accenture menemukan bahwa banyak tugas yang sebenarnya tidak memerlukan AI justru dikerjakan menggunakan teknologi ini. Stuary Henderson, pimpinan grup klien Accenture, bahkan bercanda tentang penggunaan AI untuk mengonversi PDF menjadi gambar dan file markdown. “Saya belajar bahwa itu adalah salah satu pemakan token terbesar,” katanya.
Kondisi ini diperparah dengan sistem penagihan berbasis token yang kini diterapkan oleh penyedia AI besar. Sebelumnya, langganan menawarkan tarif yang sangat menguntungkan untuk penggunaan AI. Namun tiba-tiba, perusahaan harus membayar token yang mereka masukkan dan token yang dihasilkan AI, bahkan saat AI tersebut verbose, membuat kesalahan, atau memerlukan koreksi lanjutan.
Kesulitan Mengukur Return on Investment AI
Masalah utama yang dihadapi perusahaan adalah ketidakmampuan mengukur pengembalian investasi (ROI) dari pengeluaran AI. Kwak menjelaskan, “Kepemimpinan, terutama di level CFO, COO, dan CIO, masih bertanya apakah mereka mendapatkan nilai dari apa yang mereka belanjakan dalam konteks AI.”
Meskipun model bahasa besar terbukti sangat berguna dalam kasus-kasus tertentu, efektivitasnya untuk berbagai tugas yang lebih luas masih sulit diukur. Ketika Anda tidak bisa mengetahui berapa banyak token yang diperlukan untuk menyelesaikan suatu tugas, atau apakah tugas tersebut akan selesai secara efektif pada percobaan pertama, kedua, atau ketiga, bagaimana Anda bisa mengukur pengembalian investasi?
“Kita mencapai titik infleksi di mana AI menjadi material terhadap struktur biaya; pengeluaran menjadi sangat tidak dapat diprediksi,” kata Kwak selama pertemuan tersebut. Meskipun tagihan keseluruhan biaya AI terlihat, menemukan nilai spesifik yang diatribusikan pada pengeluaran token tersebut tidak mungkin dilakukan.
Akibatnya, banyak perusahaan mulai mengambil langkah-langkah penghematan. Uber mulai membatasi penggunaan AI untuk memangkas biaya. Bahkan CEO OpenAI, Sam Altman, mengakui bahwa biaya token menjadi perhatian besar bagi banyak orang. Beberapa pengembang perangkat lunak bahkan menggunakan trik “caveman” untuk mengurangi pengeluaran token.
Accenture kini melihat peluang berikutnya sebagai cara untuk menasihati klien tentang bagaimana “berpikir tentang ekonomi token.” Perusahaan sedang mengerjakan alat bernama “Token IQ” untuk membantu klien, meskipun belum ada pengumuman resmi.
Yang jelas dari kebocoran Accenture dan tindakan beberapa perusahaan teknologi besar yang sebelumnya sangat optimis terhadap AI adalah bahwa keuangan adopsi AI massal pada skala per token tidak berjalan sesuai rencana. Tanpa cara yang jelas untuk mengukur pengembalian investasi AI, kita mungkin akan melihat perusahaan-perusahaan yang paling bersemangat sekalipun membatasi akses dan pengeluaran sepanjang sisa tahun 2026 saat mereka mengevaluasi ulang strategi AI mereka.
Fenomena ini menandai perubahan besar dalam lanskap adopsi AI korporat. Era di mana perusahaan mendorong karyawan untuk menggunakan AI sebanyak mungkin tampaknya akan segera berakhir. Sebagai gantinya, perusahaan kini mulai lebih selektif dan strategis dalam menggunakan AI, hanya untuk tugas-tugas yang benar-benar memberikan nilai tambah.
Perusahaan mulai batasi token AI dan ini menandai akhir era tokenmaxxing yang selama ini menjadi tren di kalangan korporasi global.
Komentar
Belum ada komentar.