Rippling Luncurkan AI Spend Console untuk Kendalikan Biaya AI Perusahaan

Telset.id – Rippling, penyedia software HR, meluncurkan AI Spend Console, sebuah produk yang dirancang untuk membantu perusahaan melacak dan mengendalikan pengeluaran AI mereka. Produk ini hadir sebagai respons atas fenomena “tokenmaxxing” yang menyebabkan biaya AI perusahaan membengkak hingga jutaan dolar.

Fitur utama dari AI Spend Console adalah kemampuannya memetakan pengeluaran AI per individu, tim, dan peran, serta mengukur apakah pengeluaran tersebut sebanding dengan produktivitas yang dihasilkan. Rippling menjanjikan alat ini dapat menunjukkan “engineer mana yang memiliki pengeluaran AI tinggi yang rekannya sering meminta mereka mengulang pekerjaan dalam code review,” seperti yang tertulis dalam blog post perusahaan.

Latar Belakang Masalah Tokenmaxxing

AI Spend Console lahir setelah Rippling sendiri mengalami masalah serius akibat tokenmaxxing pada awal tahun ini. Chief Product Officer Matt MacInnis masih mengingat rapat tim eksekutif pada bulan Maret ketika CFO Adam Swiecicki menyajikan angka yang mengejutkan mereka semua. Rippling berada di jalur untuk membakar 40% dari anggaran headcount R&D mereka hanya untuk token AI, artinya pengeluaran token AI setara dengan 40% dari total kompensasi yang dibayarkan kepada karyawan di unit tersebut, mencapai jutaan dolar.

Pengeluaran tersebut tumbuh sebesar 80% bulan demi bulan. Jika tren ini berlanjut, pada tahun berikutnya Rippling akan menghabiskan hampir 90% dari anggaran karyawan unit R&D untuk token AI. “Kami tidak percaya,” kata MacInnis kepada TechCrunch. Manajemen segera melakukan proyek “mendesak” untuk memahami pengeluaran tersebut dan apa yang mereka dapatkan dari uang yang dikeluarkan.

Analisis yang dilakukan Rippling mengungkapkan fakta mengejutkan: “sekitar 10-15% karyawan kami mendorong sekitar 60% dari total pengeluaran AI. Satu engineer menghabiskan $50,000 per bulan,” demikian dibagikan dalam blog post mereka. Rippling tidak ingin menghentikan penggunaan AI, hanya mengendalikannya secara signifikan.

Langkah pertama yang diambil adalah menegosiasikan batas pengeluaran maksimum dengan setiap alat yang digunakan perusahaan: Cursor, OpenAI, dan Anthropic. Masalah yang segera muncul adalah karyawan cenderung menggunakan model frontier terbaru dan termahal untuk semua tugas. MacInnis menyatakan bahwa penyedia inference seperti Anthropic dan OpenAI tidak memiliki insentif untuk membantu perusahaan mengendalikan pengeluaran. “Mereka memiliki setiap insentif untuk membuatnya menjadi pengeluaran yang tidak terkendali, dan itulah yang mereka lakukan,” ujarnya.

Solusi Gateway AI dan Model Alternatif

Memasuki bulan kedelapan tahun 2026, perusahaan-perusahaan mulai memahami beberapa hal penting. Pertama, mereka membutuhkan banyak model dari berbagai laboratorium AI dengan berbagai titik harga, termasuk opsi open weight frontier yang mungkin berasal dari China. Founder dan CEO Rippling, Parker Conrad, mencatat bahwa ketika perusahaannya melakukan benchmark internal, mereka menemukan Grok dari SpaceX sebagai pemimpin keseluruhan, tetapi “GLM 5.2 dari Z.ai 85% lebih murah dengan performa yang hampir identik” dengan model frontier. GLM 5.2 telah menjadi model favorit untuk tugas coding di kalangan perusahaan teknologi, dan Databricks juga mendukungnya.

Kedua, perusahaan kini menyadari kebutuhan akan AI gateway yang dapat merutekan prompt ke model terbaik dan paling hemat biaya untuk setiap tugas. Rippling membangun gateway AI sendiri yang menjadi bagian dari produk AI Spend Console. MacInnis mengatakan perusahaan yang sudah menggunakan gateway lain tetap bisa menggunakan AI Spend Console, meskipun fitur pengendalian pengeluaran hanya tersedia jika menggunakan gateway Rippling.

AI Spend Console menghasilkan dashboard yang menilai atribut seperti jumlah prompt per hari yang dikombinasikan dengan output kerja dan pengeluaran. Dengan alat ini, Rippling berhasil menurunkan pengeluaran token dari 40% menjadi sekitar 15% dari anggaran headcount. Yang menarik, penurunan ini tidak membatasi penggunaan AI. Perusahaan mencapai puncak penggunaan 605 miliar token pada bulan ketika CFO mengeluarkan peringatan. Pada bulan Juli, penggunaan internal kembali mencapai 600 miliar token, namun “biaya pengeluaran token Juli hanya 37% dari biaya April,” kata MacInnis, karena routing ke model yang lebih efektif.

Solusi teknologi saja tidak cukup, menurut Rippling. Perusahaan menemukan karyawan yang menggunakan AI secara efektif dan menjadikan mereka “AI captain” yang bertugas membantu seluruh perusahaan. Upaya penggunaan AI di luar engineering masih dalam proses, karena software engineer menjadi pengguna utama sejauh ini. Rippling sedang mengembangkan penggunaan AI untuk tim onboarding pelanggan, seperti mengotomatisasi data mailing dan rekonsiliasi data. Dashboard akan mengukur produktivitas dari jumlah pelanggan yang berhasil di-onboarding.

MacInnis menegaskan pentingnya menghubungkan konsumsi token di fungsi G&A dan fungsi customer-facing kembali ke produktivitas. “Jika kami tidak bisa melakukannya, semua taruhan batal untuk hal-hal ini tersedia untuk basis karyawan yang lebih luas,” katanya. Jika Rippling menjadi contoh, tokenmaxxing mungkin telah berayun terlalu jauh ke arah lain sehingga akses AI karyawan tidak lagi seperti Slack atau email. Jika perusahaan tidak bisa mengukur produktivitas, maka semua karyawan mungkin tidak akan mendapatkan akses.

AI Spend Console sudah termasuk untuk pelanggan HR Rippling, meskipun ada biaya tambahan berbasis penggunaan AI. Produk ini juga dapat dibeli sebagai produk standalone dan diintegrasikan dengan sistem HR record lainnya.