Telset.id – Kecerdasan buatan generasi berikutnya yang mampu berpikir dan bertindak sendiri ternyata membutuhkan energi listrik jauh lebih besar dari perkiraan sebelumnya. Sebuah studi baru dari Korea Advanced Institute of Science and Technology (KAIST) mengungkapkan bahwa AI agent dapat mengonsumsi daya hingga 136,5 kali lebih banyak per kueri dibandingkan model generative AI konvensional.
Temuan ini menjadi peringatan serius bagi perusahaan teknologi yang tengah gencar mengembangkan sistem AI otonom. Pasalnya, infrastruktur kelistrikan global saat ini belum siap menampung lonjakan permintaan daya yang akan datang.
Konsumsi Daya AI Agent yang Mencengangkan
Penelitian yang dipimpin oleh Profesor Minsoo Rhu dari School of Electrical Engineering KAIST ini merupakan analisis komprehensif pertama tentang biaya energi yang dibutuhkan oleh AI agent. Berbeda dengan chatbot tradisional yang hanya menghasilkan satu respons untuk satu pertanyaan, AI agent bekerja jauh lebih kompleks.
Mereka secara berulang memanggil large language models (LLM), menjelajahi web, mengeksekusi kode, menggunakan kalkulator, dan berinteraksi dengan perangkat lunak eksternal saat menyelesaikan tugas-tugas rumit. Kemampuan ini memang membuat AI agent jauh lebih berguna untuk riset, pemrograman, dan otomatisasi tempat kerja, namun konsekuensinya adalah kebutuhan komputasi yang sangat besar.
Tim peneliti memperlakukan AI agent sebagai kategori baru beban kerja pusat data dan mengukur kebutuhan komputasinya dalam skenario dunia nyata. Hasilnya sungguh mengejutkan.
Para peneliti menemukan bahwa AI agent dapat meningkatkan latensi respons hingga 153,7 kali dibandingkan dengan penalaran chain-of-thought konvensional. Yang lebih mengejutkan lagi, GPU mahal yang menjadi mesin penggerak AI ini justru menganggur hingga 54,5 persen dari waktu eksekusi sambil menunggu alat eksternal menyelesaikan tugasnya. Artinya, perangkat keras tetap mengonsumsi daya meskipun tidak sedang melakukan komputasi AI secara aktif.
Skala konsumsi energinya pun dramatis. Menjalankan AI agent yang didukung oleh model bahasa dengan 70 miliar parameter membutuhkan rata-rata 348,41 watt-jam per kueri. Angka ini sekitar 136,5 kali lebih tinggi dibandingkan chatbot konvensional yang menjawab pertanyaan sederhana.
Dampak pada Infrastruktur Global
Untuk memahami implikasi yang lebih luas, tim peneliti membuat model skenario di mana AI agent menangani 13,7 miliar permintaan per hari — kira-kira setara dengan lalu lintas pencarian harian Google. Dalam skenario tersebut, infrastruktur AI akan membutuhkan sekitar 198,9 gigawatt listrik. Jumlah ini hampir setengah dari rata-rata daya yang dikonsumsi di seluruh Amerika Serikat dan jauh melampaui kapasitas pusat data AI saat ini.
Temuan ini muncul di tengah meningkatnya investasi perusahaan-perusahaan seperti OpenAI, Google, Microsoft, Anthropic, dan lainnya pada AI agentic, yang diposisikan sebagai lompatan besar berikutnya melampaui chatbot percakapan. Namun studi ini berargumen bahwa meningkatkan model AI saja tidak lagi cukup. Kemajuan di masa depan akan bergantung secara setara pada semikonduktor yang lebih efisien, pemanfaatan GPU yang lebih baik, desain pusat data yang lebih cerdas, dan perluasan infrastruktur listrik.
Profesor Rhu menyatakan bahwa penelitian ini menunjukkan daya saing AI sedang bergeser dari membangun “AI yang lebih pintar” menjadi membangun AI yang lebih efisien. Tim peneliti percaya bahwa pengembangan AI di masa depan akan memerlukan pendekatan co-design, yang mengoptimalkan model, chip AI, server, dan sistem energi secara bersama-sama untuk menjaga biaya operasional tetap terkendali dan memastikan AI tetap berkelanjutan dalam skala besar.
Makalah berjudul “The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective” ini telah dipresentasikan di IEEE International Symposium on High-Performance Computer Architecture (HPCA) awal tahun ini. Para peneliti juga telah membuka sumber (open-source) tolok ukur AI agent mereka, dengan harapan dapat mendorong penelitian lebih lanjut untuk mengurangi salah satu biaya AI yang paling cepat berkembang dan sering diabaikan: listrik.
Baca Juga:
Implikasi dari penelitian ini sangat jelas. Konsumsi energi yang sangat besar dari AI agent tidak hanya akan membebani infrastruktur listrik global, tetapi juga berpotensi meningkatkan biaya operasional secara signifikan bagi perusahaan yang mengadopsi teknologi ini. Tanpa terobosan dalam efisiensi energi, adopsi AI agent secara luas mungkin akan terhambat oleh keterbatasan daya dan biaya yang tidak terkendali.
Sementara itu, upaya untuk mengatasi tantangan energi ini juga mulai terlihat di berbagai sektor. Misalnya, baterai solid-state yang diproduksi massal untuk drone dan robot menunjukkan bahwa inovasi dalam penyimpanan energi terus berlanjut. Namun, skala kebutuhan listrik untuk AI agent jauh melampaui apa yang bisa disediakan oleh solusi baterai konvensional saat ini.
Ke depannya, industri AI harus memikirkan ulang pendekatan mereka terhadap efisiensi energi. Mengandalkan model yang lebih besar dan lebih pintar tanpa mempertimbangkan konsumsi daya bukanlah strategi yang berkelanjutan. Kolaborasi antara pengembang AI, produsen chip, dan penyedia infrastruktur akan menjadi kunci untuk menciptakan masa depan AI yang tidak hanya cerdas, tetapi juga hemat energi.
Komentar
Belum ada komentar.