Telset.id – General Compute, sebuah startup cloud AI inferensi, berhasil mendapatkan pinjaman senilai $400 juta dari Upper90, perusahaan investasi teknologi. Pendanaan ini menandai pertama kalinya chip khusus inferensi dijadikan sebagai jaminan, menandakan pergeseran pasar menuju infrastruktur AI yang lebih efisien dan terjangkau.
Pinjaman tersebut merupakan sinyal terbaru bahwa pasar merespons kekhawatiran akan harga alat dan token AI. Solusinya adalah dengan beralih ke infrastruktur yang menjalankan model open source secara lebih murah dibandingkan model bahasa besar (LLM) terbaru dari laboratorium frontier. General Compute, yang didirikan oleh CEO Finn Puklowski dan CTO Jason Goodison, sebelumnya mengumpulkan dana seed sebesar $15 juta pada bulan Mei untuk membangun neocloud inferensi di sekitar silikon dari SambaNova, pembuat chip yang didukung oleh Intel.
Neocloud adalah infrastruktur yang dirancang khusus untuk beban kerja AI, berbeda dengan infrastruktur tujuan umum yang ditawarkan oleh hyperscaler tradisional seperti AWS atau Azure. Chip SN50 milik General Compute dirancang khusus untuk inferensi. Chip ini hemat daya dan tidak memerlukan sistem pendingin air yang mahal, sehingga dapat digunakan lebih cepat daripada GPU di berbagai pusat data. General Compute mengklaim chip baru ini akan memberikan kinerja inferensi 16 kali lebih cepat dibandingkan cloud berbasis GPU.
Tantangan utama bagi perusahaan rintisan seperti General Compute adalah mendapatkan pasokan chip dalam jumlah besar. Billy Libby, CEO dan salah satu pendiri Upper90 yang merupakan mantan pedagang kuantitatif Goldman Sachs, memiliki strategi untuk ini. Pada tahun 2021, perusahaannya membiayai pembelian GPU oleh Crusoe, sebuah startup pusat data yang berfokus pada energi. Ini diyakini sebagai pinjaman pertama yang menggunakan nilai chip canggih sebagai jaminan.
Pemberi pinjaman tradisional pada saat itu menolak kesepakatan semacam itu karena risiko dan ketidakpastian seputar depresiasi GPU. Namun, seiring CoreWeave menjadikan pinjaman berbasis chip sebagai model bisnis dan kemudian menjadi dasar IPO yang sukses, jenis pembiayaan ini kini menjadi hal yang umum.
“Saat kami membiayai GPU Nvidia sebagai kelompok pertama yang melakukannya, pasar tidak efisien,” kata Libby kepada TechCrunch. “Kami benar-benar bisa menyusun sesuatu sebagai peserta awal, dan semacamnya mendapatkan kompensasi atas risikonya.” Sekarang setelah GPU relatif dipahami dengan baik dan mungkin dibeli secara berlebihan, Upper90 beralih ke perusahaan seperti General Compute untuk menaiki gelombang berikutnya dari ledakan AI.
“Kami pikir model open source akan menjadi penting, dan kami mencari pemain tahun lalu yang bergerak di bidang inferensi,” kata Libby. “Tidak semua orang membutuhkan superkomputer, tetapi mereka membutuhkan inferensi dan AI.” Tesis ini semakin kuat, dengan perusahaan yang menyediakan akses ke model open source, seperti OpenRouter dan Fireworks, yang berhasil mengumpulkan dana baru dengan valuasi besar. Model baru seperti Kimi K3 telah terbukti mampu bersaing dengan rilis terbaru dari Anthropic dan OpenAI dalam tolok ukur coding.
Kemampuan General Compute untuk mengakses chip di luar ekosistem Nvidia juga menjadi faktor penting. TensorWave, perusahaan infrastruktur AI lainnya, membuat taruhan serupa pada kemitraan dengan AMD. Seiring munculnya lebih banyak alternatif selain Nvidia, penyedia komputasi yang tidak terikat dengan kesepakatan Nvidia mungkin memiliki keunggulan dalam menyediakan inferensi yang hemat biaya.
“Ada banyak chip yang mulai berkembang dengan biaya kepemilikan total yang luar biasa, atau yang dapat beroperasi jauh lebih cepat daripada Nvidia, tetapi tidak banyak pembeli untuk mereka,” kata Puklowski. “Dengan bekerja sama dengan Upper90, ini bukan hanya, ‘sebuah startup keren mendapat uang untuk membeli komputasi.’ Seperti, ini adalah sinyal pertama dari modal yang mengatur dirinya sendiri dan fragmentasi dominasi monopolistik Nvidia.”
Pendanaan ini menjadi bukti bahwa pasar infrastruktur AI sedang bertransformasi. Fokus bergeser dari sekadar membangun model ke bagaimana menjalankannya secara efisien. General Compute dan Upper90 berada di garis depan perubahan ini, menjadikan AI lebih demokratis dan terjangkau bagi lebih banyak pengguna.
Komentar
Belum ada komentar.