Telset.id – Perusahaan infrastruktur AI, Runware, mengumumkan peluncuran data center modular bernama Sonic Inference Pod pada Selasa. Unit yang dirancang sebagai satu kesatuan transportable ini menjadi alternatif fleksibel di tengah proyek data center raksasa milik hyperscaler. Runware mengklaim Pod mampu menawarkan inference berkualitas lebih tinggi dengan biaya lebih rendah dibandingkan platform serverless inference dan GPU cloud lainnya.
Desain modular ini memungkinkan penambahan kapasitas dilakukan dengan cepat melalui pembuatan pod baru, tanpa perlu memperluas data center tetap. Flaviu Radulescu, co-founder dan CEO Runware, menyebut pendekatan ini sebagai masa depan komputasi terdistribusi.
“Kami percaya komputasi terdistribusi, yang ditempatkan lebih dekat ke pengguna akhir untuk inference lebih cepat, akan menang dalam jangka panjang,” ujar Radulescu kepada TechCrunch.
Keunggulan Sonic Inference Pod
Selain harga yang lebih rendah, Radulescu menjelaskan sistem Runware dapat menambah kapasitas dengan cepat, ditempatkan di mana saja yang memiliki daya listrik, serta mudah beradaptasi dengan rilis hardware terbaru. Pod Runware tidak menggunakan air, melainkan sistem pendingin loop tertutup yang dapat dibangun dalam hitungan hari.
Perbandingan ini cukup signifikan karena pembangunan data center tradisional biasanya memakan waktu berbulan-bulan bahkan bertahun-tahun. “Permintaan inference tumbuh lebih cepat daripada fasilitas yang bisa dibangun,” kata Radulescu. “Yang kami inginkan adalah menggerakkan kecerdasan dunia, menjadi tulang punggung tempat setiap model AI berjalan dengan kapasitas yang mengikuti permintaan, bukan menghambatnya.”
Runware saat ini memiliki 10 pod yang sedang dalam proses deployment di Amerika Serikat, Eropa, dan Asia-Pasifik. Perusahaan sudah menyediakan layanan inference untuk beberapa klien, termasuk Higgsfield AI dan Wix. Tersedia 160 lokasi yang siap digunakan untuk menyalakan pod-pod tersebut.
Runware mengumumkan pendanaan Series A senilai 50 juta dolar AS pada Desember lalu untuk menyediakan infrastruktur yang dibutuhkan perusahaan dalam menghasilkan gambar. Ekspansi ke pod ini merupakan bagian dari misi inti perusahaan, yaitu menyediakan inference bagi perusahaan, bukan sekadar produk tunggal.
Perbandingan dengan Data Center Raksasa
Lab AI seperti OpenAI dan SpaceX masih berlomba membangun data center di seluruh Amerika Serikat. OpenAI misalnya, dikabarkan hampir mencapai kesepakatan senilai 500 miliar dolar AS untuk membangun data center di Ohio. Namun Radulescu tidak melihat proyek-proyek tersebut sebagai ancaman bagi Sonic Inference Pods, dan menyebut fleksibilitas pod sebagai pembeda utama.
“Setiap pod berjalan sebagai bagian dari satu jaringan, sehingga permintaan dikirim ke mana pun ada kapasitas, lebih dekat ke pengguna, dan jika satu pod offline, lalu lintas berpindah ke pod lain,” jelasnya. Sistem ini berarti kegagalan hanya berdampak pada satu pod, bukan seluruh fasilitas tetap. “Pelanggan yang menginginkan hardware khusus mendapatkan pod utuh untuk mereka sendiri.”
Radulescu juga tidak terlalu khawatir dengan perusahaan lain yang membangun sistem serupa. Menurutnya, hardware membutuhkan waktu lama untuk dikembangkan dan talenta yang mampu membangun serta memperbaiki teknologi ini jumlahnya terbatas. “Kesalahan dalam desain sirkuit memakan waktu berbulan-bulan antara desain ulang, simulasi, fabrikasi, pengujian, dan pengiriman,” katanya. “Setiap keputusan membutuhkan seseorang yang memahami persis fungsi setiap komponen dan apa yang rusak jika komponen itu hilang.”
Pembangunan data center AI memang menjadi topik kontroversial, terutama karena besarnya sumber daya yang digunakan. Komunitas di sekitar lokasi data center telah melaporkan kenaikan biaya utilitas. Runware membayangkan suatu hari nanti dapat beroperasi dengan energi terbarukan tanpa menguras sumber daya yang dibutuhkan komunitas, meski hal itu belum terjadi saat ini.
Radulescu menegaskan penggunaan daya AI akan terus meningkat, “didorong oleh permintaan inference, bukan oleh siapa yang menyuplai.” Fokus Runware saat ini adalah bagaimana permintaan tersebut dipenuhi. “Tanpa kehilangan transmisi, tanpa air untuk pendinginan, dan kami menggunakan daya yang sudah ada alih-alih meminta kapasitas grid baru. Semakin banyak inference dibangun dengan cara ini berarti semakin sedikit grid baru dan air yang dibutuhkan untuk jumlah komputasi yang sama.”
Komentar
Belum ada komentar.