Telset.id – Bayangkan hanya dengan empat GPU, Anda bisa mendapatkan performa yang sebelumnya membutuhkan 16 unit. Itulah yang dihadirkan NVIDIA dengan seri terbaru mereka, GB300 berbasis arsitektur Blackwell. Bocoran benchmark dari CoreWeave baru saja mengungkapkan betapa dahsyatnya lompatan efisiensi yang ditawarkan generasi ini. Dalam tes menggunakan model DeepSeek R1, empat GB300 mampu menyaingi 16 H100. Artinya, setiap kartu memberikan peningkatan throughput sekitar enam kali lipat. Apakah ini menjadi lompatan generasi terbesar NVIDIA sejauh ini?
Bagi Anda yang berkecimpung di dunia komputasi AI, angka-angka ini bukan sekadar klaim marketing. Ini adalah bukti nyata bagaimana inovasi hardware bisa mengubah landscape industri. NVIDIA tidak hanya mengandalkan peningkatan raw performance, tetapi juga efisiensi arsitektur yang memungkinkan pengurangan overhead komunikasi dan latensi. Hasilnya? Token yang dihasilkan lebih cepat, biaya per inference lebih rendah, dan skalabilitas yang jauh lebih mudah.
Platform GB300 NVL72 sendiri mampu diskalakan hingga 37TB memori dengan bandwidth 130TB/s, memungkinkannya menangani model AI sangat besar tanpa bottleneck seperti pada hardware lama. Teknologi 4-way tensor parallelism (TP4) yang diusungnya juga lebih efisien dibanding pendahulunya yang memerlukan 16-way splits (TP16) untuk mencapai skala serupa. Sedikit split berarti lebih sedikit overhead komunikasi, dan dukungan NVLink serta NVSwitch generasi kelima dari NVIDIA menjaga latensi tetap rendah.
Bagi bisnis yang menjalankan layanan AI berskala besar, efisiensi semacam ini bukan lagi sekadar angka di atas kertas. CoreWeave mencatat bahwa peningkatan efisiensi ini langsung diterjemahkan menjadi manfaat praktis untuk workload seperti model reasoning, di mana performa-per-watt dan latensi adalah faktor kritis. Namun, tentu saja hardware semaju ini tidak datang dengan harga murah. Sistem berbasis GB300 NVL72 diperkirakan dibanderol mulai dari $300.000, menempatkannya firmly di territory enterprise.
Baca Juga:
Lalu, apakah harganya sebanding dengan performanya? Bagi perusahaan yang sudah berinvestasi besar dalam infrastruktur AI, lompatan performa sebesar ini bisa saja justify the cost. Apalagi mengingat betapa ketatnya persaingan di industri AI saat ini, seperti prediksi JPMorgan yang menyebut OpenAI baru akan untung di 2029. Memiliki hardware yang lebih efisien bisa menjadi pembeda signifikan.
NVIDIA sendiri bukan pemain baru dalam hal inovasi komputasi high-end. Sebelumnya mereka juga telah memperkenalkan superkomputer AI berukuran mini bernama DGX Spark, menunjukkan komitmen mereka dalam mendemokratisasikan akses ke komputasi canggih. Namun, dengan GB300, mereka sepertinya sedang menaikkan level permainan ke strata yang benar-benar berbeda.
Jika angka-angka awal ini terbukti konsisten seiring dengan ekspansi deployment, GB300 berpotensi menjadi salah satu lompatan generasi terbesar yang pernah dihadirkan NVIDIA — sekaligus menetapkan baseline baru untuk komputasi AI high-end. Dan dalam industri yang secepat ini, siapa yang tidak ingin tetap berada di garis depan?
Perkembangan ini juga menarik untuk diamati dari sisi pesaing. Sementara NVIDIA terus memimpin dengan inovasi hardware-nya, perusahaan seperti MediaTek juga tidak tinggal diam dengan meluncurkan chipset flagship dengan AI dan gaming mumpuni. Persaingan yang sehat ini pada akhirnya akan menguntungkan konsumen dan mendorong percepatan inovasi lebih lanjut.
Jadi, apa pendapat Anda? Apakah lompatan sebesar ini akan mengubah cara kita memandang komputasi AI? Atau justru menjadi pembuka jalan untuk inovasi-inovasi lain yang lebih spektakuler? Satu hal yang pasti: dengan GB300, NVIDIA sekali lagi membuktikan bahwa mereka masih yang terdepan dalam perlombaan AI hardware.
