Telset.id – AMD resmi meluncurkan Helios, solusi rackscale terbaru yang berhasil mengungguli Nvidia Vera Rubin NVL72 dalam hal kapasitas memori di level rack. Helios membawa 31TB HBM4, jauh melampaui 20,7TB yang ditawarkan kompetitor.
Dalam peluncurannya, AMD membandingkan Helios dengan apa yang mereka sebut sebagai “solusi kompetitif terdepan” tanpa menyebutkan nama Nvidia secara eksplisit. Namun, Vera Rubin berbasis NVL72 merupakan satu-satunya pesaing nyata yang menjadi acuan perbandingan tersebut.
Perbandingan ini menjadi krusial karena kapasitas memori merupakan faktor penentu dalam menjalankan model AI besar. Dengan 31TB HBM4, Helios mampu menyimpan lebih banyak data secara langsung di memori berkecepatan tinggi, yang ideal untuk model yang harus dijalankan sepenuhnya di HBM.
Performa Komputasi dan Perbandingan FP4
AMD juga mengklaim keunggulan 15% pada FP4 compute berbasis per-GPU dibandingkan Nvidia Rubin. Namun, jika dibandingkan secara rack-to-rack, Helios dengan 72 GPU hanya mencapai 2,9 exaflops, sementara Nvidia mencatat 3,6 exaflops. AMD tidak secara spesifik menyebut apakah mereka menghitung die individual atau paket dua-die Nvidia, yang membuat perbedaan signifikan dalam hasil perbandingan.
Perlu dicatat bahwa kedua perusahaan menggunakan format angka yang berbeda: AMD menggunakan MXFP4, sementara Nvidia menggunakan NVFP4. Keduanya tidak mengukur aritmatika yang identik, sehingga perbandingan langsung harus dilakukan dengan hati-hati.
Dalam praktiknya, beban kerja FP4 di dunia nyata jarang mencapai rating puncak hardware karena keterbatasan pergerakan memori, overhead penjadwalan, dan efisiensi kernel software. AMD sendiri mengakui bahwa throughput FP4 terukur hanya sekitar setengah dari rating puncaknya pada event peluncuran.
Baca Juga:
Sementara itu, Nvidia mungkin mampu mempertahankan lebih banyak performa puncaknya berkat CPU Vera khusus, software stack NVLink 6 yang matang, dan pool memori cepat yang lebih besar: 75TB per rack setelah menggabungkan 54TB LPDDR5X dengan 20,7TB HBM4.
Keunggulan Arsitektur dan Skalabilitas
Helios menawarkan kapasitas dan bandwidth memori yang lebih tinggi per akselerator: 432GB dan 23,3 TB/s. Dalam hal fabric skala-up, keduanya seimbang dengan 3,6 TB/s per akselerator dan 260 TB/s per rack.
Ini mungkin pertama kalinya AMD menghadirkan jawaban rackscale yang kredibel terhadap Nvidia sejak persaingan AI dimulai. Helios menggabungkan 72 akselerator MI455X, 18 CPU EPYC Venice, 31TB HBM4, UALink over Ethernet di dalam rack, dan Ultra Ethernet untuk koneksi eksternal, semuanya dalam chassis OCP Open Rack Wide dengan switch silicon Broadcom komersial.
Yang lebih penting, spesifikasi fabric Helios tersedia secara publik, memungkinkan hyperscaler membangun varian kustom sesuai kebutuhan mereka. Platform Nvidia tidak menawarkan fleksibilitas setara. AMD memposisikan keterbukaan ini sebagai keunggulan utama platform, dengan Vamsi Boppana, senior vice president of AI di AMD, menyatakan bahwa Helios “menyatukan komputasi terdepan, jaringan berperforma tinggi, dan software terbuka dalam platform rackscale terpadu.”
AMD juga mengklaim Helios menawarkan 30% lebih banyak token per dolar dibandingkan kompetisi. Namun, banyak kalkulasi AMD didasarkan pada performa puncak, bukan angka publikasi Nvidia, sehingga klaim ini mendorong calon pengguna untuk melihat lebih dekat.
Pertanyaan yang lebih penting bagi AMD mungkin adalah pasokan memori. Nvidia telah memproduksi Vera Rubin secara penuh sejak Q1 dengan ketersediaan mitra pada paruh pertama tahun ini. Sementara itu, deployment pertama Helios baru dijadwalkan pada Q4. AMD mungkin juga terhambat oleh pasokan HBM4, yang sebagian besar dilaporkan sudah dikomitmenkan ke hyperscaler, sehingga volume deployment bisa jauh di bawah Nvidia tahun ini.
[CONTENT_END]
Komentar
Belum ada komentar.