Telset.id – Nvidia memperkenalkan NVHBM, arsitektur memori high-bandwidth kustom yang menjanjikan peningkatan hingga 30 persen bandwidth per stack dan efisiensi daya lebih baik untuk akselerator AI generasi depan. Arsitektur memori baru ini diperkenalkan melalui program NVLink Fusion pada 26 Agustus, dengan klaim performa yang diukur terhadap standar HBM4E yang masih dalam tahap sampling.
Kehadiran NVHBM menjadi respons terhadap keterbatasan bandwidth yang semakin menjadi kendala utama dalam pengembangan model AI frontier. Amazon melalui Annapurna Labs menjadi mitra pertama yang disebutkan untuk program ini, meskipun belum ada konfirmasi GPU mana yang akan menggunakan arsitektur memori tersebut.
Pendekatan Baru dalam Manajemen Memori
Perbedaan mendasar NVHBM terletak pada lokasi pengelolaan memori. Pada pendekatan HBM konvensional, tanggung jawab terbagi antara vendor memori yang menyediakan stack DRAM dan base die, sementara desainer akselerator menempatkan memory controller dan physical interface pada compute die mereka sendiri. JEDEC menstandarkan koneksi antara keduanya dengan mengorbankan bus paralel yang lebar namun relatif lambat.
NVHBM menghilangkan batas tersebut dengan memindahkan memory controller Nvidia ke dalam base die dari 3D stack. Bus standar digantikan oleh die-to-die link yang lebih sempit dan terserialisasi, yang dirancang oleh Nvidia dan dapat diproduksi oleh pembuat memori.
Menurut blog teknis Nvidia, pengurangan area interface dan support mencapai hingga 67 persen dibandingkan standar JEDEC HBM4E. Selain itu, arsitektur ini juga meningkatkan konsumsi daya, bandwidth memori, dan area yang dapat digunakan.
Perbandingan dengan Teknologi Serupa
Konsep yang diusung NVHBM sebenarnya bukan hal yang sepenuhnya baru. Marvell telah mengumumkan ide serupa pada Desember 2024, dengan menyebut Micron, Samsung, dan SK hynix sebagai kolaborator. Marvell mengklaim peningkatan hingga 25 persen area komputasi, kapasitas memori 33 persen lebih besar, dan pengurangan 70 persen daya interface memori.
Angka-angka tersebut mendekati proyeksi yang saat ini dikeluarkan oleh Nvidia. Analis Counterpoint Research Neil Shah memberikan pernyataan tegas: “Teknologinya tidak baru. Distribusinya yang baru.”
Ketersediaan dan Akses Terbatas
Meskipun HBM4E sendiri belum diproduksi massal, dengan Samsung baru mengirimkan sampel HBM4E pertama pada akhir Mei 2026 dan SK hynix memajukan sampling ke sekitar Juni, NVHBM bahkan lebih sulit diakses. Arsitektur memori ini merupakan building block yang berada di balik program NVLink Fusion, program Nvidia untuk menghubungkan akselerator pihak ketiga ke platform rack-scale mereka.
Akses hanya diberikan melalui daftar mitra program tersebut. Amazon Annapurna Labs menjadi peserta pertama yang disebutkan, dengan Nvidia menyatakan Annapurna akan mendukung NVLink Fusion dengan Trainium4 tanpa secara eksplisit menyebut NVHBM.
Blog teknis Nvidia menggambarkan NVHBM sebagai teknologi yang dibangun di atas fondasi yang sama dengan yang akan digunakan untuk GPU masa depan, tanpa menyebutkan generasi pertama yang akan mendukungnya secara native. Hal ini menunjukkan bahwa NVHBM kemungkinan baru akan hadir setelah HBM4E diterapkan secara luas.
Implikasi dari arsitektur ini cukup signifikan bagi industri. Nvidia mengklaim pengurangan biaya interface hingga 67 persen, yang berarti lebih banyak ruang untuk komputasi pada die akselerator. Namun, akses yang terbatas melalui program NVLink Fusion menunjukkan bahwa teknologi ini ditujukan untuk mitra strategis tertentu, bukan untuk pasar umum.
Perkembangan ini juga menunjukkan pergeseran dalam ekosistem AI. Nvidia terus memperluas pengaruhnya melalui berbagai inisiatif, termasuk akuisisi strategis dan program kemitraan seperti NVLink Fusion. Pendekatan ini memungkinkan Nvidia untuk mengontrol lebih banyak aspek dalam rantai pasokan AI, termasuk teknologi memori yang selama ini menjadi domain vendor memori tradisional.
Bagi pengembang dan perusahaan yang mengandalkan infrastruktur AI, kehadiran NVHBM menandakan bahwa Nvidia serius dalam mengatasi bottleneck bandwidth. Namun, ketergantungan pada program kemitraan tertutup berarti adopsi teknologi ini akan berjalan lebih lambat dibandingkan standar industri yang terbuka.
Dengan target produksi massal pada 2027, NVHBM masih memiliki perjalanan panjang sebelum dapat digunakan secara luas. Sementara itu, HBM4E yang menjadi pembanding utama masih berjuang untuk mencapai tahap produksi massal. Dinamika ini menciptakan situasi di mana standar industri dan solusi kustom berjalan paralel, masing-masing dengan kelebihan dan keterbatasannya sendiri.
Nvidia tampaknya mengambil pendekatan ganda: mendukung standar industri sambil mengembangkan solusi kustom untuk mitra tertentu. Strategi ini memungkinkan Nvidia untuk melayani berbagai segmen pasar, dari pelanggan yang membutuhkan kompatibilitas luas hingga mitra yang menginginkan optimasi khusus untuk beban kerja AI mereka.
Ke depan, keberhasilan NVHBM akan bergantung pada seberapa cepat Nvidia dapat menarik lebih banyak mitra ke dalam program NVLink Fusion dan seberapa efektif teknologi ini dalam mengatasi tantangan bandwidth yang dihadapi model AI modern. Tanpa dukungan luas dari ekosistem, teknologi ini berisiko menjadi solusi khusus yang hanya melayani segmen pasar tertentu.
Perkembangan terbaru Nvidia dalam beberapa bulan terakhir menunjukkan fokus perusahaan pada penguatan posisi di sektor AI, baik melalui akuisisi maupun pengembangan teknologi internal. NVHBM menjadi bagian dari strategi yang lebih besar untuk mengatasi keterbatasan teknis dalam komputasi AI, meskipun jalan menuju adopsi luas masih panjang.
Komentar
Belum ada komentar.