Marvell Rilis Tiga Lapis Infrastruktur Memori AI untuk Atasi Krisis DRAM

Telset.id – Marvell memperkenalkan portofolio “AI memory infrastructure” tiga tingkat di FMS 2026 Santa Clara pada 4 Agustus, dengan fokus utama pada daur ulang DDR4 sebagai solusi atas kenaikan harga DRAM yang mencapai rekor. Product Marketing VP Marvell, Khurram Malik, menempatkan penggunaan kembali DDR4 sebagai prioritas utama dalam daftar use-case CXL saat memaparkan strategi ini kepada EE Times pekan lalu.

Langkah ini menjadi respons atas kondisi pasar memori yang tidak biasa. Memori diperkirakan akan menyerap sekitar 30% dari belanja modal (capex) hyperscaler tahun ini, meningkat drastis dari sekitar 8% pada 2023 dan 2024. Harga kontrak DRAM konvensional naik 90% hingga 95% hanya dalam satu kuartal, dan Meta telah menjalankan daur ulang DDR4 di belakang CXL di jutaan server, memangkas jumlah server hingga 25% untuk sebagian beban kerja inferensi.

Dari seluruh portofolio yang dipamerkan, hanya satu produk yang benar-benar baru: pengontrol SSD Bravera SC6 PCIe 6.0 yang akan mulai sampling pada Q4 2026. Sementara itu, Structera X telah dipasarkan sejak 2024, switch Structera S diumumkan di OFC pada Maret, dan tier memori optik Photonic Fabric hadir melalui akuisisi Celestial AI pada Februari.

Menariknya, Meta yang menjadi pelanggan referensi untuk use-case yang dijual Marvell justru menggunakan ASIC rancangan sendiri, bukan produk dari Marvell.

Bravera SC6 dan Produk Baru Lainnya

Bravera SC6 merupakan pengontrol PCIe 6.0 x4 dengan 16 saluran NAND, delapan chip enable per saluran, antarmuka ONFI dan Toggle 3.600 MT/s, serta 12 inti Arm Cortex-R82 dan tiga Cortex-M7. Marvell mengklaim produk ini menggandakan performa Bravera SC5, mendukung NAND dari berbagai pemasok, dan menggunakan host-managed flash translation layer.

Pendekatan ini memberi operator cloud kendali penuh atas write placement, garbage collection, dan wear leveling. Beban kerja utama yang ditargetkan adalah KV cache spillover dari HBM ke SSD. Sampling dimulai Q4 2026, yang berarti drive baru baru akan hadir paling cepat 2027, bersaing dengan Phison dan Silicon Motion di segmen pengontrol PCIe 6.0.

Structera X 2404 dan X 2504, pengontrol ekspansi DDR4 dan DDR5, telah diumumkan pada Juli 2024. Blog FMS Marvell menyebut kedua produk tersebut sudah digunakan di deployment hyperscaler dengan kompresi inline LZ4 yang menghasilkan kapasitas efektif 2 hingga 2,5 kali lipat.

Sementara itu, switch Structera S 30260 yang diumumkan di OFC Maret membawa 260 jalur PCIe 6.0 dan CXL 3.x, menghubungkan 16 atau 32 CPU/GPU hingga 48TB memori bersama dengan bandwidth agregat 4 TB/s dan latency round trip di bawah 460ns. Switch ini mulai sampling kuartal ini.

Photonic Fabric hadir melalui akuisisi Celestial AI senilai $3,25 miliar yang selesai pada Februari. Marvell menggambarkannya sebagai tier memori bersama yang menjangkau hingga 50 meter dengan hingga 32TB warm KV cache dan klaim throughput token 2 hingga 3 kali lipat di footprint yang ada. Nvidia juga telah menginvestasikan $2 miliar di Marvell pada Maret terkait NVLink Fusion.

Krisis Harga DRAM dan Strategi Daur Ulang

Harga kontrak DRAM konvensional naik 90% hingga 95% kuartal-ke-kuartal di Q1 2026, kenaikan tercuram yang pernah tercatat untuk semua kategori DRAM. Q2 menambah kenaikan 58% hingga 63%, dan server DRAM diprediksi naik 13% hingga 18% lagi di Q3, tertahan terutama oleh perjanjian jangka panjang yang ditandatangani hyperscaler AS untuk membatasi harga hingga 2027 dan 2028.

Pembeli server DRAM di AS dan China hanya menerima sekitar 70% pesanan mereka akhir tahun lalu karena pemasok mengalihkan wafer ke HBM. Samsung, SK hynix, dan Micron semuanya mengurangi produksi DDR4 sejak tahun lalu, dan TrendForce mencatat kenaikan hingga 50% untuk DDR4 di Q1 saja.

Modul yang diambil dari server 2021 yang dinonaktifkan kini bernilai kelipatan dari harganya saat Structera X diumumkan, sementara DDR5 yang akan menggantikannya harganya naik dua kali lipat dua kali. Saat Marvell pertama kali menawarkan daur ulang DDR4 pada 2024, itu hanya sebagai item keberlanjutan, tetapi dua tahun kemudian krisis memori mengubahnya menjadi item capex.

Data Meta menunjukkan angka yang signifikan. ASIC Vistara yang dipresentasikan di ISCA 2026 akhir Juni adalah expander CXL 2.0 Type-3 pada link PCIe 5.0 x16 yang menjembatani dua saluran DDR4 ke host dan berjalan pada 128GB per chip menggunakan modul 32GB yang dipulihkan dari mesin pensiun.

Setiap MemServer memasangkan AMD EPYC Turin 158-core dengan 768GB DDR5-6400 lokal dan 256GB DDR4-2400 yang terpasang CXL. Meta mengklaim latency round trip idle sekitar 50ns di jalur pengontrol. Paper tersebut menyatakan sekitar 40% armada Meta terikat kapasitas memori, server bertahan tiga hingga lima tahun sementara DRAM di dalamnya baik hingga tujuh hingga sepuluh tahun.

Deployment ini memangkas jumlah server hingga 25% untuk inferensi ML terdisagregasi, latency rata-rata 29% untuk distributed caching, dan kegagalan job sebesar 33%.

Malik menyatakan kepada EE Times bahwa “use-case pertama dan terpenting dalam CXL adalah daur ulang DDR4.” Rilis FMS Marvell menyebut Structera X “dikembangkan melalui kolaborasi erat dengan hyperscaler terkemuka” tanpa menyebut nama spesifik. Paper Meta menggambarkan ASIC in-house, chassis MemServer in-house, dan stack page-placement Linux in-house, jalur lengkap yang diambil ketika volume sudah membenarkan silicon sendiri.

Sementara itu, pengontrol Leo dari Astera Labs telah mencapai preview M-series Microsoft Azure pada November tahun lalu.

Kesenjangan Adopsi CXL

SemiAnalysis menyatakan CXL mati untuk AI pada Maret 2024 karena SerDes gaya Ethernet seperti NVLink membawa bandwidth sekitar tiga kali lipat per milimeter die edge dibandingkan PCIe 5.0 atau 6.0. Setiap jalur CXL pada akselerator menghabiskan bandwidth scale-up yang bisa dialokasikan ke fabric GPU-ke-GPU.

Pitch CXL Marvell karenanya menargetkan kapasitas sisi CPU dan staging KV cache, bukan jalur GPU-ke-GPU tempat NVLink Fusion berada. Yole memperkirakan dua pertiga server yang terjual di Q1 2025 sudah CXL-capable dan berharap lebih dari 90% pada akhir tahun ini, namun pangsa server yang benar-benar menggunakan CXL hampir nol saat ini dan hanya 13% pada 2030.

Benchmark Marvell untuk Structera S menunjukkan tier DRAM pooled 16TB memberikan throughput inferensi 4,8 kali lipat dan pemotongan 82,7% pada time to first token di konfigurasi GPU, dikaitkan dengan menjaga KV cache di DRAM alih-alih menghitung ulang atau memuat ulang. Angka tersebut merupakan angka vendor tanpa model atau baseline yang diungkap, dan switch baru mulai sampling kuartal ini.

Nvidia, AMD, dan pembuat SSD semuanya menawarkan rute sendiri untuk cache spillover yang sama. Marvell juga menghadapi persaingan dari pendekatan alternatif seperti interkoneksi chip yang semakin penting di era komputasi AI. Investasi besar di sektor fotonik juga terus berlanjut, termasuk fab fotonik di Jepang yang menunjukkan arah industri ini.

Dengan kenaikan harga DRAM yang belum menunjukkan tanda melambat, strategi daur ulang memori ini bisa menjadi pembeda utama bagi hyperscaler yang ingin menekan biaya tanpa mengorbankan kapasitas komputasi AI mereka.