📑 Daftar Isi

Mockup pabrik AI Nvidia Vera Rubin dengan desain DSX untuk pendinginan cair bersuhu tinggi

Nvidia Rubin Pakai Air Panas 45°C untuk Dinginkan AI Server

Penulis:Nur Hamzah
Terbit:
Diperbarui:
⏱️3 menit membaca
Bagikan:
  • Nvidia Rubin generasi pertama yang 100% menggunakan liquid cooling dengan coolant bersuhu 45°C masuk dan 55°C keluar
  • Menghemat 2,6 juta galon air per megawatt per tahun hingga mendekati nol
  • Fasilitas 50MW bisa hemat lebih dari $4 juta per tahun biaya pendinginan
  • Coolant campuran air dan propylene glycol rasio 3:1
  • IBM sudah lakukan 16 tahun lebih awal dengan coolant 60°C
  • Nvidia menambahkan skala dengan desain mencakup seluruh fasilitas
  • Menghilangkan kipas server dan mengurangi daya chiller secara signifikan
  • DSX adalah desain referensi, bukan apa yang sudah dibangun industri

Telset.id – Nvidia mengambil pendekatan yang tidak biasa dalam mendinginkan server AI generasi terbarunya. Alih-alih menggunakan air dingin, perusahaan justru mengalirkan coolant bersuhu 45 derajat Celcius yang lebih panas dari air panas di bak mandi untuk mendinginkan chip.

Pendekatan ini merupakan bagian dari platform Nvidia Vera Rubin yang menjadi generasi pertama Nvidia yang sepenuhnya menggunakan pendingin cair atau liquid cooling. Dalam desain referensi Nvidia DSX, setiap chip dan komponen jaringan tercakup dalam loop tertutup yang memungkinkan pabrik AI mengonsumsi air hampir nol.

Prinsip yang digunakan adalah gradien suhu. Meskipun coolant masuk pada suhu 45°C dan keluar pada sekitar 55°C, chip server tetap berjalan lebih panas sehingga perpindahan panas tetap terjadi secara mulus tanpa penalti performa.

“The NVIDIA DSX reference design for AI factories has zero water consumption — we have eliminated massive amounts of power usage and pretty much all water usage,” kata Ali Heydari, direktur data center cooling dan infrastruktur Nvidia.

Coolant yang digunakan adalah campuran air dan propylene glycol dengan rasio 3:1. Campuran ini menarik panas dari chip yang berjalan jauh lebih panas dengan mudah.

Pendekatan Nvidia bukanlah yang pertama dalam hal desain termal. IBM telah melakukannya 16 tahun lebih awal dengan menggunakan coolant 60 derajat untuk mendinginkan superkomputer prototipe di ETH Zurich. Premisnya sama: jejak karbon lebih rendah, konsumsi daya signifikan lebih rendah, dan loop yang diisi sekali lalu dibiarkan.

Yang ditambahkan Nvidia adalah skala. Desain DSX berbasis Vera Rubin memperluas pendekatan ini ke seluruh fasilitas, bukan hanya satu mesin.

Efisiensi Biaya dan Air yang Signifikan

Pendekatan ini menghasilkan penghematan yang substansial. Nvidia memperkirakan dapat menghemat sekitar 2,6 juta galon air per megawatt per tahun hingga mendekati nol. Untuk fasilitas hyperscale 50 megawatt, penghematan biaya pendinginan dan air bisa mencapai lebih dari $4 juta per tahun.

Liquid cooling infrastructure overhead pipes routes into powerful AI servers

Penghematan tidak hanya berbasis air. Industrial chiller plant memotong biaya energi sekitar 4% untuk setiap derajat kenaikan suhu operasi. Dengan pendinginan yang secara historis mencapai 40% dari total tagihan listrik data center, pendekatan Nvidia ini diperkirakan akan membayar sendiri dengan cepat.

Pendekatan ini juga menghilangkan kipas server sama sekali dan memungkinkan chiller berjalan hanya jika diperlukan, dengan daya yang jauh lebih rendah dibandingkan loop yang menuntut coolant lebih dingin.

Perlu dicatat bahwa DSX adalah desain referensi, yaitu kumpulan praktik terbaik untuk membangun pabrik AI, bukan sensus dari apa yang sebenarnya telah dibangun industri. Banyak desain yang masih mengonsumsi air dalam jumlah sangat besar bahkan saat data center AI terus bermunculan di wilayah yang dilanda kekeringan di AS.

Konsekuensi dari Chip Paling Padat Daya

Nvidia tidak mengadopsi pendingin air panas karena elegan, hijau, atau cerdas, meskipun semuanya itu benar. Perusahaan mengadopsinya karena akseleratornya menjadi sangat padat daya sehingga menggerakkan udara melaluinya tidak lagi layak secara fisik.

Setelah berkomitmen pada pendingin cair, menjalankannya dengan suhu panas adalah cara yang efisien untuk melakukannya. Kemenangan keberlanjutan itu nyata, dan itu adalah konsekuensi dari masalah termal yang diciptakan Nvidia untuk dirinya sendiri dengan membangun chip paling padat daya di industri.

AI infrastructure by Nvidia

Ali Heydari menambahkan bahwa pendekatan ini menghilangkan penggunaan daya dalam jumlah besar dan hampir semua penggunaan air. Langkah ini juga memungkinkan Nvidia untuk menghilangkan industrial chiller plants dari persamaan dengan menggunakan pendingin cair pada suhu antara 45 hingga 55 derajat Celcius.

Dengan Nvidia Hibahkan Superkomputer AI ke berbagai institusi dan terus mengembangkan platformnya, pendekatan pendinginan ini menjadi semakin relevan. Perusahaan juga terus berinovasi dengan Nvidia Pamer DLSS 5 di berbagai ajang teknologi.

Pendekatan Nvidia ini menunjukkan bahwa terkadang solusi paling efektif untuk masalah kompleks justru datang dari pemikiran yang tidak konvensional. Air panas bukanlah trik, melainkan tagihan yang jatuh tempo, dibayar dalam mata uang paling efisien yang tersedia.

Ikuti Telset.id di Google NewsFollow

Komentar

Belum ada komentar.