Telset.id – Oracle resmi menghadirkan Nvidia Vera Rubin NVL72 rack dan Vera CPU dalam status general availability di Oracle Cloud Infrastructure (OCI) Superclusters. Pengumuman ini disampaikan pada acara Oracle AI World dan menjadikan Oracle sebagai hyperscaler pertama yang menyediakan instance Vera CPU secara standalone, terpisah dari ketergantungan pada GPU Rubin.
Langkah Oracle ini menandai masuknya CPU standalone Nvidia ke data center hyperscale untuk pertama kalinya. Sebelumnya, Vera hanya hadir di lingkungan neocloud yang berfokus pada GPU dan AI, seperti Nscale, CoreWeave, dan Nebius. Kehadiran Vera di Oracle memberi sinyal bahwa ada permintaan terhadap CPU ini yang tidak selalu terikat pada GPU Rubin.
Pengumuman Oracle muncul tak lama setelah Google Cloud lebih dulu mengumumkan general availability Vera Rubin. Dengan demikian, Nvidia kini mengantongi dua hyperscaler besar sebagai pengguna produk barunya dalam waktu berdekatan.
Vera Berdampingan dengan Kompetitor x86
Meski hyperscaler umumnya memusatkan perhatian pada prosesor x86, OCI Superclusters juga menyediakan Ampere Altra untuk instance berbasis Arm. Kehadiran Vera menempatkan CPU Nvidia itu bersaing langsung dengan prosesor x86, terlepas dari komputasi GPU yang digunakan.
Vera sendiri tidak dirancang untuk menggulingkan dominasi x86 secara terisolasi. Ian Buck, sosok di balik CUDA dan wajah pembangunan infrastruktur AI Nvidia, pada Maret lalu saat chip ini diperkenalkan menyatakan bahwa dunia tidak bisa dilayani oleh satu SKU 88-core saja. Namun, Vera membuka pintu bagi hyperscaler seperti Oracle untuk berekspansi ke generasi CPU berikutnya.
AMD dan Intel masih memimpin dalam hal kepadatan single-socket, dan keunggulan itu diperkirakan terus berkembang pada generasi mendatang. AMD EPYC Venice yang akan datang dikabarkan mampu menampung hingga 512 thread dalam satu socket. Meski demikian, Vera menawarkan sejumlah keunggulan tersendiri berkat topologinya, tergantung pada beban kerja yang dijalankan, banyak di antaranya semakin relevan di era AI agentic.
Bandwidth Memori dan Performa Python
Bandwidth memori menjadi salah satu kekuatan Vera, dan klaim ini bukan sekadar materi pemasaran. Nvidia menyebut sistem memorinya mampu mencapai bandwidth 1,2 TB/s. Dalam pengujian yang dilakukan, penggunaan LPDDR5X-9600 bersama die monolitik dan mesh terdistribusi untuk caching memungkinkan Vera lebih dari dua kali lipat bandwidth yang tersedia pada sistem dual Intel Xeon 6980P, bahkan saat dipasangkan dengan MRDIMM berkecepatan 8.800 MT/s.
Hasil tersebut terlihat pada benchmark Stream, khususnya operasi triad yang paling menuntut. Keunggulan Vera serupa pada operasi add, copy, dan scale. Bandwidth ini krusial untuk sejumlah jenis loop agentic, terutama yang menangani kueri database besar atau dokumentasi ekstensif. Kebijakan “spread” pada OpenMP juga memberikan dorongan besar bagi bandwidth memori Vera.
AMD dan Intel mempertahankan kontrol memori terpusat serta cache tingkat sistem, sementara Vera mendistribusikannya dalam mesh di seluruh die. Hasilnya, ketika OpenMP diatur dengan benar, bandwidth memori menjadi jauh lebih tinggi karena proses ditempatkan sejauh mungkin satu sama lain.
Vektor performa lain yang krusial untuk AI agentic adalah Python. Dunia agentic terus berkembang, tetapi sebagian besar fondasi ekosistem perangkat lunak AI dibangun dengan Python. Framework agentic populer seperti CrewAI dan LangGraph ditulis dalam Python, dan meski semakin banyak framework dibangun dengan bahasa seperti Rust dan TypeScript, performa Python tetap krusial untuk loop agentic. Vera juga kuat di area ini, mengalahkan CPU yang secara spesifikasi lebih bertenaga. Aplikasi yang berjalan di Python, termasuk pustaka AI dasar seperti PyTorch dan TensorFlow, turut merasakan manfaatnya.
Baca Juga:
Fokus Nvidia pada AI agentic masuk akal mengingat perkembangan zaman, tetapi bisa melupakan gambaran yang lebih besar. Kehadiran instance Vera standalone di Oracle mengalihkan perhatian pada implikasi lebih luas dari masuknya Vera ke data center. Sebagian aspek performa memang menjadi ciri beban kerja AI agentic, tetapi banyak beban kerja agentic sejatinya merupakan beban kerja data center biasa, hanya saja berjalan pada konkurensi tinggi.
Sebagai contoh, performa SQLite penting bagi server mana pun yang melakukan kueri ke database besar, terlepas apakah kueri ditulis oleh logika, manusia, atau agen AI. Scalable Coherency Fabric (SCF) generasi kedua Nvidia, yang terlihat pada pengujian Stream, muncul dalam beban kerja nyata ini, dengan kueri database sebagian besar dibatasi oleh perpindahan data di seluruh sistem. Itulah yang membuat Vera menarik dalam konteks pengumuman Oracle. CPU ini dibangun untuk AI agentic, tetapi keterkaitannya dengan beban kerja data center umum cukup kuat. Vera bukan sekadar CPU yang dipakai karena butuh akses ke akselerator Nvidia. Tergantung beban kerja, Vera bahkan bisa menjadi pilihan lebih baik dibanding pemain x86.
Pada akhirnya, masih harus dilihat bagaimana pelanggan hyperscaler menggunakan atau tidak menggunakan Vera di lingkungan produksi. Vera telah menunjukkan kegunaannya dalam loop AI agentic, tetapi juga memperlihatkan janji awal pada beban kerja general-purpose tertentu. Deployment standalone Oracle menjadi tanda adanya permintaan terhadap Vera yang tidak semata-mata terikat pada GPU Rubin.
Oracle sendiri melangkah dengan hati-hati, sebagaimana layaknya hyperscaler yang membangun deployment multi-gigawatt. Perusahaan menyatakan juga akan menawarkan Nvidia HGX NVL8, yang menggabungkan delapan GPU Rubin dalam satu cluster, terhubung ke host dual 64-core Intel Xeon 6 dengan memori DDR5 4TB.
Selain Vera CPU, Oracle turut menghadirkan Google Cloud TPU melalui platform OCI. Langkah ini menjadikan Oracle sebagai vendor cloud pertama di luar Google yang menjual TPU, sehingga pelanggan bisa memilih perangkat keras untuk melatih dan menjalankan model AI. Kemitraan ini diumumkan pada konferensi tahunan AI World dan memberi pelanggan Oracle akses ke akselerator AI buatan Google tanpa harus melalui Google Cloud, sekaligus menjadi opsi lain selain GPU Nvidia.
Presiden OCI Mahesh Thiagarajan menjelaskan bahwa “beban kerja AI yang berbeda memiliki kebutuhan komputasi yang berbeda”, sehingga keputusan menawarkan opsi lain kepada pelanggan diambil. Amin Vahdat, SVP dan Chief Technologist Google AI & Infrastructure, menambahkan bahwa “generasi AI berikutnya akan membutuhkan beragam komputasi”. OCI memulai kemitraan dengan TPU generasi kedelapan Google, yakni 8t untuk training dan 8i untuk inference. Keduanya diluncurkan Google Cloud pada awal tahun ini dan akan tersedia melalui OCI pada 2027.
TPU Google adalah chip yang dirancang khusus untuk mempercepat beban kerja machine learning, mencakup training model dan inference AI. Berbeda dengan GPU general-purpose, TPU dioptimalkan khusus untuk kecerdasan artifisial. Meski Nvidia masih menjadi pemasok akselerator AI dominan dengan kapitalisasi pasar 5,265 triliun dolar AS, tekanan dari perangkat keras buatan hyperscaler dan upaya custom silicon terus meningkat.
Langkah Oracle menghadirkan Vera CPU standalone sekaligus TPU Google menunjukkan pergeseran lanskap infrastruktur AI, di mana hyperscaler tidak lagi hanya bergantung pada satu jenis akselerator. Keputusan ini memberi pelanggan Oracle pilihan perangkat keras yang lebih beragam untuk melatih dan menjalankan model AI, sementara Nvidia tetap memperluas jejak CPU-nya ke lingkungan hyperscale melalui Oracle.
Komentar
Belum ada komentar.