Telset.id – OpenAI mengklaim chip inference buatannya, Jalapeño, mampu mengalahkan accelerator Nvidia GB300 dalam benchmark pertama yang dipublikasikan. Klaim ini muncul saat ajang Hot Chips pada Selasa (25/8/2026), hanya sepekan setelah Nvidia menyetujui pendanaan hingga USD 105 miliar untuk pusat data OpenAI.
Chip Jalapeño yang merupakan ASIC inference hasil kolaborasi dengan Broadcom ini mencatatkan throughput per kilowatt 1,5 hingga 1,9 kali lebih tinggi dibandingkan sistem rack Nvidia GB200 dan GB300. Selain itu, latensi end-to-end Jalapeño juga 1,7 hingga 3,6 kali lebih rendah dibandingkan produk Nvidia tersebut pada suite benchmark publik InferenceX dari SemiAnalysis.
Pengujian dilakukan dengan part berdaya 700W yang diadu melawan accelerator Nvidia dengan rating daya 1.200W dan 1.400W. OpenAI berencana mulai menerapkan chip ini di pusat datanya sendiri pada akhir tahun ini.
Hasil Benchmark Chip Jalapeño
Tes benchmark mencakup tiga model open source, yaitu GPT-OSS 120B, DeepSeek R1 670B, dan model 1-triliun-parameter Kimi K2.5 dari Moonshot AI. OpenAI melaporkan keunggulan terbesarnya berada pada titik operasi latensi rendah, di mana klaim throughput per kilowatt mencapai 8,6 hingga 104,3 kali lebih tinggi pada pengaturan waktu antar-token tercepat milik GB300.
OpenAI menormalisasi hasil tersebut berdasarkan TDP paket yang dipublikasikan dari masing-masing accelerator. Namun, perusahaan menyebut daya terukur berkelanjutan Jalapeño tetap berada di angka 550W atau di bawahnya selama pengujian.
Perbandingan lampiran menggunakan daya utilitas all-in per accelerator menghasilkan gap yang lebih sempit, yaitu 1,18kW untuk Jalapeño dibandingkan 2,55kW untuk GB300. Demikian pula saat Jalapeño diadu melawan GB300 yang menjalankan multi-token prediction, keunggulan efisiensi puncaknya menyusut menjadi sekitar 1,5 kali.
Perlu dicatat, Jalapeño tidak diuji melawan Vera Rubin, platform Nvidia yang dijadwalkan menjadi sumber daya untuk gigawatt pertama sistem Nvidia yang disepakati OpenAI untuk diterapkan pada paruh kedua 2026. Chip ini juga tidak melatih model, beban kerja di mana hardware Nvidia masih belum tertandingi.
SemiAnalysis yang menjalankan InferenceX bersama para insinyur OpenAI di laboratorium perusahaan menyebut chip tersebut “mengalahkan setiap chip Nvidia, AMD, dan Google yang pernah kami uji.”
Baca Juga:
Spesifikasi dan Strategi Memori
Setiap paket Jalapeño yang diumumkan pada Juni setelah siklus RTL-to-tapeout selama sembilan bulan ini memasangkan die komputasinya dengan enam tumpukan HBM4, total 216 GiB pada kecepatan 15,4 TB/s. Sebagai perbandingan, GB300 membawa 288GB HBM3E dengan rating 1.400W, sehingga per watt daya rating, chip OpenAI memiliki memori sekitar 50 persen lebih banyak.
Presentasi Hot Chips dari perusahaan menyatakan bahwa hambatan utama yang menjadi target arsitekturnya adalah mengekspos bandwidth HBM agregat, bukan menambah kapasitasnya.
Memori HBM memang menjadi komoditas paling ketat di industri semikonduktor saat ini. Samsung, SK hynix, dan Micron telah menjual kapasitas HBM mereka hingga 2027. Kelangkaan ini begitu parah sehingga Nvidia dilaporkan tengah menguji konfigurasi Rubin Ultra yang dipangkas dengan kapasitas hanya 192GB. CEO SK hynix, Kwak Noh-jung, juga memperingatkan bahwa 2027 akan menjadi tahun terburuk dari krisis ini.
Micron menyampaikan pada konferensi Hot Chips yang sama pada 23 Agustus bahwa HBM mengonsumsi sekitar tiga kali luas wafer DDR5 untuk kapasitas setara, penalti yang melebar seiring setiap generasi.
Skala penerapan Jalapeño dalam perjanjian penerapan 10GW yang ditandatangani OpenAI dengan Broadcom pada Oktober lalu akan menjadikan perusahaan ini klaim baru yang substansial atas pasokan HBM4, yang saat ini didominasi Nvidia melalui perjanjian alokasi multi-tahun dengan SK hynix.
Chip generasi kedua dilaporkan mendekati tapeout dan diperkirakan rampung dalam hitungan bulan, menurut Bloomberg. Konsep kerja untuk generasi ketiga juga sedang berjalan. Part pertama dilaporkan menggunakan proses kelas 3nm dari TSMC, menempatkan OpenAI dalam antrian wafer, memori, dan pengemasan canggih yang sama dengan Blackwell dan Rubin untuk masa mendatang.
Ketergantungan Finansial pada Nvidia
OpenAI tengah mengadakan input tersebut sambil memperdalam ketergantungan finansialnya pada perusahaan yang baru saja di-benchmark-nya. Pada 17 Agustus, Nvidia setuju menyediakan pendanaan hingga USD 105 miliar untuk kampus pusat data yang disewa OpenAI di Ohio.
“Nvidia adalah partner yang sangat baik, dan kami terus membutuhkan banyak produk Nvidia,” ujar Richard Ho, wakil presiden hardware OpenAI, kepada Bloomberg dalam wawancara setelah pengumuman tersebut.
Situasi ini menciptakan dinamika menarik di industri AI. Di satu sisi, OpenAI menunjukkan kemampuan chip in-house-nya yang unggul dalam efisiensi inference. Di sisi lain, perusahaan tetap bergantung pada Nvidia baik sebagai mitra finansial maupun pemasok hardware untuk kebutuhan komputasinya.
Keunggulan Jalapeño dalam efisiensi daya menjadi signifikan di tengah krisis HBM global. Dengan memori 50 persen lebih banyak per watt rating daya dibandingkan GB300, chip ini menawarkan alternatif menarik bagi operator pusat data yang menghadapi keterbatasan pasokan memori bandwidth tinggi.
Namun, perlu digarisbawahi bahwa benchmark ini belum menguji kemampuan Jalapeño melawan platform Vera Rubin yang akan datang. Selain itu, mayoritas perbandingan utama menjalankan prediksi token tunggal Jalapeño melawan konfigurasi GB300 yang melakukan hal sama, sementara penerapan Nvidia di produksi umumnya menggunakan multi-token prediction.
Hasil benchmark ini tetap menjadi sinyal kuat bahwa persaingan di pasar accelerator AI semakin ketat. OpenAI yang sebelumnya hanya menjadi pelanggan besar Nvidia kini mulai membangun kemampuan hardware sendiri, meskipun tetap membutuhkan Nvidia untuk kebutuhan lain.
Komentar
Belum ada komentar.