OpenAI meluncurkan Jalapeño, ASIC inference pertama, hasil kolaborasi dengan Broadcom dalam 9 bulan.
key_pointOpenAI rugi operasional $20,92 miliar di 2025, dengan rasio belanja $1,60 untuk setiap $1 pendapatan.
Pasar chip inference diperkirakan tumbuh di atas $50 miliar pada 2026, dominasi biaya operasional AI.
Jalapeño adalah ASIC inference khusus LLM dengan compute chiplet besar dan HBM, bukan GPU yang diadaptasi.
key_pointSiklus pengembangan ASIC tercepat untuk semikonduktor high-performance, dipercepat oleh model AI generasi sebelumnya.
Klaim '50% lebih murah' berasal dari CEO Broadcom ke Bloomberg, bukan klaim resmi OpenAI yang belum merilis benchmark.
OpenAI berkomitmen pada sistem Vera Rubin Nvidia untuk 3GW inference dan 2GW training, plus investasi $30 miliar dari Nvidia.
Pendapatan AI Broadcom melonjak 143% YoY menjadi $10,8 miliar di Q2 2026, dengan proyeksi >$100 miliar pada 2027.
Google, Amazon, Microsoft, Meta sudah membangun chip sendiri; Anthropic masih eksplorasi awal; OpenAI bergabung.
Sampel rekayasa berjalan di lab, tetapi produksi gigawatt-scale baru 'full tilt' pada paruh pertama 2028.
Biaya per token turun, tetapi total tagihan inference naik karena penggunaan tumbuh lebih cepat — terutama workload agentic.
OpenAI mengincar valuasi ~$1 triliun di IPO; investor ingin bukti profitabilitas, bukan sekadar efisiensi.
Efisiensi Jalapeño berpotensi menurunkan biaya akses API global, tetapi Indonesia tidak mengadopsi chip langsung.
Jangan terburu simpulkan; tunggu benchmark independen, rancang arsitektur fleksibel, dan pantau harga token API pasca-IPO.