Microsoft Maia 300 Jadi Mesin Inferensi Utama Azure pada 2027

Telset.id – Microsoft memastikan Azure Maia akan menjadi mesin inferensi utama untuk produk dan layanannya, dengan skala deployment multi-gigawatt yang dimulai pada 2027. Langkah ini menjadikan Maia 300 sebagai kendaraan utama Microsoft mengikuti jalur yang lebih dulu ditempuh Google dan Amazon, yakni mengembangkan silikon sendiri untuk beban kerja inferensi.

Pengumuman itu disampaikan Scott Guthrie, executive vice president of Cloud + AI Microsoft, melalui Official Microsoft Blog. Maia 300 sendiri dirinci oleh Rani Borkar, president of Azure Hardware Systems and Infrastructure, dan Saurabh Dighe, corporate vice president of systems planning and architecture, dalam sebuah architecture deep dive.

Keputusan Microsoft ini relevan bagi pengguna layanan Microsoft sehari-hari, termasuk produk yang disebut dalam sumber seperti Teams, Copilot, dan Cowork. Setiap beban inferensi yang dipindahkan ke silikon internal membuat Microsoft membayar lebih dekat ke biaya manufaktur, bukan margin Nvidia.

Spesifikasi Maia 300: Lompatan Bandwidth Memori

Maia 300 berpindah dari desain single die Maia 200 ke paket multi-chiplet. Komputasi diproduksi pada proses TSMC N2P, sementara fungsi memory-controller dan I/O dipisah ke die terpisah. Delapan stack HBM4 mengantarkan 288GB pada 18TB/s per akselerator, dibandingkan 216GB pada 7.1TB/s milik Maia 200, mengacu pada breakdown StorageReview atas lembar spesifikasi Microsoft.

Perubahan ini memperlihatkan bahwa Microsoft tidak meninggalkan komputasi, melainkan menyeimbangkan ulang arsitektur ke arah memori. Pada fase decode, yaitu fase token-per-token yang mendominasi rantai penalaran panjang dan loop agen, akselerator menghabiskan banyak waktu menunggu data ketimbang melakukan aritmatika. Maia 300 mencoba menutup celah itu dengan menjaga data tetap dekat dengan komputasi yang memakainya, melalui tata letak memori non-uniform across chiplets, SRAM on-die yang dikelola software, serta format angka yang lebih sempit, termasuk MXFP4 yang disempurnakan dan format penyimpanan sub-3-bit, dengan konversi hardware antar format.

Secara angka, Maia 300 menukar kenaikan komputasi yang moderat, sekitar 36% dibanding Maia 200, dengan bandwidth memori 2,5 kali lipat. Taruhannya jelas: beban inferensi modern lebih sering terhambat memori daripada tenaga komputasi mentah.

Tekanan pada Margin Nvidia

Insentif di balik langkah ini terlihat dari hasil keuangan Nvidia sendiri. Pada kuartal hingga Juli 2026, Nvidia melaporkan pendapatan 96,2 miliar dolar AS, dengan 89 miliar dolar AS di antaranya berasal dari data center, pada gross margin 75%. CFO Colette Kress menyebut pendapatan hyperscale sebesar 49 miliar dolar AS dalam earnings call, yang berarti sedikit lebih dari separuh bisnis data center Nvidia datang dari sekelompok kecil pembeli, dan yang terbesar di antaranya kini merancang akselerator sendiri.

Microsoft sendiri menyampaikan kepada investor pada Juli bahwa Maia 200 hingga 40% lebih murah untuk dioperasikan dibandingkan chip terbaru Nvidia pada model OpenAI dan Microsoft. Namun Microsoft tidak menyebut GPU tertentu yang mereka sebut sebagai “leading GPU-based system”, sebuah pembedaan penting mengingat fokus Nvidia pada efisiensi lewat Vera Rubin, yang bahkan tidak mau dibandingkan langsung oleh OpenAI.

Reaksi pasar pun terbatas. Pada Senin, saham Nvidia ditutup turun 1,29% setelah pengungkapan tersebut, sementara saham Microsoft naik 1,14%. Analis Evercore ISI memperkirakan Maia hanya akan menyumbang sekitar 10% dari belanja chip AI Microsoft pada kuartal pertama 2027, menurut laporan CNBC, sementara Nvidia memandu pendapatan 108 miliar dolar AS untuk kuartal berjalan.

Skala menjadi kendala tersendiri. Pada 167 kW per rack, satu gigawatt daya rack setara dengan sekitar 6.000 rack Maia 300, atau sekitar 575.000 akselerator, sebelum memperhitungkan pendinginan dan overhead fasilitas. Angka itu menunjukkan bahwa jalur silikon internal bukan jalan pintas untuk melepaskan diri dari pasokan GPU dalam waktu dekat.

Tekanan biaya infrastruktur AI juga makin nyata. Gartner memperkirakan penyedia AI akan membelanjakan hampir 1 triliun dolar AS untuk infrastruktur pada 2026 saja, dan pendapatan AI tidak akan menutup pembangunan itu secara profitabel hingga setidaknya 2032. Gartner memperingatkan industri butuh sekitar 8,5 triliun dolar AS pendapatan antara 2026 dan 2030 untuk memperoleh pengembalian yang wajar atas pembangunan tersebut, dibandingkan tidak lebih dari 3,6 triliun dolar AS yang diperkirakan dihasilkan AI.

Yang menarik, jalur Google tidak menghentikan siapa pun membeli dari Nvidia. Amazon, dengan bisnis chip yang disebut CEO Andy Jassy sebagai salah satu dari tiga terbesar di dunia dan telah melewati run rate pendapatan tahunan 20 miliar dolar AS pada April 2026, masih dijadwalkan mengambil lebih dari 3 juta GPU Nvidia hingga pertengahan 2028. Alphabet, yang kini menjual TPU sendiri dan menaikkan panduan capex 2026 menjadi antara 195 miliar dan 205 miliar dolar AS pada Juli, tetap mencantumkan Vera Rubin di samping TPU miliknya, dan CFO Anat Ashkenazi menyatakan perusahaan “still in a supply constraint environment.”

Google mulai mengakui pendapatan dari penjualan sistem TPU yang dikirim ke data center pelanggan pada kuartal kedua, menurut Ashkenazi dalam earnings call Alphabet Juli, sementara CEO Sundar Pichai menyebut perusahaan “seeing strong demand for TPUs as standalone systems from other customers.” Anthropic telah mengamankan kapasitas TPU 3,5GW melalui Broadcom untuk 2027, di atas kesepakatan sebelumnya untuk hingga satu juta TPU, dan Meta dilaporkan pada 2025 sedang dalam pembicaraan untuk menyewa sekaligus membeli TPU tersebut. OpenAI juga telah membuka tabir akselerator Jalapeño miliknya.

Microsoft sendiri tetap mempertahankan Nvidia dan AMD untuk pelatihan. Satya Nadella menyatakan pada awal 2026 bahwa “because we can vertically integrate doesn’t mean we just only vertically integrate.” Jawaban Jensen Huang atas pertanyaan silikon kustom dalam earnings call Nvidia Agustus lalu seolah ditujukan untuk Maia: “Whereas many of these XPUs are inference-specific chips for one cloud or one service, NVIDIA is a platform.”

Sebagian penghematan Microsoft juga akan mengalir ke tempat lain dalam rantai pasok. Pitch Maia 300 bertumpu pada HBM4, memori sama yang dipakai Rubin Nvidia pada 288GB per paket, dan die komputasinya berasal dari TSMC yang memasok semua pemain. TPU Google dikembangkan dan dipasok di bawah perjanjian jangka panjang dengan Broadcom, yang CEO-nya Hock Tan menyatakan bahwa “many investors in AI don’t understand what they’re putting their money into,” dan memperkirakan kelangkaan chip baru mereda sekitar 2028 atau 2029. Nvidia pun tidak diam; perusahaan telah membayar 20 miliar dolar AS untuk melisensikan teknologi SRAM decode Groq.

Bagi pengguna, arah ini menjelaskan mengapa layanan seperti Copilot dan Teams disebut sebagai penerima manfaat dari efisiensi inferensi. Namun hingga silikon produksi dikirim dan pihak di luar Microsoft dapat mengukurnya, Maia 300 masih berupa desain dengan argumen kuat yang angka terpentingnya hanya diketahui Microsoft. Sementara itu, pergeseran ke silikon internal mengubah siapa yang mengumpulkan margin, bukan berapa besar belanja yang dikeluarkan. Microsoft tidak merespons dengan membangun lebih sedikit, melainkan merencanakan gigawatt lebih banyak.

Bagi pembaca yang mengikuti dinamika produk Microsoft, langkah ini melengkapi rangkaian pengumuman perusahaan sepanjang 2026, dari pembongkaran pasar phishing hingga peluncuran Xbox Nano. Di sisi perangkat lunak, Microsoft juga disebut tengah menyiapkan klon Microsoft Office dari pihak ketiga yang menjadi alternatif gratis. Semua itu berjalan di atas infrastruktur yang kini diarahkan Microsoft untuk ditopang Maia.