Moonshot AI Rilis Kimi K3, Ancaman Baru bagi OpenAI dan Anthropic

Moonshot AI merilis Kimi K3, model AI open-weight dengan 2,8 triliun parameter
Performa Kimi K3 hampir setara dengan Claude Fable (Anthropic) dan GPT-5.6 Sol (OpenAI)
Biaya inferensi Kimi K3 2-3x lebih murah, bisa 10x lebih murah dengan cache
Harga input Kimi K3 $3/juta token vs Claude Fable $10/juta token dan GPT-5.6 Sol $5/juta token
Menggunakan campuran tipe data MXFP4 dan MXFP8 untuk efisiensi VRAM
Arsitektur Mixture-of-Experts (MoE) dengan hanya 16 dari 896 pakar aktif
Hanya 104,2 miliar parameter aktif dari total 2,8 triliun parameter
Dapat berjalan di GPU Nvidia H20 yang relatif low-end
Menjadi ancaman serius bagi dominasi perusahaan AI AS
Open-weight tidak berarti open-source, pelatihan dan dataset masih rahasia

Telset.id – Moonshot AI resmi merilis model kecerdasan buatan (AI) terbarunya, Kimi K3, yang secara terbuka membagikan bobot (weights) model tersebut secara gratis. Langkah ini menjadi ancaman serius bagi raksasa AI Amerika Serikat seperti OpenAI dan Anthropic, karena Kimi K3 menawarkan performa yang hampir setara dengan model premium mereka, namun dengan biaya operasional yang jauh lebih murah.

Kimi K3, yang memiliki 2,8 triliun parameter, mampu mengungguli model generasi sebelumnya dari Claude dan GPT dalam berbagai tolok ukur (benchmark) yang dirilis Moonshot. Model ini bahkan hampir menyamai kemampuan Claude Fable dan GPT-5.6 Sol, dua model terbaru dari Anthropic dan OpenAI. Keunggulan utama Kimi K3 terletak pada efisiensinya, di mana biaya inferensi (menjalankan model) diklaim 2-3 kali lebih murah, dan bahkan bisa mencapai 10 kali lebih murah jika memanfaatkan sistem cache.

Moonshot AI mempublikasikan dokumentasi teknis yang mendukung klaim performa Kimi K3. Perusahaan asal China ini juga merinci perangkat lunak yang digunakan dalam pengujian mereka. Dalam perbandingan biaya inferensi, Moonshot menyebutkan bahwa biaya mereka diukur secara internal, sementara harga token untuk perusahaan lain bersifat publik. Hasilnya, Kimi K3 menunjukkan keunggulan biaya yang signifikan.

Untuk input, Moonshot mematok harga $3 per juta token untuk Kimi K3. Sebagai perbandingan, Claude Fable dari Anthropic dibanderol $10 per juta token, sementara GPT-5.6 Sol dari OpenAI seharga $5 per juta token. Angka ini sudah sangat kompetitif, namun keunggulan sebenarnya terletak pada sistem cache Kimi K3. Dengan rasio hit cache mencapai 90% untuk tugas coding, biaya input bisa turun drastis dari $3 menjadi hanya $0,30 per juta token.

Kondisi serupa juga berlaku untuk token output. Efisiensi tinggi Kimi K3 diduga berasal dari penggunaan campuran tipe data MXFP4 untuk bobot model dan MXFP8 untuk aktivasi input. Kedua tipe data ini memiliki presisi yang relatif rendah, sehingga lebih mudah dijalankan pada memori video (VRAM) yang lebih sedikit. Dari total 2,8 triliun parameter, hanya 104,2 miliar parameter yang aktif dalam satu waktu, berkat arsitektur Mixture-of-Experts (MoE) yang sangat efisien.

Menariknya, dalam dokumentasi teknisnya, Moonshot hanya menyebutkan penggunaan GPU Nvidia H20 untuk menjalankan Kimi K3 dalam beberapa pengujian coding. GPU H20 tergolong chip berperforma rendah menurut standar saat ini. Hal ini mengindikasikan bahwa optimasi Kimi K3 memungkinkannya berjalan dengan baik pada perangkat keras yang lebih rendah spesifikasinya.

Selain itu, Kimi K3 tidak menggunakan penyimpanan key-value (KV) konvensional yang terus berkembang. Sebagai gantinya, model ini mengandalkan penangan status berukuran tetap yang disebut Kimi Delta Attention. Pendekatan ini secara teoritis menghemat VRAM dan waktu eksekusi. Arsitektur MoE yang digunakan juga sangat jarang, dengan hanya 16 dari total 896 pakar yang aktif dalam setiap waktu, yang semakin berkontribusi pada pengurangan biaya inferensi.

Secara umum, Moonshot melakukan optimasi di setiap lapisan inferensi untuk menghindari overhead yang tidak perlu dan menekan biaya serendah mungkin. Hal ini menjadi kabar buruk bagi OpenAI dan Anthropic, karena kini hampir semua orang yang memiliki GPU AI yang memadai dapat menjadi pesaing langsung mereka. Sifat open-weight dari Kimi K3 juga memberikan kesan bahwa perangkat lunak “gratis” hampir sama bagusnya, dan jauh lebih murah untuk dijalankan, dibandingkan pesaingnya yang proprietary.

Perlu dicatat bahwa open-weight tidak berarti open-source. Proses pelatihan dan dataset yang digunakan masih menjadi rahasia perusahaan Moonshot AI. Namun, dengan dirilisnya Kimi K3 secara terbuka, persaingan di industri AI dipastikan akan semakin memanas.

Baca Juga:

Keputusan Moonshot untuk merilis Kimi K3 secara open-weight juga menimbulkan kekhawatiran di kalangan regulator AS. Pemerintahan Trump dikabarkan kembali mendorong larangan terhadap model AI China menyusul peluncuran Kimi K3, dengan alasan keamanan siber. Sanksi terhadap perusahaan AI China pun menjadi ancaman nyata bagi Moonshot.

Di sisi lain, langkah Moonshot ini juga mendapat dukungan dari beberapa pihak. Nvidia, bersama dengan 24 perusahaan lainnya, menandatangani surat dukungan untuk model open-weights di tengah pertimbangan Washington untuk melarang model AI China. Aliansi keamanan AI terbuka yang dibentuk Nvidia menunjukkan bahwa industri juga memiliki pandangan berbeda mengenai regulasi AI.

Dengan segala keunggulannya, Kimi K3 diprediksi akan menjadi model AI yang banyak digunakan oleh para pengembang dan perusahaan rintisan (startup) yang ingin memanfaatkan kecerdasan buatan tanpa harus mengeluarkan biaya besar untuk model proprietary. Persaingan antara model AI open-weight dan proprietary dipastikan akan semakin sengit di masa depan.