Telset.id – Startup AI chip asal Amerika Serikat, Etched, mencapai valuasi USD 10,3 miliar atau sekitar Rp 165 triliun setelah mendapatkan pendanaan baru dari SK Hynix. Perusahaan yang berfokus pada prosesor khusus untuk beban kerja inferensi AI ini menantang dominasi GPU konvensional yang dinilai boros daya dan memiliki kapasitas memori terbatas.
Etched didirikan oleh mantan mahasiswa Harvard, Gavin Uberti, Robert Wachen, dan Chris Zhu. Perusahaan ini secara khusus mengembangkan sistem inferensi AI, bukan melatih model bahasa besar. Mereka mengklaim GPU konvensional memberikan daya komputasi yang berlebihan untuk banyak tugas inferensi, namun tidak memiliki memori yang cukup untuk model AI yang semakin kompleks.
Pendanaan terbaru ini akan digunakan untuk mendukung produksi sistem inferensi rack-scale yang dirancang dengan chip khusus, memori bersama, dan konsumsi daya yang lebih rendah dibandingkan prosesor grafis serba guna.
## Teknologi LVI dan CSM Etched
Etched menggabungkan teknologi Low Voltage Inference (LVI) dengan Cluster Scale Memory (CSM) dalam sistemnya. Kombinasi ini memungkinkan prosesor mengakses kumpulan memori bersama yang jauh lebih besar dibandingkan GPU konvensional.
Chris Zhu, salah satu pendiri Etched, menjelaskan bahwa chip AI saat ini tidak dapat meningkatkan FLOPs tanpa mengalami thermal throttling. Ketika utilisasi FLOPs meningkat, chip AI menarik lebih banyak daya dan menurunkan kecepatan clock.
“Kami merancang arsitektur baru untuk menjalankan blok matematika chip di bawah setengah voltase sebagian besar chip AI. Ini memungkinkan kepadatan FLOPs beberapa kali lipat dibandingkan chip AI saat ini,” ujar Zhu.
Para peneliti mengklaim prosesor yang ada saat ini kesulitan meningkatkan performa floating-point karena utilisasi yang lebih tinggi meningkatkan konsumsi daya dan pada akhirnya menurunkan kecepatan clock akibat batas termal. Prosesor yang menggunakan High Bandwidth Memory (HBM) juga tidak dapat mencapai kecepatan decoding level SRAM karena subsistem memori dan interkoneksi menambah latensi selama beban kerja inferensi.
Etched menciptakan kumpulan memori bersama dengan latensi rendah yang terhubung melalui interkoneksi ultra-low-latency dan bandwidth tinggi milik mereka sendiri untuk mempercepat akses memori.
“Desain hybrid HBM/SRAM kami memecahkan masalah kapasitas memori dan latensi mem2mem, memungkinkan throughput tinggi dan interaktivitas secara bersamaan. CSM meningkatkan latensi dan menghindari tradeoff biaya, keandalan, hasil, termal, dan komputasi dari chip SRAM-only, chip DRAM 3D, atau optik saat ini,” jelas perusahaan.
Etched juga menyoroti bahwa banyak model AI membuang waktu untuk memindahkan data antara chip, memori, dan perangkat jaringan sebelum pemrosesan dapat dilanjutkan. Arsitektur CSM mengurangi penundaan tersebut dengan meminimalkan lapisan memori tambahan selama transfer data.
## Pertumbuhan Pendanaan dan Ekspansi Global
Etched menarik pendanaan dengan kecepatan luar biasa, mengumpulkan USD 5,4 juta pada putaran seed 2023, USD 120 juta pada 2024, USD 500 juta pada 2025, dan USD 300 juta pada 2026. Total pendanaan perusahaan mencapai sekitar USD 925,4 juta, sementara putaran terbaru menggandakan valuasi dari USD 5 miliar menjadi USD 10,3 miliar.
Putaran C ini melibatkan Sequoia Capital, Andreessen Horowitz, Jane Street, Diffusion, Argo, dan SK Hynix, menandakan kepercayaan investor yang berkelanjutan meskipun persaingan di pasar perangkat keras AI semakin ketat.
Robert Wachen menyatakan bahwa putaran ini mempercepat produksi klaster inferensi mereka. Perusahaan membuka fasilitas seluas 80.000 kaki persegi dengan kapasitas 10 MW di dekat Milpitas. Etched kini mempekerjakan lebih dari 400 orang, melaporkan permintaan pelanggan melebihi USD 1 miliar, dan telah mendirikan operasi manufaktur di Taiwan.
Sistem Etched akan mendukung model bahasa besar konvensional, arsitektur mixture-of-experts, dan alternatif seperti Mamba.
Kehadiran SK Hynix sebagai investor menjadi sinyal penting bagi industri. Perusahaan memori asal Korea Selatan ini memiliki kepentingan strategis dalam pengembangan chip AI. Dukungan ini juga memperkuat posisi Etched di tengah persaingan ketat dengan pemain besar seperti Nvidia. Industri data center AI sendiri tengah menghadapi tekanan utang yang besar.
Etched percaya bahwa pendekatan khusus untuk inferensi dapat mengungguli GPU serba guna. Dengan fokus tunggal pada inferensi AI, perusahaan berharap dapat memberikan solusi yang lebih efisien dan hemat daya dibandingkan arsitektur tradisional. Investasi besar dari raksasa teknologi menunjukkan bahwa pasar inferensi AI dipandang sebagai peluang pertumbuhan yang signifikan.
Komentar
Belum ada komentar.