Telset.id – Menghadapi mahalnya harga DDR5 yang melonjak hingga 486% dari harga Juli 2025 pada pertengahan Agustus, TradeMAV menawarkan solusi berbeda untuk menjalankan model AI besar di rumah: meminjam memori yang sudah ada di perangkat lain. Perusahaan kecil ini menggalang dana lewat Indiegogo untuk RAMDeck, hub kecil berdaya rendah yang menghubungkan Windows PC, Mac, Linux, dan ponsel Android dalam satu jaringan rumah menjadi satu kumpulan memori tunggal.
Pendekatan ini memungkinkan model yang terlalu besar untuk satu perangkat tetap berjalan dengan membaginya ke seluruh mesin yang terhubung. Kampanye RAMDeck memakai skema fixed funding dengan target USD10.000 dan ditutup pada 8 November 2026. Tabel perbandingan biaya dalam panduan RAM pooling TradeMAV mencantumkan hub tersebut seharga USD109 sebagai reward early bird.
Lonjakan harga memori menjadi konteks utama proyek ini. Data ritel Jerman dari 3DCenter menunjukkan DDR5 berada di 486% dari harga Juli 2025 pada pertengahan Agustus. Samsung telah memberi tahu analis bahwa kelangkaan akan bertahan hingga 2028, sementara ketua SK Group memperingatkan kondisi ini bisa berlangsung sampai 2030. TradeMAV mengakui tekanan yang sama dalam kisah asal-usulnya, mengklaim kit DDR5 64GB naik dari sekitar USD191 pada Agustus 2025 menjadi USD1.118 setahun kemudian.
Cara Kerja RAMDeck dan Keterbatasannya
Yang dilakukan RAMDeck sebenarnya tidak se-eksotis istilah “pooling RAM”. Tidak ada memori yang digabung di level hardware. Sebagai gantinya, lapisan model dibagi antar mesin, masing-masing menyimpan bagiannya di memori lokal, dan hanya hasil antara yang melintasi jaringan saat setiap token dihasilkan. Repositori GitHub publik TradeMAV cukup terbuka soal jalur teknisnya: node agent menjalankan server ggml RPC milik llama.cpp di setiap perangkat yang berkontribusi. README menyebut koordinator kompatibel mana pun dapat mengendalikannya lewat protokol standar llama.cpp RPC, dan cara yang disarankan untuk memastikan semuanya berjalan adalah perintah llama-cli standar.
Kontribusi TradeMAV sendiri adalah orkestrasi yang membungkusnya: penemuan otomatis, penempatan lapisan yang mengisi GPU cepat sebelum RAM sistem yang lebih lambat, pemulihan kegagalan, dashboard, serta API kompatibel OpenAI, menurut halaman fiturnya. Namun komponen lain dari hub ini minim detail; tidak ada halaman TradeMAV yang mencantumkan prosesor, memori, port, atau konsumsi dayanya. Panduan pooling mereka sendiri mengakui bahwa jika Anda nyaman dengan skrip terminal, “rute DIY open-source gratis adalah pilihan ideal”.
Menggabungkan perangkat untuk inference bukan hal baru. Proyek open source exo dari Exo Labs telah menawarkan penemuan perangkat otomatis dan API drop-in lintas komputer, ponsel, dan single-board computer setidaknya sejak awal 2025. Di segmen premium, Mac Studio M5 Ultra terbaru dari Apple mendukung clustering lewat Thunderbolt 5 dengan RDMA, dan Apple mengklaim empat mesin menghasilkan kecepatan inference hingga tiga kali lipat dari satu unit.
Pembeda RAMDeck adalah cakupannya. FAQ-nya menjanjikan desktop Windows CUDA, Mac Apple Silicon, Mac Intel lama, mesin Linux, dan ponsel Android dalam kluster yang sama, sesuatu yang dimungkinkan oleh campuran backend llama.cpp. TradeMAV juga luar biasa terbuka soal kompromi performa dibandingkan konfigurasi seperti Mac Studio. Halaman kisahnya memperingatkan bahwa “pooled memory menukar kecepatan dengan kapasitas”, dan tulisan benchmark-nya menyarankan pembaca yang mengejar performa mentah untuk membeli GPU dengan VRAM lebih tinggi.
Hasil benchmark yang ditonjolkan bergantung pada Beelink mini PC dengan RTX 3060 dan model mixture-of-experts yang hanya mengaktifkan sekitar 3 miliar parameter per token: 39 token per detik untuk Qwen3-Coder 30B di mini PC dan M4 Mac mini, serta 16 token per detik untuk varian REAP 40B dari Qwen3-Coder-Next. Model 7B yang mencapai 43 token per detik, menurut deskripsi TradeMAV sendiri, berjalan di RTX 3060.
Model dense bercerita lain. Model dense 27B hanya mencapai 1,92 token per detik di empat perangkat, dan gpt-oss-120b dari OpenAI berjalan 1,37 token per detik pada kluster enam perangkat. Model 120B pada konfigurasi lima mesin berbeda mencapai 3,1 token per detik setelah membutuhkan sekitar tujuh menit untuk inisialisasi. Angka itu memang mengalahkan crash out-of-memory, yang menjadi pitch TradeMAV, tetapi sangat lambat.
Baca Juga:
Singkatnya, mesin RAMDeck membungkus perangkat lunak gratis, spesifikasi hub-nya tidak diungkap, dan sejumlah angka yang dipublikasikan menunjukkan keterbatasan saat pendekatan itu diterapkan. Bagi para tinkerer, mode RPC llama.cpp dan exo tidak memakan biaya untuk dicoba lebih dulu. Bagi yang lain, USD109 membeli kenyamanan dan, seperti halnya hardware hasil crowdfunding, sebuah janji ketimbang produk.
TradeMAV sendiri tidak menyembunyikan posisinya. Dalam panduan pooling-nya, perusahaan menyebut rute gratis open-source sebagai pilihan ideal bagi pengguna yang terbiasa dengan terminal. Bagi pengguna yang menginginkan kemudahan, hub ini menawarkan penemuan otomatis dan dashboard yang tidak tersedia di jalur DIY. Namun hingga kampanye berakhir, belum ada informasi soal spesifikasi perangkat keras yang akan dikirim ke backer.
Untuk konteks industri, tekanan harga memori memang mendorong berbagai pihak mencari jalan keluar. Apple dengan Mac Studio M5 Ultra menawarkan clustering lewat Thunderbolt 5, sementara Exo Labs menyediakan exo sebagai alternatif gratis. RAMDeck mencoba mengisi celah di antara keduanya dengan harga di bawah USD110 dan dukungan lintas platform yang luas, meski dengan kompromi kecepatan yang cukup besar pada model dense.
Kampanye ini juga menegaskan bahwa crowdfunding hardware tetap membawa risiko. Penggalang dana mencatat bahwa proyek semacam ini bisa mengalami penundaan, perubahan, atau bahkan tidak terkirim. Calon backer disarankan mengevaluasi detail kampanye dan mengambil keputusan dengan pertimbangan sendiri sebelum berkontribusi.
Komentar
Belum ada komentar.