Telset.id – Nvidia menyebut komputer AI pribadi bisa jadi perangkat rumah tangga biasa, bukan lagi server khusus. Adel el Hallak, VP of Product Nvidia, mengungkapkan dirinya memiliki DGX Spark di rumah dan menjalankan tugas AI sepanjang malam. Jika eksekutif yang mengatur strategi produk AI Nvidia sudah memperlakukan komputer AI seperti peralatan rumah tangga, bukan server, itu sinyal kuat bahwa local AI akan menjadi kebiasaan banyak orang dalam beberapa tahun ke depan.
DGX Spark sendiri diluncurkan Oktober lalu sebagai apa yang Nvidia sebut “superkomputer AI terkecil di dunia”. Saat itu, perangkat ini ditujukan untuk developer, peneliti, dan data scientist. Sistemnya menjalankan Linux, memiliki bobot 2,6 pon, dan berukuran sebesar Mac Mini. Namun ekosistem yang tumbuh di sekitarnya mulai terlihat lebih ramah konsumen.
El Hallak mengaku merasa bersalah jika tidak menjalankan pekerjaan untuk DGX Spark miliknya semalaman. “Di rumah saya merasa bersalah jika saya tidak memulai pekerjaan saya agar perangkat itu bekerja sepanjang malam,” kata el Hallak kepada Tom’s Guide. “Perangkat itu tidak mengeluarkan suara. Dan saya merasa bersalah jika saya tidak melakukan hal itu untuk sesuatu yang bersifat personal — karena perangkat itu tetap tercolok listrik.”
Perbandingan Biaya Cloud dan Local AI
Saat ini, sebagian besar orang berinteraksi dengan AI melalui browser atau aplikasi. Ketika Anda memberi perintah ke ChatGPT atau Perplexity atau asisten AI lainnya, data Anda berpindah ke pusat data, dan respons dikirim kembali. Cara ini berfungsi, tetapi ada biaya — baik secara finansial maupun privasi. Setiap pertanyaan yang Anda ajukan, setiap dokumen yang Anda unggah, dan setiap detail pribadi yang Anda bagikan tersimpan di infrastruktur milik pihak lain.
El Hallak menilai local AI mengubah perhitungan itu. “Saya bisa menjalankan model yang cukup baik di sistem saya di rumah,” ujarnya. Jika model berjalan pada perangkat keras yang Anda miliki, data Anda tidak pernah meninggalkan rumah, dan tidak ada langganan bulanan.
Hitungan matematisnya layak dicermati. DGX Spark saat ini dijual seharga $4.699. Sementara langganan ChatGPT Plus berjalan $20 per bulan, atau $240 per tahun. Dalam lima tahun, jumlahnya mencapai $1.200 — dan Anda tetap tidak memiliki apa pun. DGX Spark menjalankan kueri tanpa batas tanpa penagihan per token, tanpa batas penggunaan, dan tanpa memerlukan internet.
Tentu itu bukan perbandingan setara. GPT-6 dan Claude jauh lebih mumpuni dibanding model open-source yang dijalankan secara lokal di Spark. Namun untuk sejumlah tugas yang terus bertambah — meringkas dokumen, menyusun draf email, mencari file sendiri, menjalankan asisten coding — model lokal dengan memori 128GB dan akses ke keseluruhan CUDA stack Nvidia sudah lebih dari cukup.
Baca Juga:
Bukan Hanya untuk Developer
Ekosistem yang dibangun di sekitar DGX Spark mulai mengarah ke pengalaman yang lebih konsumen. Perplexity baru saja meluncurkan Portable Computer, yang mengemas model AI lokal, alat agent, konektor aplikasi, dan runtime sandbox ke dalam satu sistem yang berjalan pada perangkat keras DGX Spark. Setiap tugas dimulai di mesin Anda. Jika model lokal menemui hal yang tidak bisa ditangani, sistem meminta izin Anda sebelum mengirim satu langkah itu ke cloud. File Anda tetap di tempatnya.
El Hallak melihat ini sebagai tren, bukan pengecualian. Ia menunjuk penyedia harness — perusahaan yang membangun lapisan perangkat lunak antara model dan pengguna — yang membuat penyiapan jauh lebih mudah. “Anda tidak melakukan instalasi lewat command line atau pip install,” katanya. “Mereka membuatnya lebih mudah — seperti masa-masa awal menggunakan Windows dan menyiapkan aplikasi. Mereka mengembalikannya ke GUI.”
Jika itu terdengar familiar, memang seharusnya begitu. Ini adalah busur yang sama yang mengubah network-attached storage dari hobi penggemar menjadi sesuatu yang dijual Synology di Best Buy. Perangkat kerasnya sudah ada selama bertahun-tahun sebelum perangkat lunak membuatnya mudah didekati.
Perkembangan lain yang perlu dicermati datang dari sisi perangkat keras Nvidia, seperti yang terlihat pada inisiatif DLSS 5 Nvidia yang memperluas jangkauan teknologi mereka ke berbagai platform.
DGX Spark desktop adalah bukti konsep. Namun permainan konsumen yang sesungguhnya mungkin adalah apa yang datang berikutnya: laptop RTX Spark, yang mengemas silikon GB10 yang sama ke dalam bentuk notebook dan diperkirakan mulai dikirim musim gugur ini dari Dell, HP, Lenovo, Asus, MSI, Acer, dan lainnya. Microsoft sedang membangun Surface Laptop Ultra di sekitar chip tersebut. Mesin-mesin ini bukan perangkat khusus AI — mereka menjalankan Windows 11, memainkan game, dan menangani beban kerja laptop konvensional. Namun memori terpadu 128GB berarti mereka juga bisa menjalankan large language model yang akan membuat GPU konsumen mana pun kepayahan. Versi laptop dari apa yang dimiliki el Hallak di rumah, tetapi tanpa batasan Linux-only.
“Fakta bahwa Anda akan memiliki model yang berjalan secara lokal dengan harness dan runtime yang dibuat lebih mudah dipasang — saya pikir itu akan benar-benar menghadirkan local AI,” kata el Hallak.
Teknologi ini juga sejalan dengan arah pengembangan GPU Nvidia yang terus meluas, seperti tercermin dalam DLSS 5 Berjalan di berbagai perangkat.
El Hallak menceritakan kisah dari dunia enterprise yang bisa diterjemahkan dengan sempurna ke konsumen: “Ada satu titik di mana orang-orang bangga dengan papan peringkat dan berapa banyak token yang mereka gunakan. Lalu seseorang di departemen IT mereka menerima tagihannya, dan tiba-tiba saya menjadi pengoptimal biaya.”
Siapa pun yang pernah melihat penggunaan Claude mereka merangkak naik — atau menabrak batas tier gratis — tahu rasanya. Dan saat AI agent semakin mumpuni serta mulai menyentuh lebih banyak data pribadi (kalender, email, keuangan Anda), pertanyaan tentang di mana pemrosesan itu terjadi bukan lagi teoretis.
“Local AI hanya akan membawa lebih banyak token, dan token sama dengan kecerdasan,” kata el Hallak. “Ketika Anda memadukan kecerdasan dengan harness, Anda bisa melakukan banyak hal, dan kemudian runtime mengamankannya.” Atau, seperti yang ia katakan lebih santai: “Pusat data di dalam rumah.”
Peta persaingan chip AI juga terus bergerak, dengan klaim performa EPYC Venice dari AMD yang menjadi salah satu penantang terbaru di segmen ini.
Komentar
Belum ada komentar.