📑 Daftar Isi

Perplexity Portable Computer: AI Agent Lokal untuk Nvidia DGX Spark

Penulis:Nur Hamzah
Terbit:
⏱️4 menit membaca
Bagikan:

Telset.id – Perplexity memperkenalkan Portable Computer, platform yang memungkinkan AI agent berjalan sepenuhnya di perangkat keras milik pengguna. Sistem ini diumumkan pada Selasa dan dirancang untuk Nvidia DGX Spark serta komputer Linux lain dengan kartu grafis Nvidia yang kompatibel. Langkah ini menjawab kekhawatiran privasi pengguna yang selama ini harus mengirim data ke server pihak ketiga saat menggunakan asisten AI.

Dengan Portable Computer, setiap tugas dimulai di mesin lokal pengguna. Jika model lokal menemukan langkah yang membutuhkan penalaran lebih lanjut, sistem akan meminta izin sebelum mengirim langkah tersebut ke model cloud. Jawaban kemudian kembali ke alur kerja lokal, sementara file dan informasi sensitif lainnya dapat tetap berada di perangkat pengguna.

Pendekatan ini menjadi alternatif bagi mereka yang menginginkan kemudahan AI agent tanpa harus menyerahkan seluruh data ke penyedia cloud. Namun, ada konsekuensi biaya yang cukup mahal untuk dapat menjalankan sistem ini.

Lebih dari Sekadar Chatbot Lokal

Sebenarnya, pengguna sudah bisa mengunduh model open source dan menjalankannya di komputer sendiri. Bagian yang sulit adalah mengubah model tersebut menjadi AI agent yang bisa bekerja dengan file, menggunakan tools, dan menyelesaikan tugas multi-langkah. Biasanya, hal ini membutuhkan konfigurasi inference engine, agent harness, sandbox, dan konektor ke aplikasi eksternal secara manual.

Portable Computer mengemas semua komponen tersebut menjadi satu sistem terpadu. Platform ini mencakup model lokal, inference engine, agent tools, konektor aplikasi, dan sandbox terisolasi untuk mengeksekusi kode serta menggunakan tools. AI dapat bekerja dengan file di komputer, membaca PDF, menjalankan perintah shell, mengambil dikte, dan mencari informasi di web.

perplexity

Pengguna juga dapat menghubungkan layanan seperti Google Drive, Gmail, Slack, dan GitHub. Menurut Perplexity, eksekusi kode dan penggunaan tools terjadi di dalam sandbox lokal, memberikan pemisahan antara AI agent dan sistem utama. Meski demikian, detail tentang akses dan kontrol izin masih perlu dijelaskan lebih lanjut.

Perplexity sebelumnya telah menghadirkan AI agent untuk berbagai platform. Pada artikel lain, AI Agent Personal Computer untuk Windows juga sudah tersedia, menunjukkan komitmen perusahaan dalam memperluas ekosistem AI lokal.

Routing Hibrida dan Ketersediaan Hardware

Fitur paling menarik dari Portable Computer adalah routing hibrida. Model lokal yang lebih kecil mungkin cukup untuk menemukan file, mengekstrak informasi dari PDF, atau menjalankan serangkaian langkah sederhana. Namun, kemampuan penalarannya belum tentu setara dengan model terbesar dari OpenAI, Anthropic, atau Google.

Solusi Perplexity adalah membiarkan tugas tetap berjalan lokal hingga model menemukan hal yang tidak bisa ditangani secara andal. Portable Computer kemudian meminta izin untuk mengirim langkah tersebut ke model cloud. Pengguna tidak perlu memilih mode privasi atau membuat aturan routing sendiri—sistem mengambil keputusan saat bekerja, tetapi tetap membutuhkan persetujuan pengguna untuk handoff.

Perplexity juga menegaskan bahwa pekerjaan yang selesai secara lokal tidak akan mengonsumsi kredit penagihan. Hanya bagian yang dikirim ke cloud yang dihitung sebagai penggunaan cloud. Pada peluncuran awal, pengguna dapat memilih model Qwen 27 miliar parameter atau versi post-trained milik Perplexity yang disebut PPLX 27B. Nvidia Nemotron 3.5 Lightning dijadwalkan menyusul, dan pengguna juga bisa membawa model serta inference server sendiri.

Kendala utama Portable Computer terletak pada persyaratan hardware. Sistem ini tidak bisa berjalan di PC biasa. Perangkat lunak diluncurkan pertama kali di Linux dan membutuhkan hardware Nvidia dengan minimal 24GB VRAM. Nvidia DGX Spark yang berukuran desktop didukung, begitu juga komputer yang menjalankan DGX OS atau Ubuntu pada hardware ARM atau x64. Dukungan Windows dijadwalkan hadir pada September, sementara dukungan macOS belum diumumkan.

Portable Computer tersedia untuk pelanggan Perplexity Pro, Max, Enterprise Pro, dan Enterprise Max. Meski memiliki langganan yang kompatibel, sebagian besar orang tidak memiliki hardware yang diperlukan. Hal ini membuat rilis awal lebih relevan bagi penggemar AI, pengembang, dan perusahaan yang sudah memiliki sistem Nvidia kelas atas, dibandingkan pengguna laptop biasa.

Meski begitu, ide di balik Portable Computer berpotensi menjangkau audiens yang lebih luas. Asisten AI semakin sering mengakses informasi pribadi seperti email, dokumen kerja, dan file di komputer. Menjalankan lebih banyak pekerjaan secara lokal memberi pengguna kendali atas data apa yang meninggalkan perangkat mereka dan kapan.

Portable Computer belum siap menggantikan chatbot cloud untuk kebanyakan orang. Namun, platform ini memberikan gambaran tentang seperti apa asisten AI yang lebih privat ketika hardware yang dibutuhkan semakin terjangkau. Kehadiran fitur ini juga memperkuat posisi Perplexity di tengah persaingan AI chatbots yang semakin ketat.

Pengguna yang tertarik dengan keamanan data juga perlu mewaspadai potensi ancaman. Beberapa waktu lalu, ekstensi Chrome palsu mengatasnamakan Perplexity AI untuk mengintai pengguna. Memastikan sumber unduhan resmi menjadi langkah penting sebelum menginstal perangkat lunak baru.

Dengan semua kelebihan dan keterbatasannya, Portable Computer menandai langkah signifikan dalam upaya menghadirkan AI agent yang lebih privat. Bagi pengguna dengan hardware yang memadai, platform ini menawarkan cara baru untuk memanfaatkan kecerdasan buatan tanpa mengorbankan kontrol atas data pribadi.

Ikuti Telset.id di Google NewsFollow

Komentar

Belum ada komentar.