Telset.id, Jakarta – Qualcomm akan menghadirkan teknologi kecerdasan buatan atau AI, ke perangkat smartphone dan PC melalui chip Snapdragon untuk meningkatkan kemampuan kedua jenis perangkat tersebut.
Qualcomm tidak asing dalam menjalankan kecerdasan buatan dan sistem pembelajaran mesin pada perangkat dan tanpa koneksi internet. Mereka telah melakukannya dengan chipset kamera mereka selama bertahun-tahun.
Tetapi di ajang Snapdragon Summit 2023, Qualcomm mengumumkan bahwa AI pada perangkat akhirnya datang ke perangkat seluler dan PC Windows 11 sebagai bagian dari chip Snapdragon 8 Gen 3 dan X Elite terbaru.
Kedua chipset dibangun dari bawah ke atas dengan kemampuan AI generatif dalam pikiran dan mampu mendukung berbagai model bahasa besar (LLM), model visi bahasa (LVM), dan model pengenalan ucapan otomatis (ASR) berbasis jaringan transformator, hingga 10 miliar parameter untuk Snapdragon 8 gen 3 dan 13 miliar parameter untuk X Elite.
BACA JUGA:
- Pasar Melambat, Qualcomm Terpaksa PHK 1.258 Karyawan
- Sebentar Lagi Rilis, Ini Bocoran HP dengan Snapdragon 8 Gen 3
Artinya Anda akan dapat menjalankan apa pun dari Baidu’s ERNIE 3.5 ke OpenAI’s Whisper, Meta’s Llama 2 atau Google’s Gecko di ponsel atau laptop Anda, tanpa koneksi internet.
“Sangat penting untuk memiliki beragam dukungan di bawah kap untuk model ini untuk berjalan dan oleh karena itu komputasi heterogen sangat penting,” kata SVP & General Manager, Technology Planning & Edge Solutions di Qualcomm, Durga Malladi.
“Kami memiliki prosesor CPU, GPU, dan NPU (Neural Processing Unit) canggih yang digunakan secara bersamaan, karena beberapa model berjalan pada titik waktu tertentu,” sambungnya.
Qualcomm AI Engine terdiri dari CPU Oryon, GPU Adreno, dan Hexagon NPU. Digabungkan, mereka menangani hingga 45 Triliunan Operasi Per Detik (TOPS) dan dapat mengolah 30 token per detik pada laptop, 20 token per detik pada perangkat seluler.
“AI generatif telah menunjukkan kemampuan untuk mengambil tugas yang sangat kompleks, menyelesaikannya dan menyelesaikannya dengan cara yang sangat efisien,” ungkap Malladi seperti dikutip Telset dari Engadget pada Rabu (25/10/2023).
BACA JUGA:
- Skor AnTuTu Snapdragon 8 Gen 3 Tembus Hingga 2 Juta Poin
- Snapdragon XR2 Gen 2, Chipset Perangkat AR/VR dengan AI
Perangkat seluler dan PC hanyalah permulaan untuk rencana AI pada perangkat Qualcomm. Batas parameter 10-13 miliar sudah bergerak menuju parameter 20 miliar lebih karena perusahaan mengembangkan iterasi chip baru.
“Ini adalah model yang sangat canggih. Kasus penggunaan yang Anda bangun di atas ini cukup mengesankan,” komentar Malladi.
