Telset.id – SK Hynix, TetraMem, dan peneliti dari University of Southern California (USC) mengembangkan chip system-on-chip (SoC) komputasi in-memory berbasis memristor yang dirancang khusus untuk perangkat AI edge. Chip ini mampu menjalankan inferensi jaringan saraf dengan konsumsi daya yang jauh lebih rendah dibandingkan GPU atau NPU kelas atas.
SoC inovatif ini mengatasi tantangan utama dalam pemrosesan AI di perangkat edge, yaitu efisiensi energi. Dengan mengadopsi arsitektur depthwise convolution (DWC) yang dioptimalkan, chip ini memungkinkan pemrosesan data secara analog langsung di dalam memori, mengurangi perpindahan data yang boros daya.
“Memristor-based in-memory computing (IMC) mempercepat jaringan saraf dengan melakukan komputasi analog langsung di dalam susunan memori, sehingga mengurangi perpindahan data dan konsumsi daya,” tulis laporan tersebut.
Namun, operasi depthwise convolution (DWC) — inti dari jaringan ringan seperti MobileNet — sulit dipetakan ke susunan crossbar konvensional. Untuk mengatasi hal ini, para peneliti mengembangkan SoC yang menggabungkan crossbar IMC konvensional dengan arsitektur IMC berbasis memristor yang dioptimalkan untuk DWC.
SoC ini didasarkan pada prosesor RISC-V tertanam yang menjadwalkan beban kerja dan memiliki 10 unit pemrosesan saraf (NPU). Satu dari 10 NPU didedikasikan untuk depthwise convolution, sementara sembilan lainnya menjalankan operasi pointwise dan dense.
NPU yang dioptimalkan DWC menjadi fitur utama SoC ini. TetraMem mengganti jalur seleksi lurus pada crossbar 1T1R konvensional dengan topologi zig-zag. Hasilnya, NPU ini berisi delapan blok crossbar 252 × 28 yang memungkinkan 28 konvolusi 3×3 independen berjalan secara paralel.
### Efisiensi Energi Tinggi, Performa Terbatas
Untuk mendemonstrasikan arsitektur ini, para peneliti menggunakan jaringan saraf MobileNetV1Small yang disesuaikan untuk benchmark Visual Wake Words. Jaringan ini berisi sekitar 36.000 parameter, di mana semua lapisan depthwise dipetakan ke NPU khusus.
SoC ini mencapai akurasi inferensi end-to-end sebesar 80,36%, yang setara dengan model perangkat lunak 4-bit. Dalam hal performa, chip ini memberikan throughput puncak 0,254 TOPS per NPU dan mencapai efisiensi energi 21,3 TOPS/W pada 100 MHz serta 11,9 TOPS/W pada 400 MHz.
Menurut makalah penelitian, efisiensi energi ini lebih baik dibandingkan akselerator compute-in-memory berbasis SRAM yang dipublikasikan, meskipun diproduksi pada proses 65 nm yang lebih tua. SoC ini juga melampaui efisiensi energi INT8 Nvidia A100 dengan selisih satu orde magnitudo.
Namun, klaim ini sebagian besar belum terbukti. Demonstrasi MobileNet tidak menggunakan semua 10 NPU, melainkan hanya satu NPU DWC, lima NPU standar, dan empat NPU standar dibiarkan idle. Makalah ini tidak mengungkapkan throughput total SoC atau apakah semua 10 NPU dapat digunakan secara bersamaan.
### Pendekatan yang Tervalidasi
Meskipun performanya terbatas, pengembangan SoC ini menandai langkah maju yang signifikan dalam komputasi AI edge. SK Hynix, TetraMem, dan USC berhasil memfabrikasi chip ini pada proses 65 nm dan membuatnya berfungsi dengan efisiensi energi yang mengesankan.
“SK Hynix, TetraMem, dan peneliti dari University of Southern California telah mengembangkan SoC IMC berbasis memristor yang menampilkan akselerator depthwise convolution baru yang meningkatkan pemanfaatan crossbar untuk beban kerja AI ringan,” tulis laporan tersebut.
Chip ini memvalidasi bahwa pendekatan komputasi in-memory berbasis memristor layak untuk aplikasi AI edge. Meskipun masih berupa proof-of-concept, teknologi ini membuka jalan bagi pengembangan chip AI yang lebih efisien di masa depan.
Dengan fokus pada perangkat edge, SoC ini berpotensi mengubah cara perangkat kecil seperti sensor, kamera, dan perangkat IoT memproses data AI secara lokal tanpa perlu terhubung ke cloud. Hal ini tidak hanya menghemat daya tetapi juga meningkatkan privasi data.
Ke depannya, pengembangan lebih lanjut dari teknologi ini, termasuk peningkatan presisi dan skalabilitas, akan menjadi kunci untuk adopsi luas. Investasi chip dari perusahaan seperti SK Hynix menunjukkan komitmen serius terhadap inovasi di bidang ini.
Komentar
Belum ada komentar.