思銳智慧科技ASG-508 是一個在邊緣設備上運行大型語言模型(LLM)的系統,軟體架構搭載ShareQA,可以支援 AI客服、 AI數據分析。
硬體規格
中央處理器:AMD Ryzen 5/7/9
記憶體:64GB DDR5
無線網路介面:2.4GHz and 5GHz
IEEE 802.11.b/g/n/ac wireless LAN
有線網路介面:Gigabit Ethernet RJ45
NPU BFLOAT16 : 32 TFLOPS
NPU INT8 : 206 TOPS
NPU Memory: 64GB LPDDR5
NPU TDP : 45W
支援SLM Model規格
LLama 2 7B
LLama 3 8B
Mistral 7B
Breeze 7B
Mistral Nemo 12B
Ministral 8B
Gemma 3 4B
產品規格
外殼:29cm*21cm*9cm
配件
電源供應器
輸入規格:100~240V(50/60Hz)
保固
一年硬體保固
一年軟體保固