思銳智慧科技ASG-558 是一個在邊緣設備上運行大型語言模型(LLM)的系統,軟體架構搭載ShareQA ,支援企業報告撰寫、自動摘要生成、自動關鍵點生成、QA 客服、AI 會議紀要/摘要等多種生成式 AI 功能。
硬體規格
CPU:Intel i5-14600
RAM:128GB DDR5
NPU BFLOAT16 : 32 TFLOPS
NPU INT8 : 206 TOPS
NPU Memory: 64GB LPDDR5
NPU TDP : 45W
AMD AI PRO 9700 INT4: 1531 TOPS
AMD AI PRO 9700 Memory: 32GB GDDR6
AMD AI PRO 9700 TDP: 300W
SLM 模型支援
Llama 2 7B
Llama 3 8B
Mistral 7B
Breeze 7B
Mistral Nemo 12B
Mistral 8B
Mistral 24B
Gemma 3 4B
產品規格
外殼:47.8cm*23cm*49.3cm
保固
一年硬體保固
一年軟體保固