国产芯片逆袭!AX8860P性能超英伟达DGX Spark 25%:价格仅一半
(来源:快科技)
快科技10月16日消息,据报道,国产芯片厂商爱芯元智近日发布了AX8860系列AI芯片,旗舰型号AX8860P在本地大模型推理中展现出强劲性能。
AX8860P是一颗专为边端大模型推理设计的芯片,采用6nm制程,搭载16核Arm Cortex-A55 CPU与自研NPU,提供256 TOPS混合精度算力,原生支持FP4数据格式,配备128GB LPDDR5X内存,256-bit位宽下带宽达273 GB/s,典型功耗仅40W。
在性能实测中,AX8860P表现超出预期。据爱芯元智官方数据,在Qwen 27B模型上,AX8860的prefill阶段速度比NVIDIA DGX Spark快25%,decode阶段快30%。这意味着在本地大模型推理场景中,国产芯片已具备与国际旗舰产品正面竞争的能力。
扩展性方面,AX8860P支持AXLink级联与PCIe 5.0高速互联。双芯级联可达512 TOPS,四芯级联宣称可实现1024 TOPS,扩展效率约80%。芯片同时支持256 Gbps网络接口,高于DGX Spark的200 Gbps。
软件生态上,AX8860P支持vLLM、SGLang、PyTorch等主流推理框架,模型格式方面ONNX、Hugging Face等开箱即用,并兼容OpenAI API服务接口,开发者可快速迁移现有应用。
需要说明的是,该价格目前仍为市场预期,最终定价以官方公布为准。搭载该芯片的Sipeed MaixStation整机预计售价约3999美元(约合人民币28793元),不足DGX Spark 128GB版本6950美元(约合人民币50040元)的六成。
目前MaixStation已在Sipeed官网开放注册,计划2026年底启动Kickstarter众筹。