📢: 欢迎访问尊龙娱乐官方网站,更及时、更稳定、更可信赖的赛事资讯体验。

◧ ARTICLE DETAIL

国产芯片逆袭!AX8860P性能超英伟达DGX Spark 25%:价格仅一半

围绕赛事动态、观点观察与信息梳理,呈现更完整的文章阅读体验,让重点内容更清晰地被看见。

尊龙娱乐展示中心 135 阅读 约 5.5 分钟

快科技10月16日消息,据报道,国产芯片厂商爱芯元智近日发布了AX8860系列AI芯片,旗舰型号AX8860P在本地大模型推理中展现出强劲性能。 AX8860P是一颗专为边端大模型推理设计的芯片,采用6nm制程,搭载16核Arm Cortex-A55 CPU与自研NPU,提供256 TOPS混合精度算力,原生支持FP4数据格式,配备128GB LPDDR5X内存,256-bit位宽下带宽达273 GB/s,典型功耗仅40W。 在性能实测中,AX8860P表现超出预期。据爱芯元智官方数据,在Qwen 27B模型上,AX8860的prefill阶段速度比NVIDIA DGX Spark快25%,decode阶段快30%。这意味着在本地大模型推理场景中,国产芯片已具备与国际旗舰产品正面竞争的能力。 扩展性方面,AX8860P支持AXLink级联与PCIe 5.0高速互联。双芯级联可达512 TOPS,四芯级联宣称可实现1024 TOPS,扩展效率约80%。芯片同时支持256 Gbps网络接口,高于DGX Spark的200 Gbps。 软件生态上,AX8860P支持vLLM、SGLang、PyTorch等主流推理框架,模型格式方面ONNX、Hugging Face等开箱即用,并兼容OpenAI API服务接口,开发者可快速迁移现有应用。 需要说明的是,该价格目前仍为市场预期,最终定价以官方公布为准。搭载该芯片的Sipeed MaixStation整机预计售价约3999美元(约合人民币28793元),不足DGX Spark 128GB版本6950美元(约合人民币50040元)的六成。 目前MaixStation已在Sipeed官网开放注册,计划2026年底启动Kickstarter众筹。 特别

about image
觉得有用?分享给朋友

让更多人看到这篇内容

推荐阅读