Skip to main content

国产芯片跑 DeepSeek 实测盘点:各家适配进展与性能口碑

· 3 min read
Industry Research Team

每当 DeepSeek 发布新模型,国产芯片厂商的适配速度就成了软件栈成熟度的公开考试。从 0day 支持到性能调优,各家交出的答卷差异不小。

适配路径:两条技术路线​

国产芯片跑 DeepSeek 目前有两条主流路径。第一条是接入开源推理框架:通过 vLLM、SGLang 的硬件插件机制适配,昇腾的 vllm-ascend、寒武纪的 vLLM-MLU 都走这条路,好处是模型覆盖随上游社区自动扩展。第二条是自研推理栈深度调优:在自己引擎内做算子融合与并行策略定制,性能上限更高但适配周期更长。头部厂商普遍双线并行。

各家进展盘点​

厂商硬件适配方式公开亮点
华为昇腾Atlas 800I A2 等vLLM/SGLang 插件DeepSeek-V3.2-Exp 0day 支持并开源推理代码与算子
寒武纪MLU 系列vLLM-MLU 开源引擎同步适配 V3.2-Exp,主打长序列稀疏 Attention 降本
海光DCUDTK 软件栈宣布无缝适配与深度调优,强调 GPGPU 生态兼容
摩尔线程MTT S5000联合硅基流动DeepSeek-V3 671B 满血版单卡 Prefill 吞吐超 4000 tokens/s,Decode 超 1000 tokens/s

以 2025 年 9 月底 DeepSeek-V3.2-Exp 发布为例:昇腾实现 0day 支持并开源全部推理代码,寒武纪同步完成适配并开源 vLLM-MLU 源码,海光宣布无缝适配加深度调优。三天内的响应速度说明头部厂商的模型结构级适配能力已经工程化、流水线化,不再是运动式攻关。

性能口碑怎么看​

公开数据要分清口径。摩尔线程联合硅基流动公布的 DeepSeek-V3 671B 单卡 Prefill 超 4000 tokens/s、Decode 超 1000 tokens/s,是集群级部署下分摊到单卡的分片吞吐,不能与单卡跑全量模型的场景混比。昇腾路线的优势在于生产案例密度:据社区年度回顾,互联网、银行、运营商等用户已基于 vLLM 加昇腾插件上线 DeepSeek V3.2、Qwen 系列、GLM 系列等十余个模型,覆盖智算平台与 MaaS 形态。寒武纪的叙事重点是把 V3.2 的稀疏 Attention 机制与自家算子结合,压低长序列场景的训推成本。

实操建议​

  1. 选型前明确目标模型清单,让厂商在真实负载下跑 POC,重点看连续 72 小时压测的吞吐衰减与故障恢复。
  2. 优先选有开源插件、活跃社区与公开性能报告的路线,闭源黑盒调优承诺要打折扣看。
  3. 关注稀疏 Attention、FP8 等新模型特性的跟进速度,这比跑老模型快慢更能预示未来半年的体验。
  4. 部署形态上多卡分片跑 MoE 大模型是当前主流,网络互联与调度软件的成熟度往往比单卡算力更影响实际效果。