23 篇博文 含有标签「Selection Guide」

2026 年是 AI 加速芯片竞争分水岭式的一年。一边是 NVIDIA 用 Blackwell 产能与 Rubin 首发把「训练算力」的标尺再抬高一截，另一边是中国本土供应链在出口管制常态化下，把「可用」加速推向「好用」——昇腾 960 超节点、寒武纪思元 690、摩尔线程 MTT S5000、阿里真武 V900 等产品密集落地。本文用同一把尺子，把国产与国际主力芯片放到一张桌子上对比。

一、为什么说 2026 是分水岭​

• 出口管制进入稳态：美国对高端训练卡的禁运已不是新闻，而是采购决策的默认前提。国产芯片的「替代」叙事从口号转为规模部署。
• 国产份额跨越临界点：据 Counterpoint 口径，中国 AI 芯片市场国产化率从 2022 年近乎为零，升至 2025 年的约 41%，其中昇腾占国产份额约 62%。这意味着「国产 vs 国际」不再是技术爱好者话题，而是采购刚需。
• 代际差距收窄但仍在：纸面算力上，旗舰国产卡（昇腾 910C 128GB、思元 690 196GB）在显存容量上已不输同代国际卡；但在单卡稠密算力、软件生态与集群扩展效率上，仍有一代左右的差距。

本文对比维度固定为五类可比指标：算力（FP16 稀疏口径，与站内科普一致）、显存容量与带宽、功耗与能效、制程、价格。所有数字取自本站已校验芯片数据库（252 款）与价格库（报价截至 2026-10），官方未公开的一律标注「未公布」，不作推测填充。

二、国产 AI 芯片进展​

2.1 华为昇腾：从 910C 到 960 的三级跳​

型号	架构	制程	显存	显存带宽	FP16（稀疏）	TDP	状态
昇腾 910B	Da Vinci	TSMC 7nm+（含 SMIC 国产化）	64GB HBM2e	600 GB/s	320 TFLOPS	310W	量产中
昇腾 910C	Da Vinci（双 die）	中芯国际 7nm N+2	128GB HBM2e	3.2 TB/s	800 TFLOPS	600W	规模部署
昇腾 950PR	Da Vinci v5	中芯 N+3（等效 5nm 级）	128GB HiBL 1.0	未公布	486 TFLOPS	600W	已上市
昇腾 950DT	Da Vinci v5	中芯 N+2	144GB	4 TB/s	547 TFLOPS	500W	2026 Q4 量产
昇腾 960DT	全新 SIMD/SIMT	未公布	288GB	9.6 TB/s	未公布	未公布	2027 Q1
昇腾 960PR	全新 SIMD/SIMT	未公布	192GB	2.4 TB/s	未公布	未公布	2027 Q3

昇腾 910C 是当前国产训练主力，CloudMatrix 384 超节点已用于 DeepSeek 等大模型训练验证。950 系列在 2026 年 HC 大会官宣：950PR 渠道报价已超 ¥8 万（年初约 ¥6 万），950DT 超 ¥25 万（较 7 月上涨 20%~50%），HBM 供给挤压是涨价主因。960 超节点公布 NPO Hi-ONE 引擎、4096 卡规模与 99.8% 可用度目标，其中 960DT 主攻训练（FP4 4 PFLOPS）、960PR 主攻推理（FP4 8 PFLOPS），是 2027 年的旗舰预期。

2.2 寒武纪思元 690：纸面规格天花板​

思元 690 采用双 die Chiplet 设计与 MLUarch 4.0 架构，中芯国际 N+2 制程、196GB HBM3、3.35 TB/s 带宽、FP16 700 TFLOPS、TDP 500W。其显存容量与带宽已对齐 H100 SXM 级别，是国产卡中少数在纸面规格上逼近国际旗舰的产品。2026 年 9 月受 HBM 供给挤压，官方指导价 ¥19 万、市场均价约 ¥17.5 万，较两月前上调 20%~30%，客户含字节、阿里、百度。

2.3 其他国产厂商​

厂商 / 型号	架构	制程	显存	FP16（稀疏）	TDP	备注
天数智芯 天垓 300	SIMT 通用计算	7nm	144GB HBM3E	超 1,000 TFLOPS	600W	2026-07 WAIC 发布，对标 Hopper
天数智芯 天垓 150	ivcore11	TSMC 7nm	64GB HBM2e	192 TFLOPS	350W	通用 GPU，兼容 CUDA 生态
燧原 云燧 T21	GCU-CARA 2.0	格罗方德 12nm	64GB HBM2E	134.4 TFLOPS	未公布	邃思 2.0，训推一体
百度 昆仑芯 R200	XPU-R	7nm	16/32GB GDDR6	128 TFLOPS	150W	低功耗推理向
摩尔线程 MTT S5000	MUSA 4（平湖）	TSMC 6nm	80GB	400 TFLOPS（BF16）	500W	全功能 GPU，渠道价 ¥7.5 万
阿里 真武 V900	平头哥 PPU	未公布	216GB	未公布	未公布	2026-09 云栖发布，2027 Q1 量产

注：燧原 T21 的 TDP 官方未公布，本站不作推测；摩尔线程、燧原等卡的 FP8/FP4 精度多数官方未单列，表中以 BF16/FP16 口径统一呈现。天数智芯「智铠」系列未见公开采购确认，暂未纳入主表。

三、国际 AI 芯片进展​

3.1 NVIDIA：Blackwell 量产 + Rubin 首发​

型号	架构	制程	显存	带宽	FP16（稀疏）	TDP	状态
H100 SXM	Hopper	TSMC 4N	80GB HBM3	3.35 TB/s	1,979 TFLOPS	700W	上代主力
H200 SXM	Hopper（refresh）	TSMC 4N	141GB HBM3e	4.8 TB/s	1,979 TFLOPS	700W	大显存主力
B200	Blackwell（双 die）	TSMC 4NP	192GB HBM3e	8 TB/s	5 PFLOPS	1000W	2025 起量产
GB300	Grace Blackwell Ultra	TSMC 4NP	576GB HBM3e（超节点口径）	16 TB/s	10 PFLOPS（双芯）	3000W	超节点主力
Rubin R200	Rubin	台积电 3nm	288GB HBM4	19.2 TB/s	4 PFLOPS	1800W	2026 H2 已规模出货

NVIDIA 在 2026 年的核心叙事是交付：Vera Rubin NVL72 下半年持续放量，MLPerf Inference v6.1 首秀（Qwen3-VL 较 GB300 最高 3.7 倍）。Rubin R200 官方 FP4 达 50 PFLOPS（稀疏），是本代出货主力；N1X PC 处理器秋季上市，把战场延伸到消费级。

3.2 AMD：MI300X/MI325X 守基本盘，MI455X 冲机架​

MI300X（192GB HBM3 / 5.3 TB/s / 1,307 TFLOPS）与 MI325X（256GB HBM3e / 6.48 TB/s）提供高显存性价比；真正的增量在 Helios 机架（72× MI455X，432GB HBM4 每卡、23.3 TB/s、FP4 40.3 PFLOPS、计算芯粒 TSMC 2nm），绑定 OpenAI 6GW、Meta 6GW 部署。MI450 为其母型号，量产节点排在 2027 年 Q2。

3.3 Intel 与 Google​

• Intel Gaudi 3：TSMC 5nm、128GB HBM2e、3.67 TB/s、BF16 矩阵算力 1,835 TFLOPS、TDP 900W，24× 200GbE RDMA 集成网卡，以太网组网直接对标 NVL72。Gaudi 3 之后 Intel 路线转向 Crescent Island（推理）与 Jaguar Shores（2027），Falcon Shores 已取消。
• Google TPU v6（Trillium）：v6e（32GB / 918 TFLOPS / 200W）与 v6p（96GB HBM2 / 1,350 TFLOPS / 450W）同代，TSMC 5nm，仅通过 Google Cloud 按小时计费。第七代 Ironwood 已把 HBM 容量推到 192GB、带宽 7.38 TB/s。

3.4 其他赛道​

Cerebras 已于 2026-08 发布机架级 CS-4（3× WSE-3 Turbo，750 PFLOPS），需要注意的是 CS-4 并未采用新一代晶圆，硅片与 CS-3 完全相同；SambaNova SN40L 以三层内存架构服务稀疏场景；Graphcore 已被 SoftBank 收购并退出中国市场。

四、关键指标对比（核心）​

方法学：FP16 统一采用稀疏（sparse）口径，与站内科普及首页热门芯片一致；价格为 pricing.json 市场报价（国际 USD、国产 CNY，截至 2026-10）；「未公布」表示官方未披露、本站不作推测填充。

4.1 算力对比（FP16 稀疏）​

芯片	FP16（稀疏）	FP8 / FP4 备注	架构
国产
天垓 300	超 1,000 TFLOPS	支持 FP4 / FP8	SIMT
昇腾 910C	800 TFLOPS	FP8 1.5 PFLOPS	Da Vinci 双 die
思元 690	700 TFLOPS	FP8 约 1.4 PFLOPS	MLUarch 4.0
昇腾 950DT	547 TFLOPS	FP4 2 PFLOPS	Da Vinci v5
摩尔线程 MTT S5000	400 TFLOPS（BF16）	FP8 约 1 PFLOPS 稠密	MUSA 4
天垓 150	192 TFLOPS	384 TOPS INT8	ivcore11
云燧 T21	134.4 TFLOPS	未公布	GCU-CARA 2.0
昆仑芯 R200	128 TFLOPS	256 TOPS INT8	XPU-R
国际
GB300（双芯）	10 PFLOPS	FP4 40 PFLOPS	Grace Blackwell Ultra
MI455X	10.1 PFLOPS	FP4 40.3 PFLOPS	CDNA 5
B200	5 PFLOPS	FP4 20 PFLOPS	Blackwell
Rubin R200	4 PFLOPS	FP4 50 PFLOPS	Rubin
Gaudi 3	1,835 TFLOPS（BF16 矩阵）	FP8 1,835 TFLOPS	Gaudi 3
H100 SXM	1,979 TFLOPS	FP8 3,958 TFLOPS	Hopper
H200 SXM	1,979 TFLOPS	FP8 3,958 TFLOPS	Hopper
TPU v6p	1,350 TFLOPS	FP8 2,700 TFLOPS	TPU v6
MI300X	1,307 TFLOPS	未单列	CDNA 3
MI325X	1,307 TFLOPS	未单列	CDNA 3

读图：单卡 FP16 上，B200/GB300 把国产旗舰甩开约 5~6 倍；但昇腾 910C（800）已接近 H100 的 40%，思元 690（700）紧随，天垓 300（超 1,000）已进入国际旗舰区间。差距从「数量级」收敛到「一代」。

4.2 显存与带宽对比​

芯片	显存	类型	带宽
昇腾 960DT	288GB	HBM	9.6 TB/s
MI325X	256GB	HBM3e	6.48 TB/s
阿里真武 V900	216GB	未公布	未公布
思元 690	196GB	HBM3	3.35 TB/s
B200	192GB	HBM3e	8 TB/s
MI300X	192GB	HBM3	5.3 TB/s
H200	141GB	HBM3e	4.8 TB/s
H100	80GB	HBM3	3.35 TB/s

读图：国产旗舰在显存容量上已经反超——思元 690 的 196GB、昇腾 960DT 的 288GB、真武 V900 的 216GB 都高于 H100/H200。但带宽上，只有昇腾 960DT（9.6 TB/s）与 B200（8 TB/s）进入同一梯队，HBM3e/HBM4 代差是关键。

4.3 功耗与能效对比​

芯片	TDP	FP16/W（稀疏能效）
昇腾 910C	600W	1.33 TFLOPS/W
思元 690	500W	1.40 TFLOPS/W
天垓 150	350W	0.55 TFLOPS/W
H100	700W	2.83 TFLOPS/W
B200	1000W	5.0 TFLOPS/W
MI300X	750W	1.74 TFLOPS/W
TPU v6e	200W	4.59 TFLOPS/W

读图：能效是国产最明显的短板。H100 的 2.83 TFLOPS/W 约为昇腾 910C 的 2.1 倍，B200 更是 3.8 倍。低功耗端 TPU v6e（200W / 4.59）与昆仑芯 R200（150W）代表「每瓦算力」的另一条路线。

4.4 制程对比​

厂商	代表芯片	制程	晶体管
华为	910C	中芯 7nm N+2	未公布
寒武纪	思元 690	中芯 N+2（5nm 级）	未公布
NVIDIA	H100 / B200	TSMC 4N / 4NP	800 亿 / 2080 亿
AMD	MI300X	TSMC 5+6nm 混合	1530 亿
AMD	MI455X	TSMC 2nm（计算芯粒）+ 3nm	未公布

读图：制程代差是结构性差距的根源。国产主力仍停留在 7nm 级，而国际旗舰已进入 2nm 计算芯粒时代。这是单卡算力差距的物理下限。

4.5 价格对比（市场报价，2026-10）​

芯片	价格	币种	口径
H100	$28,000	USD	市场均价
H200	$38,000	USD	市场均价
B200	$42,000	USD	市场均价
GB200	$62,000	USD	市场均价
MI300X	$13,500	USD	市场均价
MI325X	$16,500	USD	市场均价
Gaudi 3	$16,500	USD	市场均价
TPU v6e	$22,000	USD	Cloud 仅按小时
昇腾 910C	¥110,000	CNY	2026-09 渠道（年初约 ¥9 万，+22%）
昇腾 950PR	¥80,000	CNY	2026-09 渠道（年初约 ¥6 万，+30%）
昇腾 950DT	¥250,000	CNY	2026-09 渠道（较 7 月 +20~50%）
思元 690	¥175,000	CNY	2026-09 渠道（官方指导价 ¥19 万）
MTT S5000	¥75,000	CNY	渠道估算

读图：按汇率约 7.2 折算，昇腾 910C（约 $15.3k）与 H100（$28k）价差显著但算力仅其 40%，单位算力成本仍偏高；思元 690（约 $24.3k）价格接近 H100 但显存翻倍。HBM 短缺推高国产报价，是 2026 下半年的一致趋势。

五、生态对比​

厂商	软件栈	框架支持	迁移难度	特点
NVIDIA	CUDA + cuDNN	全支持	—	算子覆盖约 100%，生态壁垒
AMD	ROCm	主流支持	中	覆盖约 90%，持续补齐
华为	CANN	主流支持	中	覆盖约 80%，昇思 MindSpore
寒武纪	NeuWare	主流支持	中	覆盖约 75%~85%
天数智芯	IXUCA	主流支持	低（兼容 CUDA）	CUDA 兼容路线
燧原	DTU Toolkit	部分支持	高	覆盖约 60%
百度昆仑	XREA / 飞桨	主流支持	低（飞桨原生）	与 Paddle 深度绑定

关键判断：生态差距比硬件差距更难追。CUDA 的长期积累使 NVIDIA 在算子覆盖、工具链、开发者社区上仍具压倒性优势；国产路线分两派——华为/寒武纪自建栈，天数智芯/摩尔线程走 CUDA 兼容以降低迁移成本。

六、市场表现​

6.1 出货量（2026 预估）​

厂商	2026 出货（万颗）	同比	主要客户
NVIDIA（全球）	150–200	+30%	全球科技巨头
华为（昇腾）	20–30	+100%	政府、国企、科技公司
寒武纪（MLU）	10–15	+150%	字节、阿里、百度
AMD（全球）	30–40	+80%	Meta、微软等
其他国产	10–20	+200%	各类 AI 公司

6.2 中国市场份额​

类型	2024	2026（预估）	趋势
国际（NVIDIA/AMD）	约 80%	约 40%	大幅下降
国产（华为/寒武纪等）	约 20%	约 60%	快速提升

6.3 客户与部署​

• 字节跳动 / 阿里 / 百度：寒武纪思元、昇腾 910C 双线采购；
• 腾讯：昇腾 910C 为主，探索其他国产；
• 智算中心：多家国产芯片混合部署，国产化率成硬指标；
• 超大规模云：NVIDIA 仍主导海外训练，但国内云厂商国产占比快速抬升。

七、未来展望（2027）​

阵营	产品	时间	状态
华为	昇腾 960DT / 960PR	2027 Q1 / Q3	已官宣
华为	昇腾 970	2028	已官宣
NVIDIA	Rubin Ultra	2027	已公布
AMD	MI450 / MI500	2027 Q2 起	已公布
Intel	Jaguar Shores	2027+	已公布
AWS	Trainium4	2027	已公布（FP4 为 Trainium3 的 6 倍以上）
寒武纪	思元 790	2027	未公布

差距判断（2027 预期）：

• 算力：从落后 40%~50% 收窄至 30%~40%；
• 显存：从落后 20%~30% 收窄至 10%~20%，部分型号已反超；
• 制程：从落后 1~2 代收窄至约 1 代；
• 生态：从落后 35 年收窄至 23 年。

八、结论与选型建议​

核心观点：

1. 2026 年国产与国际旗舰的差距从「代际」缩小到「一代」，显存容量局部反超；
2. 单卡稠密算力、能效、制程仍是结构性短板，集群扩展与软件生态是最大变量；
3. 国产化率快速攀升（2025 约 41%），采购从「尝鲜」变「刚需」；
4. 出口管制常态化下，国产替代已从政策驱动转为市场驱动。

给不同角色的建议：

• 企业采购：训练为主且合规无碍，选 NVIDIA B200/GB300/Rubin；国产化硬指标，选昇腾 910C/950DT 混合部署；推理高密度，关注昆仑芯 R200 与 TPU v6e。
• 开发者：优先 CUDA 保泛用性；若锁定国产，选 CUDA 兼容栈（天数智芯/摩尔线程）降低迁移成本。
• 投资者：关注 HBM 供给、国产先进制程良率，以及昇腾/寒武纪的客单与份额变化。
• 政策制定者：延续对先进制程、HBM、EDA 的投入，缩短生态差距比单点算力更关键。

---

数据来源与方法：本文全部性能与价格取自 MirrorFrog 已校验芯片数据库（chips.json，252 款）与价格库（pricing.json，报价截至 2026-10），数据核对日期 2026-10-13。FP16 统一稀疏口径；官方未公开字段以「未公布」标注，不作占位填充。文中 Rubin R200 带宽（19.2 TB/s）与 TDP（1800W）、Gaudi 3 算力（BF16 矩阵 1,835 TFLOPS）、昇腾 950 系列制程与报价等，均为 2026-10 核对后的修正值。

延伸阅读：完整芯片对比表、交互式对比工具、NVIDIA H100 规格卡、华为昇腾 910C 规格卡、寒武纪思元 690 规格卡。

2026 年四季度，国产卡与进口卡的对比已经不能只看「单卡算力差多少」。三条硬约束同时收紧：政策红线（7 月 15 日七部委行动方案要求新增财政与央企自建算力国产硬件采购占比不低于 75%，9 月 1 日生效无过渡期）、价格双向上涨（国产卡在涨，进口卡配额在涨）、生态差距量化（WAIC 2026 演示中国产昇腾与同配置英伟达差距约 15% 至 25%）。这是一篇给决策者用的决策树，不是参数对比表。

---

一、先看两个真实报价趋势​

国产侧在涨价。 路透社与彭博社在 2026 年 10 月报道，华为将昇腾 950DT 加速卡指示性报价上调至 25 万元以上，较约两个月前的报价高出 20% 至 50%；彭博称三个月内涨约 60% 至同一水平，有消息人士称该报价是对标英伟达 B200 的多卡交易。老款也不豁免：昇腾 950PR 从年初约 6 万元涨至 8 万元以上，昇腾 910C 从约 9 万元涨至 11 万元以上。寒武纪下一代（暂称 690）报价上调 20% 至 30%，沐曦与燧原也有类似动作。根因是 HBM 供应集中，国产厂商不得不更多依赖成本更高的灰色渠道。

进口侧配额放松但落地存疑。 据报道北京已原则批准 DeepSeek、字节、阿里、腾讯采购 H200，累计超 40 万颗，但条件严格到「实际一单都没下」——英伟达 CEO 黄仁勋已亲口确认没有正式订单。

这两条趋势合起来的判断：四季度是国产卡的窗口期，但不是捡漏窗口期。 国产卡在涨是因为需求真实，不是因为供给变宽裕。

二、决策树：四个问题，四个出口​

问题一：你的负载有合规红线吗？​

若有（政务、央企、金融、医疗数据）——国产卡是必选项，不是选项。 政策要求新增财政与央企自建算力国产硬件采购占比不低于 75%，且无过渡期。此时决策树直接终止在国产分支，后续三个问题只在国产卡内部做型号选择。

若没有——继续。

问题二：你的模型栈是纯国产开源，还是重度依赖海外闭源？​

若你的模型栈以 Qwen、DeepSeek、GLM 等国产开源模型为主，国产卡的适配红利非常明确。昇腾走「全栈共定义」路线，DeepSeek V4 的训练即在昇腾上完成；寒武纪走「生态白手套」路线，把 vLLM 适配做深且 Flash 与 Pro 双开源。这类栈在国产卡上的迁移成本最低。

若你的核心负载重度依赖海外闭源模型或特定算子实现——继续评估，不要勉强。 需要提醒的是，公开分析提到 V4 上国芯曾需要重写约 200 个算子、投入约 30 人年才把性能从 1/35 追回来。这不是小工程。

问题三：你的负载是 decode 受限还是 prefill 受限？​

这是国产卡四季度最有价值的一个判据。昇腾 950 系列的双 die 分工正是围绕这一点设计：950PR（128GB HBM、约 1.6 TB/s）主打推理与 prefill，950DT（144GB 自研 HBM、4 TB/s 带宽、2 TB/s 互连）主打训练与 decode。

如果你的负载是 49B 激活量级的大模型 decode 路径（内存带宽受限），950DT 的 4 TB/s 是国产阵营里最合适的物理答案。 反之，如果是 prefill 密集或小模型高并发，950PR 或寒武纪 MLU690（192GB HBM3E，国产卡中最大显存配置）更匹配。

问题四：你能接受多长的交期和多少的性能折损？​

公开口径的性能差距是：昇腾与同配置英伟达在主流中国模型上差距约 15% 至 25%（WAIC 2026 演示）；第三方评测的推理吞吐对比中，2 卡昇腾 910C 约为 2 卡 H100 的 82%；训练吞吐口径下昇腾 910C 约为 H100 的 79%。同时要注意功耗代价：SMIC 7nm 级工艺的能效劣势使 Atlas 950 SuperPoD 的整机功耗约为可比英伟达配置的两倍以上。

如果你的业务 SLA 允许这 15% 至 25% 的折损，且机房有足够功率余量——选国产。 如果 SLA 卡死在毫秒级，先算功耗余量再决定。

三、四季度选型对照表​

维度	国产卡	进口卡
采购价走势	普涨，950DT 意向价超 25 万元	H200 配额放开但落地未验证
现货可获得性	950DT 商用时间窗口为 2026 年 Q4，量产出货有不确定性	H100 整机稳定在 325 至 330 万元区间
合规适配	满足 75% 国产采购红线	不计入国产比例
生态成熟度	国产模型栈适配最稳，海外闭源有坑	CUDA 生态完整
性能折损	主流国产模型 15% 至 25%	基线
单位成本	主力训练档单卡 11 万元左右，950PR 约 8 万元	H100 单卡 19.5 万至 29 万元，H200 18.1 万至 32 万元
整机功耗	偏高，同配置约为英伟达两倍以上	更优

四、四条执行建议​

• 不要为「国产化」三个字单独付费。 如果你的合规压力真实存在（问题一为是），国产卡的溢价是可以接受的；如果不存在，压着 15% 至 25% 的性能折损选国产，是纯粹的成本损失。
• 押注生态路线而非单卡参数。 昇腾的全栈共定义与寒武纪的 vLLM 深适配，是两条不同的赌注。多卡集群的决策应该押在生态路线上，因为单卡差距会被系统级优化覆盖。
• Q4 是窗口但不是折扣。 国产卡的涨价幅度（950DT 三个月约 60%）说明需求侧在抢。如果确实要用 950DT，Q4 下单比 Q1 下单便宜。
• 保留一条 CUDA 回退路径。 至少让推理栈能编译回 CUDA，避免在 H200 实际落地那天才发现切换成本已经超过预算。

一句话总结：2026 年四季度的国产卡 vs 进口卡，本质上不是性能选择题，而是「合规压力 + 模型栈归属 + decode 还是 prefill」三问的组合题。前一问决定要不要买国产，后两问决定买哪一款国产。

如果你在 2026 年四季度做 GPU 采购决策，最大的认知误区是继续盯着「GPU 有没有货」。TrendForce 在 10 月 5 日发布的供应链追踪里明确指出：在其跟踪的七大服务器零部件类别中，GPU 是唯一处于均衡水平的一类，而 CPU、DRAM、企业级 SSD 相关 NAND、HDD、ABF 载板、MLCC 全部处于紧张或极度紧张。瓶颈已经从「拿不到加速卡」，迁移到了「拿到卡之后，凑不齐一台能上电的整机」。

---

一、四季度的真实价格水位：现货在涨，也在分化​

先看海外云端。多家价格追踪站在 2026 年 10 月上旬给出的按需单卡小时价（美元）大致落在这个区间：

型号	低价位平台	中位区间	高价位平台
H100 SXM 80GB	RunPod 约 2.69	中位数约 5.00	Azure 美东约 12.29
H200 SXM 141GB	RunPod 约 3.59	中位数约 5.40	Google Cloud 约 10.60
B200 180GB	约 5.98	中位数约 8.60	约 14.24
B300 288GB	RunPod 约 7.89	中位区间 9 至 12	AWS p6e 约 11.70（候补名单）

同一款 H100，最高价与最低价之间能出现 4.6 倍价差。这是四季度最重要的一条实操结论：你不是在买一种商品，你是在买一个供应商关系。

国内现货市场的走向更复杂。2026 年 9 月中旬的一线渠道数据显示，RTX 5090 涡轮卡与风扇卡报价分别为约 4.8 万元与 4.6 万元一张，相比前期高点已有回落；H100 老款整机维持在 325 至 330 万元区间；H200 两路整机约 560 至 565 万元一台；GB200 整机柜约 6800 万元一套，GB300 约 12500 万元一套。与硬件价格相比，租赁端的费率并未同步上涨——5090 服务器的月租费率仍稳定在 1.35 至 1.6 万元区间。这意味着现在买硬件的人，正在独自承担硬件端的溢价。

值得注意的是一个反向信号： Nebius 在 10 月 1 日上调了 GPU 小时价，媒体测算涨幅可达 21%，涉及 H200 报价升至约 5.40 美元。而 CoreWeave 在 9 月 17 日披露，其第三季度签署的 3 至 6 个月短约，按「年化收入除以服务集群所需电力」口径计约为每兆瓦 4000 万美元。这两组数据共同说明：四季度仍在涨的是新签的、算力紧张的合约，而非全部存量。

二、承诺折扣才是真正的采购价​

如果只比按需价，你会高估成本三到五成。2026 年 10 月初的公开报价显示，主流云的 H100 承诺折扣幅度如下：

平台	按需	1 年承诺	3 年承诺	竞价实例
Azure（美东）	12.29	约 7.87（约 -36%）	约 5.40（约 -56%）	约 2.27（约 -82%）
Google Cloud	约 11.06	约 7.67（约 -31%）	约 4.86（约 -56%）	约 6.62

这里有两个反直觉的点。第一，Azure 的 H100 竞价实例折算到单卡约 2.27 美元，低于我们核实的所有新型 GPU 云按需价——前提是你的任务能承受被抢占。第二，Google Cloud 上同一台机器的竞价实例（6.62）比其排队启动的柔性实例（约 4.79）贵出约 38%，而绝大多数团队从来没把这两者放在同一张表里比较过。

实操结论：先算承诺，再谈按需。 如果你的负载有 70% 以上的稳定基线，四季度就应该把 1 年承诺的报价拉进谈判桌，而不是按单小时询价。

三、整机交付才是真正的排期表​

TrendForce 10 月 5 日的交期数据，是四季度采购排期的核心依据：

零部件	当前交期	均衡基准	倍数
GPU	30 至 40 周	30 至 40 周	已均衡
DRAM	20 周	8 周	2.5 倍
HDD	50 周	16 周	约 3.1 倍
ABF 载板	48 至 56 周	12 周	4 至 4.7 倍
MLCC	35 周	12 周	约 2.9 倍
企业级 SSD 相关 NAND	16 周	8 周	2 倍

价格侧，TrendForce 于 9 月 30 日预计 2026 年第四季度常规 DRAM 合约价环比再涨 10% 至 15%；ABF 载板从 3Q26 到 4Q27 逐季上涨 10% 至 15%。美光 CEO 更是在 10 月初公开表示，存储短缺可能延续到 2028 年甚至更久，客户最终支付的价格将「显著高于今年」。

实操结论：把 CPU、内存、存储、光模块的采购与 GPU 订单绑定谈。 如果你只锁了 GPU 的货，等卡的 30 周过去后还要再等 DRAM 的 20 周。横向看一眼，同一份调研还显示中压开关柜交期约 22 个月、大容量变压器约 18 个月——自建机房的项目，采购启动点要再往前推。

四、六步实操流程​

步骤	动作	交付物
1	拆 BOM：区分「卡已锁定、组件未锁定」与「全部现货」两类资产	资产分类表
2	拉齐双报价：云端 1 年/3 年承诺价 + 渠道整机含税价	双轨比价表
3	算三口径成本：租金、电力、折旧（含残值）	单位 token 成本
4	设采购分层：刚需锁货锁交付，非刚需不囤	采购分层清单
5	谈条款：把交期违约、显存规格变更、价格调整写进合同	条款清单
6	留后手：保留一条可抢占实例做弹性缓冲	弹性池预算

五、给采购负责人的四条清单​

• 先锁组件，再锁整机。 你的排期风险 90% 在 DRAM 和 ABF 载板上，不在 GPU 上。
• 把承诺价当谈判筹码。 Azure、Google 的 3 年承诺都在按需价的 44% 左右，1 年承诺约 64%，不询价就等于接受 100%。
• 警惕居间加价。 算力租赁渠道中居间人占比据称约三成，「总租-分租」模式会显著放大终端隐性成本；四季度更应走直签。
• 现货与租值的背离要计入模型。 硬件在涨、月租在稳，意味着现在囤货的持有成本正在被市场惩罚——除非你能证明未来 6 个月算力会继续短缺，而数据支持这个假设。

一句话总结：四季度 GPU 采购的正确姿势，不是「抢到卡」，而是「在组件最紧的时候把整机合同锁死，同时用承诺折扣把云端备选方案的账算清」。

「每百万 token 多少钱」这个问题，在 2026 年已经失去了单独讨论的意义。2026 年 10 月 8 日的价格快照显示，最便宜的模型输入价已跌到每百万 token 0.05 美元（GPT-5 Nano）到 0.14 美元（DeepSeek V4 Flash）区间，而旗舰模型仍在 4 至 5 美元输入、20 至 25 美元输出。头部与尾部之间相差约 100 倍，真正决定账单的不是单价，而是你的计量口径。

---

一、2026 年 10 月的价格环境基线​

以下是我们核实的公开价格（单位：美元 / 每百万 token），可用于建立四季度预算模型：

模型	输入	输出	上下文	备注
GPT-5 Nano	0.05	0.40	—	当前最低输入价
Qwen3.8 Flash	0.09	0.28	—	聊天场景最省
Gemini 2.5 Flash-Lite	0.10	0.40	—	精确 token 计数
DeepSeek V4 Flash	0.14	0.28	128K	输入侧另有峰谷价
GLM-5.3 Flash	0.15	0.50	128K	—
Qwen3.6-Plus	0.50	3.00	1M	超 256K 输入翻至 2.00 / 6.00
Gemini 3.7 Flash	0.75	3.75	1M	促销价，2026-12-31 后翻倍
Claude Opus 5	5.00	25.00	1M	8 月定价至今未变

四个必须注意的口径陷阱：

1. 促销有到期日。 Gemini 3.7 Flash 的 0.75 / 3.75 是促销价，官方标注 2026 年 12 月 31 日后恢复至 1.50 / 7.50。Qwen3.6-Plus 的国际版价格在输入超过 256K 后跳到 2.00 / 6.00。用促销价做全年预算，等于给自己埋一个 2 倍的账。
2. 峰谷定价真实存在。 DeepSeek V4 Flash 的官方价为离峰 0.22 / 0.66、峰段 0.44 / 1.32，峰段为 UTC 工作日的两个时段。如果你把离线批处理挪到离峰时段，同一批任务能省一半。
3. 缓存命中价差三个数量级。 DeepSeek V4 Flash 缓存命中输入低至每百万 0.007 美元。RAG 或多轮对话场景里，缓存命中率每提升 10 个百分点，输入成本下降约一个量级。
4. 输出单价通常是输入的 3 至 5 倍。 输入重的负载（翻译、文档重读）与输出重的负载（代码生成、长摘要）必须分开建模。

二、1 亿 token 月预算的真实账单​

取一个典型负载：1 亿输入 token + 1000 万输出 token。按上表单价估算：

模型	月账单估算	说明
DeepSeek V4 Flash	约 28.60 美元（离峰）	峰段则约 57.20 美元
Qwen3.6-Plus	约 80 美元	前提是多数请求输入不超 256K，否则约 260 美元
Gemini 3.7 Flash	约 112.50 美元	促销期内，12 月底后约 225 美元
GPT-5.6 Sol	约 600 美元	短上下文标准档
Claude Opus 5	约 750 美元	1M 上下文 + 默认开启思考

同一份工作，账单差 26 倍。 但这里有个陷阱比价差本身更重要：一个 0.14 美元的模型如果需要三次重试才给出正确结果，实际成本是 0.42 美元——比一次成功的 0.50 美元模型更贵。重试率必须计入单 token 成本。

三、什么规模开始值得自建​

自建的门槛取决于你的月 token 量。公开分析给出的经验阈值是：70B 级模型在每月 5 亿至 8 亿 token 以上时，自建的推理开支相比前沿 API 标价可降低 65% 至 80%。

而自建的另一条参考线来自芯片视角。联想 2026 年的生成式 AI TCO 研究给出：自托管 Llama 70B 的每百万 token 成本约 0.11 美元，而同类托管 API 约 2.00 美元，相差约一个数量级；对一台 Blackwell 级系统连续运行对标按需云价，五年节省超过 500 万美元，降幅 83.8%。

但这些数字有一个共同前提：硬件不闲着。该研究测算的盈亏平衡点，在对标按需云价时不到四个月，在对标深度折扣的多年期预留合约时则拉长到九到十个月。

四、实测框架：四步算出你的真实单位成本​

步骤	做什么	关键变量
1	统计真实输入输出比	通常在 5:1 到 20:1 之间，别用 1:1
2	测算缓存命中率	决定输入侧实际单价
3	折算重试与失败成本	重试率乘以单次成本
4	与自建摊销对照	自建月均 token 除以单卡月处理量

第 4 步的实操做法：拿一台具体卡型（比如 8 卡 H200 整机，月租 5 万至 6.6 万元；或 B200 云端按需约 5.98 至 8.60 美元/卡时），用你实测的吞吐（token/s）换算出月产出 token 总数，再除以月成本，得到自建的每百万 token 成本。这个数字必须用你自己的实测吞吐，不能用厂商标称峰值。

五、Q4 选型清单​

• 默认档：把 DeepSeek V4 Flash 或 Qwen3.8 Flash 作为新功能的第一落点，前者综合性价比最优，后者输入最省。
• 离线档：批处理、评测、数据清洗全部挪到离峰窗口，并接缓存，DeepSeek V4 Flash 缓存命中输入低至 0.007 美元/百万。
• 旗舰档：只在具体任务被证明需要时升级。GPT-5.6 Luna 被称为「旗舰 90% 质量、2% 价格」的位置，Claude Opus 5 与 GPT-5.6 Sol 的差价买的是能力上限而非平均表现。
• 自建评估档：月 token 量稳定在 5 亿以上、且负载 7×24 有基线，才启动自建建模。
• 预算纪律：所有促销价按到期后的价格做全年预算，把峰值定价按峰段价做压测。

一句话总结：2026 年 Q4 的 token 成本优化，重点已经从「找便宜的模型」转向「选对计量口径」——缓存、峰谷、重试率、促销到期日，这四项加起来的量级远超模型之间的价差。

2026 年，"本地跑大模型"从极客玩具变成了正经生产力工具：128GB 统一内存进入万元级笔记本，192GB 桌面平台宣称能装下 300B 模型，748GB 的 DGX Station 把数据中心级算力搬上了办公桌。

一、按需求分档​

选型的第一步是诚实评估自己的需求档位：

• 轻量本地推理：跑 7B–35B 量化模型做日常问答、写作辅助，16–32GB 内存即可，任何 Copilot+ PC 都够用。
• 严肃 Agent 开发：本地跑 70B–120B 模型、多 Agent 并行调试、数据不出本机的隐私场景，需要 96GB 以上可分配显存。
• 创作者：Stable Diffusion 出图、视频剪辑 + AI 加速、本地语音转写，看重 GPU 性能与软件适配。
• 桌面训练超算：微调大模型、跑严肃的 Agent 集群实验，需要 TB 级统一内存与数据中心级带宽。

二、核心产品对比表​

产品	芯片	统一内存	内存带宽	AI 算力	价格	形态
NVIDIA RTX Spark	20 核 Arm + 6,144 CUDA（Blackwell）	128GB LPDDR5X	300 GB/s	1 PFLOPS（FP4 稀疏，官方口径）	未公布（2026 秋上市）	笔记本 / 紧凑桌面
AMD Gorgon Halo 平台（Ryzen AI Max Pro 495）	16 核 Zen 5 + RDNA 3.5	最高 192GB（VGM 可分配 160GB）	约 272 GB/s	未公布	未公布	旗舰 APU，Pro 495/490/485 三 SKU
AMD Ryzen AI Max+ 395	16 核 Zen 5 + 40CU + NPU 50 TOPS	128GB（96GB 可作 VRAM）	256 GB/s	合计 126 TOPS	笔记本 $1,499–2,499	笔记本 / 迷你主机
NVIDIA DGX Spark	GB10 Grace Blackwell	64GB（可用于模型约 56GB）	273 GB/s	—	$4,999（2026-10-23 上市）	桌面
NVIDIA DGX Station for Windows	GB300	748GB（252GB HBM3e + 496GB LPDDR5X）	7.1 TB/s（GPU）	20 PFLOPS（FP4）	未公布（2026 Q4）	桌面超算
Apple MacBook Pro（M4 Max）	16 核 CPU + 40 核 GPU	128GB	546 GB/s	—	随 Mac 配置	笔记本

三、统一内存容量 vs 带宽：真实体验的差异​

统一内存架构下，容量和带宽管的是两件完全不同的事：

• 容量决定"能不能跑"。70B 模型 4bit 量化约需 40GB+，这解释了为什么 96GB 可分配 VRAM 的 Ryzen AI Max+ 395 能完整装下 70B（Q4）而 48GB 的 M4 Pro 要靠 swap、实测只有约 2 tok/s；192GB 的 Gorgon Halo 平台宣称可本地运行 300B 模型，160GB VGM 单机离线跑 1000 亿参数级模型是 Pro 495 的核心卖点。
• 带宽决定"跑多快"。Decode 阶段每个 token 都要把权重读一遍，带宽几乎线性决定生成速度。同样是 128GB：M4 Max 的 546 GB/s 对比 Ryzen AI Max+ 395 的 256 GB/s，LLM 生成速度差距可以直接从带宽比例预估——395 跑 70B Q4 实测约 5 tok/s，属于"能用但不快"的水平。
• ** 两台 DGX Spark 可通过 ConnectX-7 直连把内存池化到 128GB，模型上限提升至 2000 亿参数级，双机跑 Qwen3.8 27B 较单台 128GB 系统峰值最高提升 70%**——这是"容量不够、机器来凑"的官方示范。

一句话经验：容量买"资格"，带宽买"体验"。预算有限先保容量门槛，再在同级里挑带宽。

四、x86 vs Arm：兼容性权衡​

RTX Spark 与 Gorgon Halo 的对决，本质是 Arm 与 x86 两条路线的对决：

• RTX Spark（Arm）：优势在 CUDA——6,144 个 Blackwell CUDA 核心原生兼容整个 NVIDIA 软件栈，本地跑 PyTorch、vLLM、Ollama 零适配成本；代价是 Windows 生态绕不开微软 Prism 模拟层运行部分 x86 应用，功耗损失与兼容性问题依然存在。
• Ryzen AI Max Pro 495（x86）：原生 Windows + Linux 直接运行、无模拟层，这是 AMD 对标 RTX Spark 时反复强调的卖点；GPU 侧走 ROCm / DirectML / ONNX Runtime 路线，AI 软件生态成熟度不及 CUDA，llama.cpp、Vulkan 后端等社区方案补位。
• Mac：原生生态最封闭也最省心，MLX 与 Core ML 体验完整，但 CUDA 专属工具链（多数研究代码、部分训练框架特性）无法使用。

选型建议：深度学习研究者和 CUDA 生态重度用户等 RTX Spark；Windows 企业环境、x86 软件依赖重的选 Gorgon Halo / Pro 495；全苹果生态的创作与轻推理用户留在 Mac。

五、价格与供货风险​

• 内存涨价正在挤压这一档位：DGX Spark 128GB 创始版价格上调至 $6,950（官方归因于 AI 内存紧缺），而 64GB 版维持 $4,999。DRAM 价格处于 15 年新高，大内存配额紧张可能让 192GB 级产品首发溢价，刚需建议早锁货。
• 首发参考价：微软 Surface Laptop Ultra $2,599 起（官方宣称 AI 任务速度达 Mac 的 2 倍、视频处理 6 倍）；联想 YOGA Pro 15（RTX Spark）80W 功耗、约 1.75kg，天禧 AI 支持 35B 本地模型，参照价 16,999 元档。
• DGX Station 等等再看：748GB 统一内存 + 20 PFLOPS FP4 的桌面超算 2026 Q4 上市，定价未公布——考虑到其 GB300 血统，预计不会便宜，但它可能是唯一能单机微调千亿级模型的桌面方案。

六、分人群推荐​

• 轻量本地推理 / 学生：Ryzen AI Max+ 395 笔记本（$1,499 起），96GB VRAM 的容量优势同价位无解。
• 严肃 Agent 开发：DGX Spark $4,999 入门，双机池化到 128GB 覆盖 2000 亿参数级实验；CUDA 生态原生。
• 创作者：Mac（M4 Max 带宽高、创作软件适配好）或等 RTX Spark（Adobe 全家桶 100% GPU 加速是 NVIDIA 官方合作项）。
• 桌面训练超算 / 企业工作站：预算充足等 DGX Station for Windows；预算敏感选 Ryzen AI Max Pro 495（192GB）+ Linux，先把 100B 级推理与 LoRA 微调跑起来。

小结​

2026 年的 AI PC 市场第一次出现了完整的四档产品线：万元级 128GB 笔记本、$4,999 的 DGX Spark、192GB 的 x86 旗舰平台和 748GB 的桌面超算。选购逻辑可以浓缩为一句话：先用模型规模定容量门槛，再用体验预期挑带宽，然后按软件生态选 x86 / Arm / Mac 路线，最后在 DRAM 涨价周期里尽早锁定配额。各芯片的完整规格请查阅站内对应芯片卡页面与完整对比表。

GB200 NVL72 这类整机柜方案只提供液冷版本，液冷已从"技术选型题"变成"工程落地题"。但冷板与浸没式不是简单的技术优劣之分，而是两个完全不同的投资模型与运维模型。本文聚焦改造成本，帮你把预算花在正确的地方。

两条路线的本质区别​

冷板式（Direct-to-Chip）通过金属冷板贴合 GPU、CPU 等发热芯片，冷却液在板内微通道流动带走热量，大约能拦截整柜热量的七到九成，剩余部分仍需风冷兜底。浸没式则把整台服务器浸泡在介电液体中，热量几乎全部由液体带走，单相浸没制冷能力超过每柜 100kW，两相方案可达 200kW 以上；而冷板单相方案的典型上限在每柜 60 至 100kW。

风冷的安全上限业界普遍认为在每柜 25 至 40kW。这意味着：如果改造目标只是把 8kW 老机房升级到 20kW 跑 H100，冷板甚至后门热交换器可能都非必需；但只要目标机柜是 GB200 级别，冷板就是入场券，浸没式则属于"为下一代密度提前买单"。

一张改造成本对照表​

对比项	冷板式液冷	浸没式液冷
单柜制冷能力	约 60 至 100kW	单相超过 100kW，两相可达 200kW 以上
典型 PUE	1.1 至 1.2	可低至 1.05 及以下
初期投资	中等，约为浸没式的三至五成	高，单柜约为冷板式的 2 至 3 倍
核心成本部件	冷板占 40 至 45%，CDU 占 30 至 35%，快接头占 15 至 20%	介电冷却液占 30% 以上，液冷槽与 CDU 次之
改造难度	中等：加装 CDU、机柜管路与歧管	高：需专用浸没槽、承重加固与地板重构
与现有服务器兼容性	好，标准机型即可	差，需浸没专用机型或去风扇改造
运维复杂点	漏液检测、快接头插拔纪律、水质管理	冷却液黏度与材料兼容性、维护取放流程
适用场景	GB200 级新建与存量改造主流	超高密度新建、比特币转型 IDC、极低 PUE 硬指标

几个来自公开测算的锚点数字：GB200 NVL72 一柜的液冷部件价值约 9.9 万美元，其中 CDU 约 3 万美元、冷却歧管与快接头各约 1.2 万美元，冷板与 CDU 合计占方案价值约四分之三；而一套 100kW 级单相浸没系统的价值测算区间约在 9 万至 18 万美元，且冷却液本身是持续消耗品。机房整体改造方面，业界经验值是每兆瓦 400 万至 800 万美元（不含 IT 硬件），周期可长达一年半。

运维视角：钱不只是花在建的时候​

冷板路线的最大隐性成本在漏液与插拔纪律。快接头每次插拔都是风险窗口，冷板属于精密 consumable，多次维护后需要更换；CDU 的水质与滤芯管理要纳入例行巡检。浸没式则把复杂度转移到了"拿进拿出"：任何一次维护都要整板吊出、滴液、清洁，工时远高于冷板，但对管路漏液的天然免疫是它的独特优势。

另一个常被忽视的差异是资产流动性：冷板服务器仍是标准形态，可以转售、搬迁、回风冷机房；浸没式服务器与槽体、冷却液深度绑定，二手流通性差。做五年 TCO 测算时，这块残值差异不能忽略。

写在最后​

选型建议按三步走：第一，先定功率密度目标再定技术路线，每柜 30kW 以内优先考虑风冷加后门改造，60 至 100kW 选冷板，120kW 以上或对 PUE 有硬性红线再评估浸没式；第二，测算 TCO 时把快接头耗材、冷却液补充、维护工时和设备残值全部纳入，不要只比建设报价；第三，无论哪条路线，先建漏液告警与应急预案再上电。液冷没有回头路，第一步的工程决策值千金。

"代码在同事机器上能跑，到我这报 CUDA driver version is insufficient"——这类事故几乎都源于对版本兼容规则的一知半解。搞清三件事：驱动决定上限、工具包要求下限、次版本兼容有例外。

先分清三个版本号​

很多混乱来自三个"CUDA 版本"的混淆。nvidia-smi 右上角显示的 CUDA Version 是当前驱动最高支持的 CUDA 版本；nvcc --version 显示的是编译工具链的版本；PyTorch 里 torch.version.cuda 显示的是该轮子编译时链接的运行时版本。三者不一致本身不是错误，只有当驱动版本低于运行时所需的最低驱动时才会初始化失败。

最低驱动要求矩阵​

CUDA 工具包	Linux 最低驱动	备注
CUDA 11.x	450.36.06 以上	Kepler 之后架构，11.8 新增 Hopper
CUDA 12.x	525.60.13 以上	Blackwell 完整支持自 12.8 起
CUDA 13.x	580.65.06 以上	Pascal/Maxwell/Volta 支持止步于 R580 驱动

驱动对旧工具包是向后兼容的：新驱动永远能跑旧 CUDA 编译的程序，所以"升级驱动不升级工具包"是安全的，反过来才要小心。同时注意架构生命周期：Blackwell（算力 10.0）从 CUDA 12.0 开始支持并在 12.8 完善到位；而 Pascal、Volta、Maxwell 的支持在 CUDA 12.x 止步，对应 R580 是它们的最后驱动分支。

次版本兼容的三个例外​

从 CUDA 11 起，同一大版本族内的应用只需满足最低驱动即可运行，这就是次版本兼容（Minor Version Compatibility）：用 CUDA 12.9 编译的程序，可以跑在只装了 CUDA 12.0 最低驱动（525 系列）的机器上。但有三个例外会让它翻车：

1. 用到新驱动才有的特性：应用会返回 cudaErrorCallRequiresNewerDriver，解决办法只能是升级驱动。
2. 依赖 PTX 运行时编译：驱动里不带对应架构的 PTX JIT 支持时程序无法运行，老驱动加新架构尤其危险。
3. 编译时未显式指定目标架构：次版本兼容要求给 nvcc 传 -arch=sm_xx 这类显式参数，不能依赖默认值。

实操建议​

装机的标准动作是先定工具包再定驱动：查清目标框架（PyTorch、TensorRT 等）要求的 CUDA 大版本，再按下表选不低于最低值的驱动，并优先使用框架官方 NGC 容器镜像，把宿主机驱动作为唯一需要管理的版本变量。排障时按顺序自查：nvidia-smi 能否执行（驱动层）、torch.cuda.is_available() 是否为真（运行时层）、报错码是否指向特性缺失（兼容层）。集群里多代显卡混布时，务必以最老那张卡的架构决定编译时的 -arch 参数，只按 H100 编译的轮子在 A10 上大概率直接报 no kernel image available。

国产替代不是"把英伟达换成国产卡"一句话能概括的决策。合规压力、负载类型、迁移成本、供货确定性、预算五个维度都要过一遍，本文用站内芯片卡数据把每一步落到具体型号上。

一、替代决策五问​

动手选型前，先回答五个问题：

1. 合规要求：是政策强制的信创场景（政府、国企、金融），还是成本驱动的自愿替代？前者看《安全可靠测评》等资质，后者看性价比。
2. 负载类型：训练还是推理？Prefill 还是 Decode？不同负载的答案完全不同——昇腾 950PR 是推理 Prefill 卡，拿它做 FP16 密集训练就是选型错误（站内卡明确提示：FP16 训练应选 910C，其 800 TFLOPS 对 950 系列的 486–547 TFLOPS 保持领先）。
3. 生态迁移成本：现有 CUDA 代码库有多少算子依赖？团队有没有非 NVIDIA 平台经验？迁移成本有时比卡价更高。
4. 供货确定性：产能爬坡与 HBM 供应决定交付周期，头部型号已经在涨价排队。
5. 预算口径：国产卡价格已从"替代品折价"转向"供给稀缺溢价"，预算要按动态报价做。

二、国产主要选项对比​

以下数据全部取自本站芯片卡：

型号	架构	FP16/BF16 算力	低精度	显存 / 带宽	互联	软件栈	参考价
昇腾 910C	Da Vinci 双芯	BF16 800 TFLOPS	不支持 FP8/FP4	128GB HBM2e / 3.2 TB/s	HCCS 784 GB/s + UB 392 GB/s	CANN	渠道价超 ¥11 万
昇腾 950DT	Da Vinci v5	BF16 547 TFLOPS	FP8 1,034 TFLOPS、FP4 2,007 TFLOPS	144GB 自研 HiZQ 2.0 / 4 TB/s	灵衢 2 TB/s	CANN Next	渠道指示价超 ¥25 万
寒武纪 思元690	MLUarch 双 die	FP16 700+ TFLOPS	INT4 2,800+ TOPS	196GB HBM3 / 3.35 TB/s	MLU-Link 890 Gbps	NeuWare	约 ¥17.5 万
摩尔线程 MTT S5000	MUSA 平湖（第四代）	BF16/FP16 400 TFLOPS	FP8 稠密 1,000 TFLOPS	80GB / 1.6 TB/s	MTLink 784 GB/s	MUSA / MUSIFY	官方指导价 ¥5.5 万
天数智芯 天垓150	ivcore11	FP16 192 TFLOPS	INT8 384 TOPS	64GB HBM2e / 1.2 TB/s	PCIe 4.0	IXUCA	未公开
燧原 云燧T21	邃思2.0	FP16 未公开	TF32 160 TFLOPS	HBM2E（容量未公开）	自研多卡互联	燧原智算软件栈	约 ¥7 万

怎么读这张表：训练优先看昇腾 910C/950DT 与思元690（FP16 算力与显存容量领先，且都有千卡/超节点级方案——思元690 已落地 256 卡超节点，950DT 的 Atlas 950 SuperPoD 1024 卡版本已在 WAIC 2026 真机展示）；FP8 推理看 MTT S5000（FP8 稠密 1,000 TFLOPS 是国产卡中的亮点，且已通过《安全可靠测评》2026 年第 2 号）；视频与低功耗推理看昆仑芯 R200（150W、INT8 256 TOPS、108 路视频解码）；信创训练集群可评估云燧T21（OAM 标准模组，8000+ 卡集群已验证）。

三、软件栈迁移成本评估​

迁移成本是国产替代里最容易低估的一项，各家生态进展差距明显：

• CANN（华为）：进展最快。CANN Next 提供 CUDA 兼容层，约 80% 的标准 PyTorch 推理代码仅需配置修改；2026 年 10 月 DeepSeek 与华为联合发布面向昇腾 950 的开源编程工具与库。生态拐点已现——站内昇腾 960 卡口径显示，CANN 外部开发者占比升至 61%，首次超越内部团队，月活跃开发者突破 5,200 人；PyTorch 官网也已将昇腾收录为中国算力平台。
• NeuWare（寒武纪）：云边端统一一套代码是国内独一份，PyTorch/TensorFlow 适配版齐全，MagicMind 是全球首批商用 MLIR 图编译推理框架；短板在千卡以上分布式训练的工程成熟度，单机 8 卡与百卡小集群表现优异。
• MUSIFY（摩尔线程）：算子覆盖率约 70%–80%（CUDA 为 99%+），复杂 LLM 需手工优化，但 Day-0 适配能力快速进步——2026 年 6–7 月连续完成 MiniMax M3、智谱 GLM-5.2、Qwen3.5 和美团万亿参数 LongCat-2.0 的适配。
• IXUCA（天数智芯）：高度兼容 CUDA 生态，官方口径迁移时间下降 50% 以上，已适配 200+ 模型，覆盖 LLM、CV、NLP、语音等领域。

四、供货现实与价格走势​

供需关系是当前国产算力市场的第一现实：

• 需求侧：华为副董事长徐直军在 HC2026 访谈中的表态是"能产多少供多少"——需求远未见顶，第一约束已从市场转移到产能。
• 产能侧：站内 950DT 卡引用的行业口径显示，中芯国际产能可支撑年产超 100 万颗昇腾芯片，但国产 HBM 产能仅够约 25 万–30 万颗成品加速器，缺口约六成——瓶颈在 HBM 而非逻辑制程。
• 价格侧：HBM 成本攀升推高全线上调——950DT 渠道指示价超 ¥25 万（较两个月前 +20%–50%，Bloomberg 称三个月涨约 60%，已对标 B200）、950PR 突破 ¥8 万（+30%）、910C 超 ¥11 万（+22%）、寒武纪 690 等同期上调 20%–30%。预算必须按动态报价做，且注意以上均为渠道指示价，实际成交随采购规模与捆绑条件浮动。

五、混合部署策略与风险清单​

务实的企业路径是混合部署：NVIDIA 存量卡继续承担成熟训练负载与 CUDA 专有工作负载，国产卡承接增量需求——通常从推理切入（生态迁移成本最低），训练负载在 CANN/MUSA 成熟度验证后逐步迁移。昇腾 910C 集群已验证万亿参数大模型全参数后训练能力（站内卡记载的 DeepSeek V4 Pro 案例），训练迁移的技术可行性正在快速提高。

同时把风险清单贴在采购文档里：

1. 生态风险：算子覆盖不全导致的性能回退与排期延误，先做 POC 再批量采购。
2. 价格风险：涨价周期中锁价窗口短暂，长单尽量锁量锁价。
3. 供货风险：HBM 约束短期无解，关键项目准备备选型号。
4. 人才风险：非 CUDA 平台的工程师储备需要提前 6–12 个月建设。
5. 残值风险：国产卡二手市场流动性弱于 NVIDIA，折旧年限要单独评估。

小结​

国产替代选型的正确姿势是：用五问框架定位自己的真实约束，按负载类型从对比表里筛型号（训练看昇腾与思元690、FP8 推理看 MTT S5000、低功耗视频看昆仑芯），把软件迁移成本算进总预算，在涨价与供货的现实下混合部署、增量替换。更多型号的全字段对比见站内完整对比表，各卡详细规格请进入对应芯片卡页面。

边缘 AI 的选型逻辑与数据中心完全相反：不看峰值算力，看瓦数、体积、温度与断电恢复。2026 年的边缘盒子市场已经足够成熟，从 15W 到 1000W 都有对应产品，关键是把场景需求映射到正确的梯队。

一、四个梯队的产品地图​

梯队一：NPU 微型机（100 至 500 美元）。 代表是 Jetson Orin Nano Super（约 249 至 499 美元，40 TOPS，7 至 15W）和各类 RK3588 方案（约 6 TOPS NPU，千元人民币以内）。适合跑 3B 以下量化模型、单路至四路视频结构化、轻量目标检测。Orin Nano 能在 4-bit 下运行 7B 模型（约 3.5GB 权重），但带宽所限生成速度仅够"能用"而非"流畅"。

梯队二：性能边缘主机（600 至 2,000 美元）。 Jetson Orin NX（100 TOPS，16GB，约 699 美元）与 AGX Orin（275 TOPS，64GB 统一内存，约 1,999 美元）。AGX Orin 的 64GB 统一内存是亮点：可以容纳 70B 模型的 4-bit 权重加 32K 上下文的 KV cache，是"盒子跑大模型"的实用上限。

梯队三：桌面 GPU 小主机（2,000 至 5,000 美元）。 RTX 5090（32GB，约 900 TOPS INT8，约 2,000 美元）装入准系统，功耗 450W 起。适合需要 30B 级模型 FP16 推理或多路视频流的边缘机房、门店服务器机柜场景。

梯队四：国产工控级（1 万至 5 万元人民币）。 昇腾 Atlas 500 系列智能小站、Atlas 300I Duo 卡加工控机箱的组合，以及算能 BM1684X 方案（约 32 TOPS INT8，功耗典型 25W 左右）。国产方案在政企、电网、交通等有信创要求的场景几乎是默认选项。

场景	关键约束	推荐方案	预算区间	理由
零售门店客流分析	静音、低功耗、断电恢复	Orin Nano 或 RK3588 盒子	1,000 至 4,000 元	检测模型 4 TOPS 内即可，15W 长期运行
工厂单产线质检	环境温度、防尘	AGX Orin 或 Atlas 500	1.5 万至 4 万元	275 TOPS 余量与工业级宽温认证
园区多路视频结构化	并发路数	Atlas 500 加 300I Duo 或 5090 小主机	2 万至 8 万元	单盒承载 16 至 64 路视频流
车载与移动设备	抗震、宽温、体积	Orin NX 加定制外壳	1 万至 2 万元	35W 功耗与成熟供应链
离网大模型问答	显存上限	AGX Orin 64GB	约 1.5 万元	70B Q4 是盒子级上限
信创/政企部署	国产化合规	Atlas 系列、BM1684X	1 万至 5 万元	满足国产化验收要求

二、三个容易忽视的选型维度​

第一是功耗墙。 边缘部署常常没有机房条件，Orin Nano 15W 与 5090 主机 500W 是两个世界：后者需要独立空调甚至专线电路。选型前先确认部署点的供电上限，这往往比预算更早淘汰方案。

第二是软件栈锁定。 Jetson 绑 CUDA 生态、BM1684X 用自家 SDK、昇腾用 CANN。模型迁移成本远高于硬件差价——如果你的检测模型基于 PyTorch 加 TensorRT 训练管线，迁到非 NVIDIA 平台通常要 2 至 6 周的适配工作。新项目建议在立项时就锁定平台。

第三是远程运维能力。 边缘盒子散布在几十个网点后，OTA 升级、远程日志、异常重启是真正的运营成本。采购时确认厂商是否提供设备管理平台（NVIDIA 有 Allxon 等方案，昇腾有 Atlas 管理套件），自建运维队伍的隐性成本常被低估。

三、结尾建议​

边缘 AI 盒子的选型公式可以概括为：算力需求（TOPS）决定梯队，环境约束决定形态，合规要求决定品牌。 90% 的边缘视觉场景，一台 Orin Nano 或 RK3588 就够，别为"可能用得上的大模型"买 AGX Orin；真要跑大模型，先算清楚 70B Q4 加 KV cache 的显存账，再决定是盒子加量化还是退一步用边缘小服务器。采购前务必拿真实业务视频流做两周实测——边缘场景的光照、角度、遮挡差异，会让实验室里 99% 准确率的模型在现场跌到 85%，这个差距要靠数据回灌和模型迭代补，而不是靠换更贵的盒子。

2026 年的数据中心里，Hopper 一代与 Blackwell 一代正在同柜共存。买 H100 还是 H200，上不上 B200，不再只是"买新不买旧"的问题，而是一道涉及电价、液冷改造和 token 成本的核算题。

三张规格表：看清代际差异在哪​

从 H100 到 H200，提升几乎全部来自内存子系统；从 H200 到 B200，则是一次架构层面的全面换代：新 Tensor Core、双 Die 封装、FP4 精度、NVLink 带宽翻倍。三款芯片的关键规格如下（Tensor 数据均为稀疏口径，稠密值减半）：

规格	H100 SXM	H200 SXM	B200
架构	Hopper	Hopper	Blackwell（双 Die）
显存	80GB HBM3	141GB HBM3e	192GB HBM3e（软件可见约 180GB）
显存带宽	3.35TB/s	4.8TB/s	8TB/s
BF16 Tensor	1,979 TFLOPS	1,979 TFLOPS	约 2,250 TFLOPS
FP8 Tensor	3,958 TFLOPS	3,958 TFLOPS	约 4,500 TFLOPS
FP4 Tensor	不支持	不支持	约 20,000 TFLOPS
最大 TDP	700W	700W	1,000W
NVLink	900GB/s（第 4 代）	900GB/s（第 4 代）	1.8TB/s（第 5 代）

三点值得展开。第一，H100 与 H200 算力相同，H200 的收益完全由显存兑现：MLPerf 上 Llama 2 70B 推理吞吐接近 2 倍，训练实测提速通常在 1.1 至 1.4 倍之间，且越依赖大 batch、大上下文收益越明显。第二，B200 的 FP4 峰值是 Hopper 的约 5 倍，这是为推理时代设计的精度档位；跑传统 FP16/FP8 训练时，代际差距收窄到约 1.3 至 2.3 倍。第三，B200 的 1.8TB/s NVLink 与 1,000W 功耗，让它事实上被锁定在 HGX/DGX 的 SXM 体系里，几乎没有 PCIe 版本。

整机采购：价格与基础设施门槛​

据公开报道与市场行情，8 卡整机的大致采购区间如下：

整机（8 卡）	参考价格区间	供电与散热	适配场景
HGX H100	20 万至 30 万美元	风冷为主	训练微调通吃，生态最成熟
HGX H200	约 26 万美元起	风冷为主	70B 级推理与训练，长上下文
HGX B200	25 万至 40 万美元	部分机型需要液冷或混合散热	FP4 推理、大规模微调

基础设施是隐性成本。B200 整机功耗接近 10kW 级，对机柜供电密度提出要求；而更上层的 GB200 NVL72 则强制液冷，风冷机房改造动辄每兆瓦数百万美元。反过来，H100/H200 的风冷兼容性成为存量机房升级路径上最平滑的一步。云租赁价格也在同步下沉：H200 实例价格已明显低于发布初期，B200 实例则在各大云上快速铺开。

分场景采购建议​

大规模训练：优先 B200。NVLink 带宽翻倍直接影响张量并行与专家并行的通信效率，FP8 与 FP4 的混合精度路径也更完整。预算受限或机型紧张时，H200 训练 70B 级模型依然够用。

生产推理：这是 H200 的主场。单卡 141GB 装下 70B 模型免并行，每百万 token 成本往往低于 B200；除非你的业务跑在 FP4 量化模型或超长上下文上，B200 的算力溢价才会真正兑现。

微调与中小模型：H100 的性价比此时最高。模型装得进 80GB 时，H200 的多余显存帮不上忙，为带宽多付的钱买不到对应收益。

小结​

三代芯片的关系不是替换，而是分层：H100 是性价比与生态底座，H200 是推理性价比的甜点，B200 是 FP4 时代的算力上限。2026 年采购的正确姿势是先问三个问题——模型多大、机房能供多少电、预算按 token 还是按整机核算——答案自然会把你引向其中一张规格表。