NVIDIA H200 深度解析:141GB HBM3e 的长青主力与它在中国市场的曲折命运
在 Blackwell 与 Rubin 接连发布的 2026 年,一颗 2024 年发布的 Hopper 芯片依然是全球推理集群里最常见的面孔。H200 的故事说明了一件事:在 LLM 时代,显存容量与带宽往往比峰值算力更能决定服务器的价值。
H200 到底改了什么:加显存,而不是加算力
H200 是 H100 的"内存增强版",这是理解它的全部起点。两者的 Hopper 架构核心、算力规格几乎一致:BF16 Tensor Core 均为 1,979 TFLOPS(稀疏口径),FP8 Tensor Core 均为 3,958 TFLOPS(稀疏口径)。NVIDIA 没有动计算部分,而是把显存从 80GB HBM3 换成了 141GB HBM3e,带宽从 3.35TB/s 提升到 4.8TB/s——容量约为 1.8 倍,带宽约为 1.4 倍。
这个改动的逻辑直接来自 LLM 推理的物理特性:生成每一个 token 都要把模型权重和 KV Cache 从显存里读一遍,单流解码速度受限于显存带宽而非 TFLOPS;而能装下多大的模型、多大的上下文,则受限于显存容量。H200 在两个维度上同时抬高了上限,于是出现了官方 MLPerf 测试中 Llama 2 70B 推理吞吐接近 2 倍、GPT-3 175B 推理提升约 1.6 倍的成绩。
| 规格 | H100 SXM | H200 SXM | H200 NVL |
|---|---|---|---|
| 显存 | 80GB HBM3 | 141GB HBM3e | 141GB HBM3e |
| 显存带宽 | 3.35TB/s | 4.8TB/s | 4.8TB/s |
| BF16 Tensor(稀疏) | 1,979 TFLOPS | 1,979 TFLOPS | 1,671 TFLOPS |
| FP8 Tensor(稀疏) | 3,958 TFLOPS | 3,958 TFLOPS | 3,341 TFLOPS |
| 最大 TDP | 700W | 700W | 600W |
| NVLink | 900GB/s | 900GB/s | 900GB/s(2 路或 4 路桥接) |
| MIG 切分 | 7 实例 | 7 实例(每实例 18GB) | 7 实例(每实例 16.5GB) |
值得注意的是 H200 NVL 版本:为了适配企业风冷机柜,其功耗上限降到 600W,算力也相应下调,但保留了 141GB 显存与四卡 NVLink 桥接能力,是"风冷机柜跑 70B 模型"的常见方案。
中国市场:从 H20 的遗憾到 H200 的回归
H200 在 2026 年的最大新闻不来自参数表,而来自出口管制。此前中国市场的合规替代品 H20 为了满足出口阈值,保留了大量显存带宽(96GB HBM3、4TB/s 级别)却把算力削到约 148 TFLOPS BF16,"能推理不能训练",被广泛认为是糟糕的替代品。
2025 年 12 月,路透社报道 NVIDIA 计划在春节假期前向中国交付 H200;2026 年 3 月的 GTC 大会上,黄仁勋确认在获得美方出口许可与中方审批后恢复面向中国市场的生产;2026 年 5 月,美国商务部批准了包括阿里巴巴、腾讯、字节跳动、京东等约 10 家中国企业购买 H200,每家获批客户最多可采购 7.5 万颗,联想、富士康等分销及服务器企业也拿到了相关授权。
| 中国市场 SKU | 算力(BF16 稠密口径约值) | 显存 | 定位 |
|---|---|---|---|
| H20 | 约 148 TFLOPS | 96GB HBM3 | 推理合规替代,算力被大幅削减 |
| H200 | 约 990 TFLOPS | 141GB HBM3e | 训练推理兼顾,2026 年恢复供应 |
| B30A(据公开报道) | 未确认 | 传 Blackwell 系裁剪版 | 观察中的下一代中国 SKU |
需要强调的是:H200 返华是"有限放行"而非限制解除,监管框架仍在,政策方向此前已经反转过多次,采购预算不宜单边押注。## 2026 年视角:H200 还值不值得买
在 B300、Rubin 已经铺开的 2026 年,H200 的定位可以概括为"性价比推理底座"。它的优势场景非常明确:其一,单卡装下 70B 级稠密模型或量化后的百亿级模型,免去张量并行的通信开销;其二,对需要 FP64 或成熟 FP8 生态的 HPC 混合负载,Hopper 栈依然最稳;其三,风冷兼容性好,H200 NVL 可直接进入存量企业机柜。
它的劣势同样清楚:相比 B200/B300,FP4 时代的算力代差已经拉开;随着合规渠道打开,二手 H100 价格与亚洲区域租赁价格都在承压回落,采购者应以季度为单位重新询价。按每百万 token 的综合成本测算,H200 通常在"单卡顶替两卡 H100"的场景下胜出;而模型能装进 80GB 且 prefill 占比高的场景,H100 甚至更便宜。
小结
H200 的价值公式是:H100 的算力,加上 1.8 倍显存与 1.4 倍带宽,再乘上一个高度成熟的 CUDA 生态。对以推理为主、追求 TCO 的团队,它在 2026 年仍是稳妥的默认答案;对训练前沿模型或押注 FP4 的 AI 工厂,Blackwell 与 Rubin 才是主线。在中国市场,它则承载了出口管制博弈中最微妙的一章——值得每季度复核一次供应与价格信号。