三代同堂:H100、H200、B200 采购对比与代际提升
2026 年的数据中心里,Hopper 一代与 Blackwell 一代正在同柜共存。买 H100 还是 H200,上不上 B200,不再只是"买新不买旧"的问题,而是一道涉及电价、液冷改造和 token 成本的核算题。
三张规格表:看清代际差异在哪
从 H100 到 H200,提升几乎全部来自内存子系统;从 H200 到 B200,则是一次架构层面的全面换代:新 Tensor Core、双 Die 封装、FP4 精度、NVLink 带宽翻倍。三款芯片的关键规格如下(Tensor 数据均为稀疏口径,稠密值减半):
| 规格 | H100 SXM | H200 SXM | B200 |
|---|---|---|---|
| 架构 | Hopper | Hopper | Blackwell(双 Die) |
| 显存 | 80GB HBM3 | 141GB HBM3e | 192GB HBM3e(软件可见约 180GB) |
| 显存带宽 | 3.35TB/s | 4.8TB/s | 8TB/s |
| BF16 Tensor | 1,979 TFLOPS | 1,979 TFLOPS | 约 2,250 TFLOPS |
| FP8 Tensor | 3,958 TFLOPS | 3,958 TFLOPS | 约 4,500 TFLOPS |
| FP4 Tensor | 不支持 | 不支持 | 约 20,000 TFLOPS |
| 最大 TDP | 700W | 700W | 1,000W |
| NVLink | 900GB/s(第 4 代) | 900GB/s(第 4 代) | 1.8TB/s(第 5 代) |
三点值得展开。第一,H100 与 H200 算力相同,H200 的收益完全由显存兑现:MLPerf 上 Llama 2 70B 推理吞吐接近 2 倍,训练实测提速通常在 1.1 至 1.4 倍之间,且越依赖大 batch、大上下文收益越明显。第二,B200 的 FP4 峰值是 Hopper 的约 5 倍,这是为推理时代设计的精度档位;跑传统 FP16/FP8 训练时,代际差距收窄到约 1.3 至 2.3 倍。第三,B200 的 1.8TB/s NVLink 与 1,000W 功耗,让它事实上被锁定在 HGX/DGX 的 SXM 体系里,几乎没有 PCIe 版本。
整机采购:价格与基础设施门槛
据公开报道与市场行情,8 卡整机的大致采购区间如下:
| 整机(8 卡) | 参考价格区间 | 供电与散热 | 适配场景 |
|---|---|---|---|
| HGX H100 | 20 万至 30 万美元 | 风冷为主 | 训练微调通吃,生态最成熟 |
| HGX H200 | 约 26 万美元起 | 风冷为主 | 70B 级推理与训练,长上下文 |
| HGX B200 | 25 万至 40 万美元 | 部分机型需要液冷或混合散热 | FP4 推理、大规模微调 |
基础设施是隐性成本。B200 整机功耗接近 10kW 级,对机柜供电密度提出要求;而更上层的 GB200 NVL72 则强制液冷,风冷机房改造动辄每兆瓦数百万美元。反过来,H100/H200 的风冷兼容性成为存量机房升级路径上最平滑的一步。云租赁价格也在同步下沉:H200 实例价格已明显低于发布初期,B200 实例则在各大云上快速铺开。
分场景采购建议
大规模训练:优先 B200。NVLink 带宽翻倍直接影响张量并行与专家并行的通信效率,FP8 与 FP4 的混合精度路径也更完整。预算受限或机型紧张时,H200 训练 70B 级模型依然够用。
生产推理:这是 H200 的主场。单卡 141GB 装下 70B 模型免并行,每百万 token 成本往往低于 B200;除非你的业务跑在 FP4 量化模型或超长上下文上,B200 的算力溢价才会真正兑现。
微调与中小模型:H100 的性价比此时最高。模型装得进 80GB 时,H200 的多余显存帮不上忙,为带宽多付的钱买不到对应收益。
小结
三代芯片的关系不是替换,而是分层:H100 是性价比与生态底座,H200 是推理性价比的甜点,B200 是 FP4 时代的算力上限。2026 年采购的正确姿势是先问三个问题——模型多大、机房能供多少电、预算按 token 还是按整机核算——答案自然会把你引向其中一张规格表。