Skip to main content

三代同堂:H100、H200、B200 采购对比与代际提升

· 4 min read
Industry Research Team

2026 年的数据中心里,Hopper 一代与 Blackwell 一代正在同柜共存。买 H100 还是 H200,上不上 B200,不再只是"买新不买旧"的问题,而是一道涉及电价、液冷改造和 token 成本的核算题。

三张规格表:看清代际差异在哪​

从 H100 到 H200,提升几乎全部来自内存子系统;从 H200 到 B200,则是一次架构层面的全面换代:新 Tensor Core、双 Die 封装、FP4 精度、NVLink 带宽翻倍。三款芯片的关键规格如下(Tensor 数据均为稀疏口径,稠密值减半):

规格H100 SXMH200 SXMB200
架构HopperHopperBlackwell(双 Die)
显存80GB HBM3141GB HBM3e192GB HBM3e(软件可见约 180GB)
显存带宽3.35TB/s4.8TB/s8TB/s
BF16 Tensor1,979 TFLOPS1,979 TFLOPS约 2,250 TFLOPS
FP8 Tensor3,958 TFLOPS3,958 TFLOPS约 4,500 TFLOPS
FP4 Tensor不支持不支持约 20,000 TFLOPS
最大 TDP700W700W1,000W
NVLink900GB/s(第 4 代)900GB/s(第 4 代)1.8TB/s(第 5 代)

三点值得展开。第一,H100 与 H200 算力相同,H200 的收益完全由显存兑现:MLPerf 上 Llama 2 70B 推理吞吐接近 2 倍,训练实测提速通常在 1.1 至 1.4 倍之间,且越依赖大 batch、大上下文收益越明显。第二,B200 的 FP4 峰值是 Hopper 的约 5 倍,这是为推理时代设计的精度档位;跑传统 FP16/FP8 训练时,代际差距收窄到约 1.3 至 2.3 倍。第三,B200 的 1.8TB/s NVLink 与 1,000W 功耗,让它事实上被锁定在 HGX/DGX 的 SXM 体系里,几乎没有 PCIe 版本。

整机采购:价格与基础设施门槛​

据公开报道与市场行情,8 卡整机的大致采购区间如下:

整机(8 卡)参考价格区间供电与散热适配场景
HGX H10020 万至 30 万美元风冷为主训练微调通吃,生态最成熟
HGX H200约 26 万美元起风冷为主70B 级推理与训练,长上下文
HGX B20025 万至 40 万美元部分机型需要液冷或混合散热FP4 推理、大规模微调

基础设施是隐性成本。B200 整机功耗接近 10kW 级,对机柜供电密度提出要求;而更上层的 GB200 NVL72 则强制液冷,风冷机房改造动辄每兆瓦数百万美元。反过来,H100/H200 的风冷兼容性成为存量机房升级路径上最平滑的一步。云租赁价格也在同步下沉:H200 实例价格已明显低于发布初期,B200 实例则在各大云上快速铺开。

分场景采购建议​

大规模训练:优先 B200。NVLink 带宽翻倍直接影响张量并行与专家并行的通信效率,FP8 与 FP4 的混合精度路径也更完整。预算受限或机型紧张时,H200 训练 70B 级模型依然够用。

生产推理:这是 H200 的主场。单卡 141GB 装下 70B 模型免并行,每百万 token 成本往往低于 B200;除非你的业务跑在 FP4 量化模型或超长上下文上,B200 的算力溢价才会真正兑现。

微调与中小模型:H100 的性价比此时最高。模型装得进 80GB 时,H200 的多余显存帮不上忙,为带宽多付的钱买不到对应收益。

小结​

三代芯片的关系不是替换,而是分层:H100 是性价比与生态底座,H200 是推理性价比的甜点,B200 是 FP4 时代的算力上限。2026 年采购的正确姿势是先问三个问题——模型多大、机房能供多少电、预算按 token 还是按整机核算——答案自然会把你引向其中一张规格表。