跳到主要内容

NVIDIA B300 Ultra (Blackwell Ultra)

产品概述​

NVIDIA B300 / B300 Ultra(代号 Miranda / GB300)是 Blackwell 架构的中期升级版本,2026 年上半年规模出货。最大升级是显存从 192GB → 288GB HBM3e,FP4 稀疏算力达 20 PFLOPS(密集 15 PFLOPS),TDP 1,400W(必须液冷)。

专为超大 LLM 推理时代设计 —— 288GB 显存可单卡加载 70B 模型(FP16),剩余 100GB+ 空间用于 KV Cache。相比 B200,密集 FP4 算力提升 1.5 倍(9 → 15 PFLOPS),注意力(softmax)吞吐提升约 2 倍。

核心规格​

项目参数
架构Blackwell Ultra(双die)
制程TSMC 4NP
GPU 芯片2 颗 Blackwell Die(CoWoS-L 封装)
显存288 GB HBM3e(12-Hi 堆叠)
显存带宽8 TB/s
FP4 Tensor Core20 PFLOPS(稀疏)
FP4 Tensor Core(密集)15 PFLOPS
FP8 Tensor Core10 PFLOPS(稀疏)
FP8 Tensor Core(密集)5 PFLOPS
FP16 Tensor Core5 PFLOPS(稀疏;密集 2.5 PFLOPS)
TDP1400 W
NVLink 带宽1.8 TB/s(第 5 代)
PCIeGen 6(首次)
DC 网络ConnectX-8, 800 Gb/s
首发2026 年上半年规模出货

算力口径:官方同时公布密集与稀疏两套数字,本表主值为稀疏,密集值单列。NVIDIA GB300 NVL72 机柜级对应值为 FP4 1,440 PFLOPS(稀疏)/ 1,080 PFLOPS(密集)、FP8 720 PFLOPS、FP16/BF16 360 PFLOPS,均为 72 GPU 合计。

B200 vs B300 Ultra 升级对比​

指标B200B300 Ultra提升
架构BlackwellBlackwell Ultra中期升级
显存192 GB HBM3e288 GB HBM3e+50%
显存带宽8 TB/s8 TB/s持平
FP4 密集10 PFLOPS15 PFLOPS+50%
FP4 稀疏20 PFLOPS20 PFLOPS持平
FP8 密集5 PFLOPS5 PFLOPS持平
TDP1,000 W1,400 W+40%
PCIeGen 5Gen 62×
DC 网络ConnectX-7 (400G)ConnectX-8 (800G)2×
发布2024-Q42026 上半年—

关键:Blackwell Ultra 的增量在密集算力与显存,而非稀疏峰值。 FP4 稀疏值B200 与 B300 相同(20 PFLOPS),真正的提升是密集 FP4 从 10 提升到 15 PFLOPS,以及注意力加速(SFU EX2)吞吐从 5 提升到 10.7 TeraExponentials/s。

H100 / H200 / B300 代际性能​

指标H100H200B300提升
架构HopperHopperBlackwell Ultra—
显存80GB HBM3141GB HBM3e288GB HBM3e3.6×
显存带宽3.35 TB/s4.8 TB/s8 TB/s2.4×
FP8 密集989 TFLOPS989 TFLOPS5 PFLOPS5×
TDP700W700W1,400W2×
NVLink900 GB/s900 GB/s1,800 GB/s2×
发布时间2023-0320242026 上半年—

推理性能实测(MLPerf Inference v5.1,官方提交结果)​

系统DeepSeek-R1 吞吐(Offline, tok/s)Server 场景(tok/s)
GB300 NVL72(72 GPU)420,659209,328
GB200 NVL72(72 GPU,Blackwell)289,712167,578

Blackwell Ultra(GB300)相比同代Blackwell(GB200)在 DeepSeek-R1 上吞吐提升约 45%,这一增益主要来自显存容量(288GB)与注意力加速,而非 Tensor Core 稀疏峰值。

训练性能实测(MLPerf Training v5.1)​

系统Llama 3.1 405B 训练时间(分钟)
8× GB300 NVL72(512 GPU)64.6
8× GB200 NVL72(512 GPU)121.8
64× HGX H100(512 GPU)269.1

Blackwell Ultra 训练 Llama 3.1 405B 的用时约为 GB200 的一半、H100 的四分之一。

FP4 vs FP8 量化​

NVFP4(NVIDIA FP4)是 Blackwell 新增的 4 位浮点格式,相比 FP8 再降约 50% 显存占用,精度损失通常在 1% 以内(官方实测),是长上下文推理降低 KV Cache 压力的关键手段。

部署推荐配置(DeepSeek)​

场景推荐配置
DeepSeek R1 在线服务B300 + NVFP4 + EP2(专家并行)
DeepSeek V3 推理 + 训练B300 + NVFP4 + TP2(张量并行)
长上下文文档理解B300(充分利用 288GB 显存)
成本敏感型推理B300 Spot + FP4 量化

EP2 = Expert Parallel 2(专家并行 2),适合 MoE 模型(DeepSeek 即 MoE) TP2 = Tensor Parallel 2(张量并行 2),通用加速

8 卡 DGX B300 系统​

项目参数
GPU 总显存2.3 TB HBM3e(288GB × 8)
GPU 互联NVLink 5.0 + ConnectX-8
峰值功耗~14 kW(整机系统)
适用模型400B+ 参数模型完整加载
散热必须液冷(DLC)

云端实例价格对比(2026-10)​

供应商实例类型配置按需价格
AWSp6e.48xlarge8× B300~$98 / 小时
AzureND B300 v68× B300~$97 / 小时
Google CloudA4 Ultra(megagpu-8g)8× B300~$98 / 小时
AWSp5.48xlarge8× H100 SXM5~$98 / 小时

关键洞察:B300 8卡实例的按需价格与上一代 H100 8 卡实例基本持平,但同等价格下吞吐量显著更高 —— 这是 Blackwell Ultra 在推理侧最具说服力的经济性优势。

散热与基础设施​

  • TDP 1,400W —— 最高功耗档必须液冷(Direct Liquid Cooling, DLC);存在 1,100W 风冷档
  • 风冷方案仅适用于 1,100W 档(vs H100 700W 风冷)
  • 8 卡 DGX B300 ≈ 14 kW
  • 机房需重新规划电力和散热

软件要求​

  • CUDA 12.x
  • cuDNN 9.x
  • TensorRT-LLM 0.15+
  • NVFP4 支持(需 TensorRT 10+)
  • vLLM 0.6+(GB300 优化版)

适用场景​

  • ✅ 大规模推理服务(70B+ 模型,10万+ tok/s)
  • ✅ 推理密集型负载(DeepSeek R1、o1 类推理模型)
  • ✅ 长上下文 KV Cache(288GB 完整保留)
  • ✅ 400B+ 参数模型部署(8 卡 DGX B300 完整加载)
  • ✅ 多节点训练集群(6.4 Tbps GPU 互联)
  • ❌ 中小规模推理(H200 更经济)
  • ❌ 无液冷机房(基础设施投入大)

厂商信息​

项目内容
厂商NVIDIA Corporation
产品页https://www.nvidia.com/en-us/data-center/blackwell/
首发2026 上半年规模出货
云端部署AWS / Azure / Google Cloud / Oracle Cloud
OEM 合作伙伴Dell / HPE / Supermicro / Lenovo

数据来源​

相关产品​