NVIDIA GB300 (Grace Blackwell 300)
产品概述
NVIDIA GB300 (Grace Blackwell 300) 是 NVIDIA 第三代 Grace Blackwell超级芯片(Superchip),2026 H1 规模出货。将 2× B300 Ultra GPU(升级版 Blackwell)通过 NV-HBI 高速接口与 Arm Grace CPU 配对,单 Superchip = 2× B300 Ultra GPU + 1 Grace CPU。36 颗 GB300 组成 NVL72 机柜(共 72 颗 B300 Ultra + 36 颗 Grace),NVLink 5 + ConnectX-8 800G 网络 互联,是 NVIDIA 数据中心 AI 的旗舰机柜级产品。
代际演进:
- GH200(2023-Q3):Grace Hopper,H100 + 72-core Arm Grace
- GB200(2024-Q4):Grace Blackwell,2× B200 + 72-core Arm Grace
- GB300(2025 GTC 首发,2026 H1 出货):2× B300 Ultra + Arm Grace 72 核 CPU + ConnectX-8 800G
核心规格
| 项目 | 参数 |
|---|
| 架构 | Grace Blackwell 300 Superchip |
| GPU 芯片 | 2× B300 Ultra(Blackwell Ultra,每颗 288GB HBM3E) |
| CPU 芯片 | 1× Arm Grace(72 核 Neoverse V2) |
| NV-HBI | 900 GB/s 双向 CPU-GPU 互联 |
| 显存 | 576 GB HBM3E(超节点口径,2× B300 Ultra) |
| GPU 带宽 | 16 TB/s(2× B300 Ultra,每颗 8 TB/s) |
| CPU 内存 | 480GB LPDDR5X |
| CPU 带宽 | 512 GB/s |
| FP4 稀疏 | 40 PFLOPS(单 Superchip,2 GPU) |
| FP4 密集 | 30 PFLOPS(单 Superchip) |
| FP8 稀疏 | 20 PFLOPS(单 Superchip) |
| FP8 密集 | 10 PFLOPS(单 Superchip) |
| FP16/BF16 稀疏 | 10 PFLOPS(单 Superchip) |
| TDP | 3000 W(单 Superchip;单 GPU 1400 W) |
| 板卡形态 | 主板集成(不可拆) |
| 量产时间 | 2026 H1 规模出货 |
| 发布 | 2025-03(GTC 2025 首发) |
算力口径:单 GPU 为 Blackwell Ultra(NVFP4 密集 15 / 稀疏 20 PFLOPS),单 Superchip 为 2× GPU。上表均为单 Superchip 口径。NVIDIA 官方 GB300 NVL72 机柜级合计为 FP4 1,440 PFLOPS(稀疏)/ 1,080 PFLOPS(密集)。
TDP 口径:3,000 W 为单 Superchip(2× B300 Ultra + Grace)估算值;NVIDIA 官方仅公布单 GPU 最高 1,400 W,DGX Station 桌面版 Superchip 功耗上限约 1,300 W。机柜级功耗约 132–154 kW。
GB300 NVL72 机柜
| 项目 | 配置 |
|---|
| Superchip 数 | 36× GB300(每颗 2× B300 Ultra + 1 Grace) |
| GPU 数 | 72× B300 Ultra |
| CPU 数 | 36× Arm Grace (72 核 × 36 = 2,592 核) |
| HBM 总量 | 20.7 TB HBM3E |
| LPDDR5X 总量 | 17 TB |
| NVLink 5 域内 | 130 TB/s 全互联 |
| ConnectX-8 出口 | 72× 800 Gb/s = 57.6 Tb/s |
| FP4 sparse 总算力 | 1.44 EFLOPS |
| FP4 dense 总算力 | 1.08 EFLOPS |
| FP8 sparse 总算力 | 720 PFLOPS |
| 机柜 TDP | ~140 kW(约 132–154 kW) |
| 价格 | ~$3.3M / 机柜(市场估算) |
代际对比
| 指标 | GB300 (2026 H1) | GB200 (2024-Q4) | GH200 (2023-Q3) | 备注 |
|---|
| GPU | B300 Ultra | B200 | H100 | 升级 |
| CPU | Arm Grace 72 核 | Arm Grace 72 核 | Arm Grace 72 核 | 同 |
| GPU 内存 | 288GB HBM3E | 192GB HBM3E | 96GB HBM3 | +50% |
| GPU 带宽 | 8 TB/s | 8 TB/s | 3.35 TB/s | 持平 |
| NV-HBI | 900 GB/s | 900 GB/s | 900 GB/s | 同 |
| NVLink 互联 | 130 TB/s | 130 TB/s | 60 TB/s | 同/2× |
| 网络 | ConnectX-8 800G | ConnectX-7 400G | ConnectX-7 400G | 2× |
| FP4 sparse (per GPU) | 20 PF | 20 PF | N/A | 持平 |
| FP4 dense (per GPU) | 15 PF | 10 PF | N/A | 1.5× |
| FP8 dense (per GPU) | 5 PF | 5 PF | 2 PF | 持平/2.5× |
| TDP (GPU) | 1400W | 1000W | 700W | +40% |
NVL72 vs NVL576 机柜级对比
| 维度 | NVL72 (1 机柜) | NVL576 (8 机柜) |
|---|
| Superchip 数 | 36 | 288 |
| GPU 数 | 72 B300 Ultra | 576 B300 Ultra |
| CPU 数 | 36 Grace | 288 Grace |
| HBM 总量 | 20.7 TB | 165 TB |
| FP4 sparse 总算力 | 1.44 EF | 11.5 EF |
| FP4 dense 总算力 | 1.08 EF | 8.64 EF |
| NVLink 域 | 单机柜 130 TB/s | 跨机柜 130 TB/s |
| 域规模 | 72 GPU | 576 GPU |
| 机柜 TDP | ~140 kW | ~1,120 kW |
GB300 NVL576 优势:8 个机柜组成 1 个 NVLink 域,576 GPU 共享 130 TB/s 互联,是 业界最大 NVLink 域,对超大 LLM(万亿参数)训练至关重要。
ConnectX-8 800G 网络
| 维度 | 规格 |
|---|
| 速率 | 800 Gb/s 单端口(每 GPU) |
| 端口数 | 4× ConnectX-8 OSFP per Superchip |
| 协议 | InfiniBand NDR / RoCE v2 |
| GPUDirect | GPU-NIC 直接 DMA |
| 拥塞控制 | SHARP v4 |
| PCIe | Gen6 ×16(GB300 升级 Gen6) |
| 部署状态 | 已随 GB300 NVL72 规模部署 |
厂商信息
数据来源
关键特性
- NVL576 域:8 机柜 576 GPU 共享 130 TB/s 互联(业界最大)
- ConnectX-8 800G:每 GPU 800 Gb/s 跨机柜网络
- FP4 20 PFLOPS 稀疏/ 15 PFLOPS 密集:单 GPU 算力,对推理优化
- 统一内存:GPU 576GB HBM3E + CPU 480GB LPDDR5X 一致性寻址
- 缺点:单Superchip 功耗约 3,000 W,必须全液冷
NVL72 适用场景
- ✅ 万亿参数 LLM 训练(576 GPU 域,130 TB/s NVLink)
- ✅ MoE 模型训练(专家并行 + 张量并行混合)
- ✅ 超大规模 RLHF(576 GPU 同步)
- ✅ 多模态大模型(视频 + 文本 + 图像)
- ✅ AI for Science(气候、材料、生命科学)
- ❌ 小规模推理(成本过高)
- ❌ 中国市场(出口管制)
GB300 vs AMD MI455X (2026)
| 指标 | NVIDIA GB300 (单 GPU) | AMD MI455X (单 GPU) | 差异 |
|---|
| GPU | B300 Ultra | MI455X | - |
| 内存 | 288GB HBM3E | 432GB HBM4 | MI455X +50% |
| 带宽 | 8 TB/s | 23.3 TB/s | MI455X 2.9× |
| FP4 密集 | 15 PF | 40.3 PF | MI455X 2.7× |
| FP8 密集 | 5 PF | 20.1 PF | MI455X 4× |
| 互联 | NVLink 5 1.8 TB/s | UALoE 3.6 TB/s | MI455X 2× |
| 网络 | ConnectX-8 800G | Pensando Vulcano 800G | 持平 |
| 软件 | CUDA | ROCm | NVIDIA 生态优势 |
| TDP | 1400 W (单 GPU) | 未公布 | — |
注:上表为单 GPU 对单 GPU 口径。MI455X 在显存容量、带宽与低精度算力上全面领先;GB300 的优势在于成熟的 CUDA 生态与 NVLink 机柜级扩展(130 TB/s NVLink 域)。
相关卡