Skip to main content

GB200 NVL72 架构拆解：72 卡为何是一个"GPU"

· 4 min read
AI Compute Cards Wiki Editorial
Industry Research Team

黄仁勋在发布时说，GB200 NVL72 是一台"大 GPU"。这不是营销修辞：72 颗 Blackwell GPU 通过九层 NVSwitch 连成单一 NVLink 域，任何两卡之间的通信都不必经过机柜外网络。理解这台机器，关键在理解它如何消灭"节点边界"。

机柜解剖：18 个计算托盘、9 个交换托盘​

GB200 NVL72 的基本单元是 GB200 超级芯片：一颗 72 核 Grace CPU（Arm Neoverse V2）通过 NVLink-C2C 以 900GB/s 的缓存一致性互联挂载两颗 B200 GPU。18 个 1U 计算托盘各装两颗超级芯片，合计 36 颗 Grace 与 72 颗 B200；机柜中部竖插 9 个 NVSwitch 托盘，用约 3 公里长的铜缆把所有 GPU 织成一张完整无阻塞的 NVLink 5.0 交换网。

指标GB200 NVL72 单机柜
GPU/CPU72 颗 B200 + 36 颗 Grace（72 核 Neoverse V2）
FP4 算力（稀疏）1.44 EFLOPS
FP8 算力（稀疏）约 720 PFLOPS
GPU 显存合计13.4TB HBM3e（每 GPU 192GB）
CPU 内存合计约 17TB LPDDR5X（每 Grace 480GB）
NVLink 总带宽130TB/s（每 GPU 1.8TB/s 双向）
机柜功耗约 120kW，强制液冷
机柜价格据公开报道约 200 万至 300 万美元

在上一代 HGX H100 体系里，8 卡节点内部靠 NVLink 互联，跨节点只能走 InfiniBand，带宽低一到两个数量级。任何需要 8 卡以上张量并行的任务，一旦集合通信溢出节点，单卡有效带宽会骤降一个数量级，通信时间反过来吞掉算力收益。

NVL72 的解法是把域直接扩大 9 倍：72 卡全对全互联后，万亿参数稠密模型或巨型 MoE 的张量并行、长上下文注意力的 KV Cache 共享，都可以在机柜内完成。配合 Grace 的缓存一致性设计，HBM 与 LPDDR5X 组成约 30TB 的统一可寻址内存池，CPU 与 GPU 之间无需显式拷贝。这就是"一个大 GPU"的实质：对并行策略而言，机柜边界消失了。

Grace CPU 的角色同样关键。它不是通用主机，而是专为 AI 服务器设计的 Arm 处理器：每颗 480GB LPDDR5X 提供约 4TB/s 的内存带宽，远高于 x86 服务器；数据预处理、token 化、KV Cache 管理这类原本消耗 GPU 时间的任务，被下放给 Grace，让 GPU 专注矩阵运算。

什么业务才配得上这 120kW​

NVL72 解决的是"单节点装不下"的问题，而不是所有问题。据公开报道，全机柜价格 200 万至 300 万美元，功耗约 120kW，整机 1.36 吨——标准数据中心大门都进不去，液冷改造按每兆瓦数百万美元计。

适合 NVL72不适合 NVL72
万亿参数稠密模型训练与推理70B 以下稠密模型（8 卡节点足够）
大规模 MoE 的全对全路由常规 200B 以下 MoE 微调
超长上下文、单域 KV Cache 共享标准企业级推理服务
前沿实验室的多机柜 AI 工厂预算敏感的租赁型业务

一个实用的判断门槛：当你的张量并行度或 KV Cache 体积明显超过 8 卡节点的物理上限时，NVL72 才开始产生不可替代的价值。多数企业负载（百亿到两三千亿参数）用 HGX B200 节点做扩展，每 token 成本反而更低。

小结​

GB200 NVL72 的本质是把"集群"压缩成"一台设备"：用 130TB/s 的机柜内 NVLink、30TB 统一内存和 Grace 的算力卸载，消灭节点间通信这个老敌人。它是为万亿参数时代和 AI 工厂设计的基建产品——确认你的模型真的需要 72 卡一个域，再确认你的机房能承受 120kW 液冷，这两关都过了，它就是目前最强的单机柜答案。