NVIDIA Rubin CPX (Context Processing Unit)
产品概述
NVIDIA Rubin CPX(全称 Rubin Context Processing Unit)是 NVIDIA 于 2025年9月9日 发布的业界首款专为超长上下文 AI 推理设计的 GPU,定位为推理 prefill(预填充)+ KV Cache 构建 阶段的专用加速器。
🚨 重大设计变更(2026-09-01 郭明錤产业调查核实):Rubin CPX 项目一度被传从路线图剔除,现已重启且设计大幅调整,投产时间推迟至 2027 Q1。核心变化:
- 显存:128 GB GDDR7 → 168 GB HBM4(旧设计用消费级 GDDR7 控制成本,新设计改用 HBM4 强化 prefill 性能)
- 功耗:500 W → 2,300 W(与标准 Rubin GPU 持平)
- 算力:提升至接近标准 Rubin GPU 的水平
- 机架:改用独立 MGX ETL 机架(非与 Rubin 混插),每个机架含 1–4 组机架模组
下方「核心规格」表保留初始发布设计(128 GB GDDR7)以便对照,新设计参数请见文末「2026-09 设计修订」小节。
Rubin CPX 与 Rubin GPU(负责生成阶段)和 Vera CPU(负责调度)配合,组成解耦式推理架构。在 Vera Rubin NVL144 CPX 机架中,144 颗 CPX + 144 颗 Rubin GPU + 36 颗 Vera CPU 提供 8 EFLOPS 总算力,是 GB300 NVL72 的 7.5×。
为什么需要 CPX:当前 AI 推理工作负载中超过 50% 来自输入上下文处理与 KV Cache 构建。CPX 负责预先填充并构建 KV 缓存,再通过以太网 RDMA 传输给 Rubin 进行解码——NVIDIA 建议 CPX 与标准 Rubin 按 1:1 配置。
核心规格
| 项目 | 参数 |
|---|---|
| 架构 | Rubin(CPX 专用变体) |
| 制程 | TSMC 3NP(推测) |
| 封装 | 单片式(Monolithic),非 MCM |
| 显存 | 128 GB GDDR7(消费级显存,非 HBM) |
| 显存带宽 | 2 TB/s |
| FP4(NVFP4) | 30 PFLOPS(稀疏,官方标称) |
| FP8 / FP16 | 未公开 |
| 注意力加速 | 3×(vs GB300 NVL72) |
| TDP | 500 W |
| 板卡形态 | 独立 GPU(与 Rubin GPU 配对使用) |
| 发布时间 | 2025-09-09(发布) |
| 出货时间 | 2026 H2 |
⚠️ 设计哲学(旧设计):CPX 的 2 TB/s 带宽远低于 HBM 方案(B200: 8 TB/s,Rubin R200: 22 TB/s),因为上下文处理阶段是 Compute-bound(算力瓶颈),而非 Memory-bandwidth-bound(生成阶段)。低带宽 GDDR7 大幅降低成本。
⚠️ 注意:上述「GDDR7 控制成本」的设计哲学在 2026-09 重启方案中被推翻——新设计改用 HBM4。
2026-09 设计修订(重启方案)
据分析师郭明錤 2026 年 9 月 1 日产业调查,NVIDIA 已重启 Rubin CPX 项目,设计较初版大幅调整,预计 2027 Q1 投产:
| 项目 | 初版设计(2025-09 发布) | 重启设计(2027 Q1 投产) |
|---|---|---|
| 显存 | 128 GB GDDR7 | 168 GB HBM4 |
| TDP | 500 W | 2,300 W(与标准 Rubin 持平) |
| 算力 | 30 PFLOPS NVFP4 | 接近标准 Rubin GPU |
| 封装 | 单片式(Monolithic) | 未公开 |
| 机架 | 与 Vera Rubin NVL144 CPX 混插 | 独立 MGX ETL 机架 |
| 出货 | 2026 H2 | 2027 Q1 |
重启方案的机架与互联架构
- 计算托盘:8 颗 CPX 构成 1 个计算托盘,单托盘约 1.34 TB HBM4 显存
- 机架模组:8 个计算托盘构成 1 个机架模组(共 64 颗 CPX)
- 机架配置:客户可选 64 / 128 / 192 / 256 颗 GPU 配置(每 64 颗为一个机架模组)
- 纵向扩展(Scale-up):托盘内使用 NVLink(1–1.5 TB/s)
- 横向扩展(Scale-out):托盘间用 Spectrum-6 以太网全铜 L1 链路;机架模组间用 Spectrum-6 + OSFP 光链路
- 系统协作:CPX ETL 机架与 Vera Rubin NVL72 机架之间采用基于以太网的 RDMA 连接,NVIDIA 建议 1:1 配对
📌 背板铜缆翻倍:为支撑全铜 L1 横向扩展,MGX ETL 机架背板铜缆数量从 5,184 根翻倍至 10,368 根,是 CPC(Co-packaged Copper,共封装铜互连)技术从验证走向量产导入的标志性事件。
为什么重启后改用 HBM4
旧设计用 GDDR7 是为了在 compute-bound 的 prefill 阶段压低成本;但重启方案发现长上下文场景的 KV Cache 容量需求更为关键——每个 8 卡 CPX 托盘的 1.34 TB HBM4 足以覆盖多数长上下文预填充与 KV Cache 建立需求,这是 GDDR7 方案难以满足的。代价是功耗从 500 W 飙升至 2,300 W。
解耦式推理架构
| 阶段 | 执行单元 | 瓶颈类型 | CPX 角色 |
|---|---|---|---|
| 上下文阶段(Context / Pre-fill) | Rubin CPX | Compute-bound | 处理 1M+ token 输入 |
| 生成阶段(Generation / Decode) | Rubin GPU | Memory-bandwidth-bound | 逐 token 生成输出 |
| 调度/预处理 | Vera CPU | I/O bound | 请求调度 + KV Cache 管理 |
传统方案(GB200/B200):同一 GPU 处理两阶段,上下文阶段浪费高带宽内存。 CPX 方案:专用 CPX 处理上下文,Rubin GPU 专注生成,总吞吐量提升 6.5×(NVIDIA 官方数据)。
Vera Rubin NVL144 CPX 机架
| 项目 | 参数 |
|---|---|
| CPX GPU 数 | 144 |
| Rubin GPU 数 | 144 |
| Vera CPU 数 | 36 |
| 总 FP4 算力 | 8 EFLOPS |
| 总高带宽内存 | 100 TB |
| 总内存带宽 | 1.7 PB/s |
| 对比 GB300 NVL72 | 算力 7.5×,内存容量 ~14× |
| 组网 | Quantum-X800 InfiniBand / Spectrum-X 以太网 + ConnectX-9 |
| 调度软件 | NVIDIA Dynamo 平台 |
与 Rubin R200 对比
| 指标 | Rubin CPX | Rubin R200(训练 GPU) |
|---|---|---|
| 定位 | 推理上下文专用 | 训练 + 推理通用 |
| 显存 | 128GB GDDR7 | 288GB HBM4 |
| 带宽 | 2 TB/s | 22 TB/s |
| FP4 算力 | 30 PFLOPS | 50 PFLOPS(稀疏) |
| 设计 | 单片式 | 6 芯片 MCM |
| TDP | ~500–600W(推测) | ~1,800W |
| 成本 | 低(GDDR7 vs HBM4) | 高 |
适用场景
- ✅ 超长上下文推理(1M+ token,代码生成、视频理解)
- ✅ 多轮对话系统(Context 阶段吞吐量 critical)
- ✅ RAG(检索增强生成)(大量文档输入)
- ✅ 推理专用集群(与训练集群分离)
- ❌ 大模型训练(非目标场景)
- ❌ 高带宽需求工作负载(生成阶段仍由 Rubin GPU 处理)
投资回报率(ROI)
NVIDIA 官方数据(SemiAnalysis 引用):
- 单机架(NVL144 CPX):~$50M
- 年收入贡献:$1.5B–2.5B(推理即服务)
- ROI:30–50×
相关卡
- NVIDIA Rubin R200 - 同代训练/推理通用 GPU
- NVIDIA B300 Ultra - 上代旗舰(CPX 对比基准)
- NVIDIA GB300 - 机柜级上代产品
- NVIDIA Vera CPU - CPX 平台配套 CPU