跳到主要内容

超节点时代的选型框架：从数卡到算总账

· 阅读需 4 分钟
AI Compute Cards Wiki Editorial
Industry Research Team

当供给从「单卡」变成「机柜」，选型方法论必须跟着换。一台 NVL72、一套 Helios、一个 Atlas 950 超节点、一台天垓 IXL144——卡数不同、制程不同、口径不同，直接比参数表必然踩坑。本文给出一套跨厂商可比的评估框架。

为什么单卡参数已经不够用​

研报口径下，传统 8 卡服务器集群的 MFU（模型算力利用率）约 30%，而 4,096 卡超节点集群可将 MFU 提升至约 2.75 倍水平。MFU 的差距不是芯片差距，是互连、拓扑与调度的差距——这正是超节点存在的理由。评估一个超节点方案，本质上评估的是「这台机器跑你的模型时，多少电费变成了有效 Token」。

五个必须对齐的口径​

1. 算力：看整机柜 FP8/FP4 总量与稀疏口径​

各家发布口径混杂：有的给稀疏值、有的给稠密值、有的给 FP4、有的给 FP8。对齐规则：全部折算到稠密 FP8 再比，并记录稀疏倍数。例：Rubin R200 NVFP4 推理 50 PFLOPS（稀疏）、MI455X MXFP4 40.3 PFLOPS（稠密）——直接并列是错误示范。

2. 显存：总容量 + 总带宽 + 单卡容量三个都看​

  • 总容量决定能装的模型规模（Helios 31TB、天垓 IXL144 约 10.1TB、Atlas 950 SuperPoD 256TB 级统一编址）
  • 单卡容量决定模型切分的并行策略自由度
  • 总带宽（如 Helios 1.7 PB/s）决定 KV Cache 搬运效率

3. 互连：区分 scale-up 与 scale-out​

NVL72 的 NVLink5、Helios 的 UALoE、Atlas 950 的灵衢、IXL144 的私有互连属于 scale-up 域——跨机柜后大多退到以太网/RoCE，性能断崖在这里。你的模型并行策略若必须跨柜，就要按 scale-out 口径重新估 MFU。华为灵衢的特殊性在于跨机柜仍维持统一内存编址，这是 Atlas 路线的核心卖点。

4. 功耗与散热：机柜级 kW + 机房现状​

NVL72 约 132-142 kW/柜、Maia 300 机架约 167 kW、Atlas 960 全液冷、天垓 IXL144 主打「现有机房可部署」。如果你的机房没有液冷条件，Atlas 860（风冷超节点，2027 Q2）与天垓 IXL144 这类风冷方案是唯一选项，再高的纸面算力也落不了地。

5. 供货与形态：什么时候能装机、以什么形态​

2026 年 10 月时点的真实状态：NVL72 已规模出货并 Q4 放量；Helios 首批客户运行中、企业批量在 2027；昇腾 950DT 超节点规模供货 2026 年底或 2027 年初；天垓 IXL144 已有万卡级商业部署。「纸面最优但拿不到货」在当前市场是最常见的选型错误。

三个常见误区​

  1. 数卡数比规模：单机柜 144 卡不等于两倍于 72 卡机柜——卡的代际、互连拓扑、总显存都不同。正确做法是比「整机柜稠密 FP8 总算力 / 机柜功耗」这个比值。
  2. 用厂商 Token 成本口径直接比：天垓 IXL144 宣称每百万 Token 成本降 40%、Maia 300 宣称每兆瓦 Token 产出高 40%、Helios 宣称比 NVL72 多 30% Token/美元——三家的基准、模型、测试条件完全不同，只能作为「厂商自证存在优势」的信号，不能横向比。
  3. 忽略软件栈成本：CUDA 之外的每一套栈（ROCm、MXMACA、CANN、MUSA）都有真实的迁移与调优人力成本。TCO 测算时建议把首年迁移成本单列。

一个可执行的总账模板​

单位有效算力成本 = (整机采购价 + 5 年电费 + 迁移人力) / (机柜稠密 FP8 PFLOPS × 实测 MFU × 5 年可用时数)

本站 TCO 计算器 支持 5 年折现口径的完整测算，可输入上述参数直接对比任意两套方案。

相关阅读​