万卡集群：自建、租用还是混合？三种路线的账本
千卡以下可以拍脑袋，万卡规模必须算账。自建、租用、混合三种路线的资金量级差出一个数量级，本文把三本账摊开对比。
一、自建万卡：钱花在哪
以 8 卡 HGX H100 服务器为例，2026 年海外 OEM 整机报价约 25 万至 32 万美元。一万张卡即 1,250 台服务器，仅 GPU 节点硬件就在 3.1 亿至 4 亿美元。这还只是起点：按 SemiAnalysis 的估算，每台服务器还要追加约 6 万美元的网络、存储与机柜配套；万卡集群的组网用 IB 交换机、光模块、分布式存储通常再占总投资的 15% 至 25%。此外，8 卡 H100 仅 GPU 满载功耗就达 5.6kW，整机按 8kW 计，一万张卡对应约 10MW 的 IT 负载，加上制冷冗余实际要按 12 至 15MW 规划变电站。多数城市拿到这个量级的电力指标，周期以年计。
自建的真实优势在于三点：规模化后的单位成本低（自持 H100 三年摊销的全成本可低到每卡时 1.35 至 1.92 美元）、数据完全可控、以及资产残值（三年后 H100 二手仍能回收两至三成价值）。代价是资金门槛高、建设周期长、以及技术迭代风险——Blackwell 与 Rubin 世代逐步铺开后，H100 的残值曲线会进一步下探。
二、租用万卡：单价与长协
云端路线的公开价格区间如下。海外超大规模云厂商的 H100 按需价约每卡时 3.85 至 4.20 美元；AI 云（neocloud）约 1.99 至 2.59 美元；一年期长协可压到 1.45 至 1.85 美元。国内方面，第三方平台 H100 单卡时租报 28 至 35 元，部分渠道低至 9.5 元上下；A100 80G 约 16 至 22 元；4090 约 2 至 4 元。值得注意的是 2026 年供需趋紧，国内高端卡租赁价格年内整体上涨了约三成，H200 月租已到 6.7 万至 9 万元一台（8 卡）的水平。
| 路线 | 资金形态 | 每卡时成本（H100 口径） | 建设周期 | 主要风险 |
|---|---|---|---|---|
| 自建万卡 | 一次性 3.5 至 5 亿美元，另加年度电力运维 | 约 1.35 至 1.92 美元（三年摊销） | 12 至 24 个月 | 技术迭代、残值缩水、电力审批 |
| 全租（按需） | 零 CAPEX，按量付费 | 1.99 至 4.20 美元 | 即时 | 价格上涨、资源被回收、限流 |
| 全租（长协） | 年度承诺消费 | 1.45 至 1.85 美元 | 1 至 3 个月 | 违约金、利用率不足仍全额付费 |
| 混合 | 基线 CAPEX 加峰值 OPEX | 综合约 1.6 至 2.2 美元 | 6 至 12 个月 | 调度复杂、两套运维体系 |
三、混合路线：多数公司的最优解
实践中的最优解往往是"基线自建，峰值租用"。把长期稳定的负载（如在线推理、常态化实验）放到自建集群，把训练冲刺期、大版本迭代的峰值需求用云端弹性消化。判断混合比例的一个实用公式：自建规模 = 全年负载曲线的 P50 水位，超过 P50 的部分交给租赁。这样自建资产的利用率能稳定在 70% 以上——这正是自建成本优于按需租赁的盈亏平衡点（约七成利用率）。
规模在 1,000 至 3,000 卡之间的团队还有一条中间路线：整机柜租赁或"可搬迁"设备。国内市场已出现 910C 单台月租 5.8 万元、910B 系列 1.35 万至 1.9 万元的可搬迁报价，适合项目制团队按训练周期占有机柜而不用建机房。
四、结尾决策清单
- 训练需求不确定、产品未验证：全租按需，别买任何硬件。
- 负载稳定、三年内确定持续投入、能拿到电力指标：自建，但按 P50 而非峰值规划规模。
- 两者之间（多数公司）：混合路线，自建基线加长协兜底加按需峰值。
- 国内团队拿不到进口卡：评估昇腾 910B 或 910C 的租赁与可搬迁方案，先跑通生态再谈规模。
- 无论哪条路，签长协前先做一个月的真实负载压测，用实测利用率反推合同量——万卡规模下，15% 的利用率误差就是数千万美元的浪费。