AI 算力总拥有成本 2026 版:电力、折旧、运维的全口径拆解
大多数 AI 算力的成本模型只算了显卡。但 2026 年公开测算显示:一台 8 卡 H100 服务器的三年全口径 TCO 约 71.2 万至 94.8 万美元,其中服务器与 GPU 约占六成,电力约 7% 至 15%,而人员成本往往是最大的单一运营项。真正拉开自建与云差距的,不是买卡那一刻花了多少。
一、五大口径的真实占比
以一台 8 卡 H100 节点(约 10 至 10.5 kW 满载)为基准,2026 年的公开成本拆解如下:
| 成本项 | 类型 | 2026 年量级 |
|---|---|---|
| GPU 服务器(8 卡 H100) | 资本 | 25 万至 40 万美元以上 |
| 高速网络(InfiniBand / RoCE) | 资本 | 5 万至 10 万美元以上 |
| 电力(约 10 kW 节点) | 运营 | 每年约 1.05 万美元 |
| 制冷附加 | 运营 | 电力的 25% 至 40% |
| 托管 / 机房 | 运营 | 每年 1.2 万至 2.4 万美元 |
| 人员(至少 0.5 个 FTE) | 运营 | 每年 7.5 万至 10 万美元 |
| 三年全口径合计 | — | 约 71.2 万至 94.8 万美元 |
逐条看要点:
- 人员被严重低估。 7.5 万至 10 万美元 / 年的人力,通常高于电力加制冷之和。集群打补丁、监控、保持可用性,没有低于 0.5 FTE 的现实方案。
- 电力不是大头,但地区差异是数量级的。 美国加权平均工业电价 0.0834 美元 / kWh、PUE 1.14、利用率 71% 时,每兆瓦每年电费约 62.6 万美元;廉价电力市场(0.047 美元 / kWh)降至约 35.3 万;昂贵沿海市场(0.15 美元 / kWh)则超过 110 万。
- 故障率是隐性成本。 企业级 GPU 年故障率约 5% 至 10%,备件与更换必须单列。
- 摩尔定律的反向作用。 新一代发布即意味着在手硬件开始贬值,折旧年限的选取比电价更能左右结果。
二、东西部的成本落差有多大
国内公开测算给出了更贴近本地采购的口径。取 2 万 P 规模 H100 集群,按行业平均 80% 利用率测算:
| 场景 | PUE | 电价 | 日电费 |
|---|---|---|---|
| 西部浸没液冷标杆 | 1.1 | 0.30 元/度 | 约 32.95 万元 |
| 西部标准绿色算力(冷板液冷) | 1.2 | 0.30 元/度 | 约 35.94 万元 |
| 东部传统风冷 | 1.3 | 0.65 元/度 | 约 84.36 万元 |
东部风冷方案的日电费是西部液冷方案的 2.5 倍以上。 但如果换成低功耗国产集群(同样 2 万 P,按 1P 约 1.5 kW 测算,PUE 1.2、0.30 元/度、80% 利用率),日电费约 20.74 万元,比 H100 集群省约 42%。电力账的杠杆在芯片功耗和 PUE,不在电价谈判。
机位托管的口径同样值得记:西部东数西算枢纽 40 kW 液冷机柜的机位租金约 1.5 万元 / 月,电费约 8640 元 / 月(24000 kWh × 0.36 元),带宽约 1500 元 / 月,月度合计约 2.51 万元;东部新建低 PUE 液冷机柜租金则在 2.2 万至 3.2 万元 / 月,电价 0.55 元 / kWh 以上。
三、液冷为什么是必需品而不是选项
液冷与风冷的成本差在 2026 年已经被量化。行业测算显示,每兆瓦液冷设施成本约 450 万至 520 万美元,而常规风冷约 180 万美元 / 兆瓦——液冷溢价为每兆瓦约 305 万美元。原因是风冷机房在常规成本下只能支撑每机架 25 kW,而 AI 负载需要 40 至 80 kW 甚至更高。
另一个容易被忽略的信号:机械系统在液冷 AI 机房总成本中的占比,已从风冷时代的 22% 上升到 33%。液冷不是一次性投入,它改变了整座机房的成本结构。
四、折旧:TCO 里最容易吵架的一项
折旧年限的选择直接决定结论。Epoch AI 在 2026 年 5 月的模型中,对 1 吉瓦美国 AI 数据中心采用的口径是:IT 设备 5 年寿命,机房设施 14 年寿命,由此得出每兆瓦年化 TCO 约 850 万美元,其中一次性资本支出 3.8 万美元 / 兆瓦(合计 380 亿美元),年运营支出 90 万美元 / 兆瓦(合计 9 亿美元)。服务器与 GPU 占年化 TCO 的约 60%,能源约占 7%。
如果你把 IT 折旧从 5 年改成 3 年,同样的现金流会被重新切成完全不同的两个故事。 这不是会计技巧,而是采购谈判中的实质变量——它决定了你愿意为多少年服务期付多少溢价。
五、五口径自查清单
| 口径 | 问自己的问题 | 四季度答案 |
|---|---|---|
| 电力 | 我的 kW 负载 × PUE × 8,760 小时 × 电价,是多少? | 东部风冷方案通常是西部液冷的 2.5 倍以上 |
| 折旧 | 我按几年摊?残值怎么算? | 行业常用 IT 5 年 / 设施 14 年 |
| 液冷 | 每兆瓦是否已计入 300 万美元级溢价? | 每机架超过 25 kW 就是必选项 |
| 人力 | 是否真有人排 0.5 个 FTE 进预算? | 通常是最大单项运营成本 |
| 故障 | 备件比例是否按年 5% 至 10% 预留? | 企业级 GPU 的现实年故障率 |
一句话总结:2026 年的算力 TCO 里,电力只占约 7% 至 15%,液冷溢价和人员成本才是被低估的两块。把折旧年限、人力 FTE 和液冷溢价这三项填准,你的 TCO 才有讨论资格。