9 posts tagged with "Cloud Pricing"

对一家 2026 年的 AI 创业公司来说，算力决策不是技术问题，是一个利用率问题。多家独立分析在 2026 年给出的阈值惊人一致：持续利用率在约 40% 以下，租用几乎总是更便宜；超过约 55% 至 65%，自建或共置才开始在三到三十六个月的维度上赢。你需要做的是准确估计自己的利用率，而不是选择你更偏好的那个答案。

一、先把「利用率」算出来，而不是猜出来​

2026 年的盈亏平衡测算给了一个可复现的算例。取一台 H100 新机价格区间 2.5 万至 4 万美元的中值 3 万美元，专业托管费用约每 GPU 小时 0.35 美元（含电费），同等级设备租用约每小时 2.50 美元——交叉点大约在 1.4 万 GPU 小时：100% 利用率下约 19 个月，40% 利用率下约四年。 若把两年残值按 40% 至 50% 计入，有效盈亏平衡点缩短约三分之一。

二手市场的保值能力是被低估的变量：二手 A100 在推出数年后仍以 4000 至 9000 美元交易。

所以第一步不是选卡，是拉数据。 把过去 8 周的训练与推理任务全部导出来，算出「实际运行 GPU 小时 / 可用 GPU 小时」。这个数字低于 40%，你就该继续租。

二、五阶段演进路径​

自建的另一个门槛是 token 量本身：公开分析给出的阈值是，70B 级模型在每月 5 亿至 8 亿 token 以上时，自建的推理开支相比前沿 API 标价可降低 65% 至 80%。低于这个量级，运维成本摊不薄。

三、买租交叉点的三种测算口径​

2026 年各家给出的交叉点略有不同，因为假设不同。三个口径值得分别记住：

实操建议：按中性口径（55% 至 60%）做决策，按保守口径（40%）做否决。 如果你的测算结果落在 40% 到 55% 这个灰区，答案通常是第三条路——共置。

四、第三条路：买硬件但不自建机房​

公开分析中反复出现的一个洞察是：买租二选一的框架默认了「买 = 自建机房」，而这个假设往往是错的。 运营方正走的折中路径是：买下硬件，把它放进同一座提供合同电力、液冷和运行时间的设施里。这条路在「拥有」那一栏加上了托管费（上述算例中约每 GPU 小时 0.35 美元），同时消除了自建的每一条运维异议——电力、制冷、网络、以及凌晨三点的故障。

对超过 40% 负载的稳定工作负载，这通常是可用的最低总成本路径。 托管价格的市场区间是每机柜每月 1200 至 2500 美元（海外标准），机位托管另按 40 kW 液冷机柜、机位租金约 1.5 万元 / 月加电费约 8640 元 / 月的国内口径测算。

五、四季度特有的两条变量​

1. 云端长约的折扣窗口在放大。 2026 年 10 月初的公开报价显示，H100 在 Azure 的 1 年承诺约比按需低 36%、3 年承诺低 56%；Google Cloud 对应为约 31% 与 56%。主流云的 1 至 3 年 GPU 预留合约通常可在按需价基础上打 30% 至 55% 的折扣。如果你的利用率在灰区，签长约比自建更安全。
2. 硬件价格仍在波动上行。 2026 年 9 月国内渠道数据显示，RTX 5090 风扇卡在华南涨至 47100 元，较 9 月初上涨 12%，而 5090 服务器月租费率仍稳定在 1.35 至 1.6 万元；L20 48GB 报价超过 32000 元。硬件买家正在吸收成本，租户没有——这个价差会收窄，但今天买硬件是在为明天的稀缺付溢价。

六、四条决策纪律​

• 利用率低于 40%，一律租。 不要用「资产归属」的叙事说服自己。
• 灰区（40% 至 60%）选共置。 买硬件、不自建机房，避开自建的每一条运维承诺。
• 数据不能出厂，选项就变了。 医疗、法律、金融数据或合同约束下的算力需求，是硬需求不是偏好——哪怕账面上租更便宜。
• 别在通胀的市场里押注单卡。 2026 年的一个合理策略组合是：中端本地卡（如约 1150 美元级别的 16GB 消费级卡）负责日常迭代、调试和小规模微调，云端负责显存不够或长跑的任务。本地卡承接 80% 的日常工作、云端承接那 20% 本来会逼你买旗舰卡的任务——这是当下风险最低的路径。

一句话总结：2026 年 AI 创业公司的算力策略只有一句话——先量利用率，再选路径。低于 40% 就租，灰区就共置，超过 60% 才自建。而四季度特殊的地方在于：云端长约能省三到五成，硬件却在涨，两边的价差正在逼你做出更早的决定。

如果你在 2026 年四季度做 GPU 采购决策，最大的认知误区是继续盯着「GPU 有没有货」。TrendForce 在 10 月 5 日发布的供应链追踪里明确指出：在其跟踪的七大服务器零部件类别中，GPU 是唯一处于均衡水平的一类，而 CPU、DRAM、企业级 SSD 相关 NAND、HDD、ABF 载板、MLCC 全部处于紧张或极度紧张。瓶颈已经从「拿不到加速卡」，迁移到了「拿到卡之后，凑不齐一台能上电的整机」。

一、四季度的真实价格水位：现货在涨，也在分化​

先看海外云端。多家价格追踪站在 2026 年 10 月上旬给出的按需单卡小时价（美元）大致落在这个区间：

同一款 H100，最高价与最低价之间能出现 4.6 倍价差。这是四季度最重要的一条实操结论：你不是在买一种商品，你是在买一个供应商关系。

国内现货市场的走向更复杂。2026 年 9 月中旬的一线渠道数据显示，RTX 5090 涡轮卡与风扇卡报价分别为约 4.8 万元与 4.6 万元一张，相比前期高点已有回落；H100 老款整机维持在 325 至 330 万元区间；H200 两路整机约 560 至 565 万元一台；GB200 整机柜约 6800 万元一套，GB300 约 12500 万元一套。与硬件价格相比，租赁端的费率并未同步上涨——5090 服务器的月租费率仍稳定在 1.35 至 1.6 万元区间。这意味着现在买硬件的人，正在独自承担硬件端的溢价。

值得注意的是一个反向信号： Nebius 在 10 月 1 日上调了 GPU 小时价，媒体测算涨幅可达 21%，涉及 H200 报价升至约 5.40 美元。而 CoreWeave 在 9 月 17 日披露，其第三季度签署的 3 至 6 个月短约，按「年化收入除以服务集群所需电力」口径计约为每兆瓦 4000 万美元。这两组数据共同说明：四季度仍在涨的是新签的、算力紧张的合约，而非全部存量。

二、承诺折扣才是真正的采购价​

如果只比按需价，你会高估成本三到五成。2026 年 10 月初的公开报价显示，主流云的 H100 承诺折扣幅度如下：

这里有两个反直觉的点。第一，Azure 的 H100 竞价实例折算到单卡约 2.27 美元，低于我们核实的所有新型 GPU 云按需价——前提是你的任务能承受被抢占。第二，Google Cloud 上同一台机器的竞价实例（6.62）比其排队启动的柔性实例（约 4.79）贵出约 38%，而绝大多数团队从来没把这两者放在同一张表里比较过。

实操结论：先算承诺，再谈按需。 如果你的负载有 70% 以上的稳定基线，四季度就应该把 1 年承诺的报价拉进谈判桌，而不是按单小时询价。

三、整机交付才是真正的排期表​

TrendForce 10 月 5 日的交期数据，是四季度采购排期的核心依据：

价格侧，TrendForce 于 9 月 30 日预计 2026 年第四季度常规 DRAM 合约价环比再涨 10% 至 15%；ABF 载板从 3Q26 到 4Q27 逐季上涨 10% 至 15%。美光 CEO 更是在 10 月初公开表示，存储短缺可能延续到 2028 年甚至更久，客户最终支付的价格将「显著高于今年」。

实操结论：把 CPU、内存、存储、光模块的采购与 GPU 订单绑定谈。 如果你只锁了 GPU 的货，等卡的 30 周过去后还要再等 DRAM 的 20 周。横向看一眼，同一份调研还显示中压开关柜交期约 22 个月、大容量变压器约 18 个月——自建机房的项目，采购启动点要再往前推。

四、六步实操流程​

五、给采购负责人的四条清单​

• 先锁组件，再锁整机。 你的排期风险 90% 在 DRAM 和 ABF 载板上，不在 GPU 上。
• 把承诺价当谈判筹码。 Azure、Google 的 3 年承诺都在按需价的 44% 左右，1 年承诺约 64%，不询价就等于接受 100%。
• 警惕居间加价。 算力租赁渠道中居间人占比据称约三成，「总租-分租」模式会显著放大终端隐性成本；四季度更应走直签。
• 现货与租值的背离要计入模型。 硬件在涨、月租在稳，意味着现在囤货的持有成本正在被市场惩罚——除非你能证明未来 6 个月算力会继续短缺，而数据支持这个假设。

一句话总结：四季度 GPU 采购的正确姿势，不是「抢到卡」，而是「在组件最紧的时候把整机合同锁死，同时用承诺折扣把云端备选方案的账算清」。

截至 2026 年 10 月，四大云服务商的 2026 年资本开支指引合计已升至约 7200 亿至 7450 亿美元。这个数字还在上修路径上，而 10 月末即将开启的三季度财报季，是这一趋势能否延续的第一个真实检验点。

指引全景：全部上修，无一下调​

据 7 月下旬财报电话会披露的信息，四家云厂在最新一轮财报中全部上调或维持了资本开支预期。其中亚马逊将 2026 年现金资本开支指引从此前的约 2000 亿美元上调至约 2200 亿美元，并明确将涨价归因于内存成本上升；Alphabet 将全年指引从 1800 亿至 1900 亿美元上调至 1950 亿至 2050 亿美元；Meta 把区间下限从 1250 亿美元抬升至 1300 亿至 1450 亿美元；微软则因租赁会计口径调整，账面数字反而下调至约 1750 亿美元，并不代表实际投入减少。

若把甲骨文 FY2027 指引计入，合计规模将进一步抬升至约 8350 亿美元。从上半年与全年指引的差额看，四家公司对下半年的支出预期都明显加速——亚马逊隐含下半年约 1240 亿美元，Alphabet 约 1140 亿至 1240 亿美元，Meta 约 790 亿至 940 亿美元。

支出去向：不只是加速卡​

一个容易被忽略的细节是，微软在 FY26 第四财季电话会上明确说明，当季约 410 亿美元资本开支中约三分之二属于「短寿命资产，主要是 CPU 和 GPU」。这类资产折旧周期短、单价高，对零部件价格变动极为敏感。亚马逊高管也在电话会上把指引上调直接归因于内存成本。

另一边的压力来自供电与场地。据公开统计，行业跟踪的 104 个数据中心项目中已有 54 个在建，29 个已宣布，16 个部分运行，5 个完全投运；披露规模的项目合计规划容量约 104.5 吉瓦。配套的 52 笔电力交易中，47 笔披露容量的合计约 70.3 吉瓦，其中 14 笔落在 2026 年第三季度，是该数据集任何一个季度中最多的一次。

资本结构的压力同样在积累。据报道，Alphabet 已完成上市以来首次股票发行并发行大额债券，Meta 在 2026 年二季度自由现金流仅约 7.84 亿美元的情况下依赖私人信贷借款补充流动性。评级机构与投行普遍提示表外租赁与服务器采购承诺正在形成大额隐性负债。

研判：四季度看三件事​

第一是三季度财报。10 月末的财报季将给出第一个可以证伪的季度数据。如果有任何一家下调全年指引，「上修周期」才算真正见顶；在此之前，所有的「AI 泡沫」争论都还停留在估值层面而非支出层面。

第二是内存成本的传导路径。亚马逊把涨价写进指引，说明成本压力已经到了无法吸收的阶段。HBM 与 DDR5 同厂不同线，产能分配存在此消彼长关系，一旦消费级 DRAM 供给被压缩，云厂需要在不同内存品类之间重新分配预算。

第三是会计口径的可比性。微软把未来数据中心租赁从融资租赁调整为经营租赁，导致同一笔投入在资本开支科目上的呈现发生变化。任何跨公司加总的「AI 支出」数字，都必须先问一句口径是否一致。

对芯片产业而言，四季度的实际含义很直接：只要这四家不松手，HBM、先进封装、高速互联的订单可见度就维持在两年以上；但采购结构正从「单颗加速卡」转向「整机架系统 + 供电 + 液冷」，供应商名单会随之变长。

「每百万 token 多少钱」这个问题，在 2026 年已经失去了单独讨论的意义。2026 年 10 月 8 日的价格快照显示，最便宜的模型输入价已跌到每百万 token 0.05 美元（GPT-5 Nano）到 0.14 美元（DeepSeek V4 Flash）区间，而旗舰模型仍在 4 至 5 美元输入、20 至 25 美元输出。头部与尾部之间相差约 100 倍，真正决定账单的不是单价，而是你的计量口径。

一、2026 年 10 月的价格环境基线​

以下是我们核实的公开价格（单位：美元 / 每百万 token），可用于建立四季度预算模型：

四个必须注意的口径陷阱：

1. 促销有到期日。 Gemini 3.7 Flash 的 0.75 / 3.75 是促销价，官方标注 2026 年 12 月 31 日后恢复至 1.50 / 7.50。Qwen3.6-Plus 的国际版价格在输入超过 256K 后跳到 2.00 / 6.00。用促销价做全年预算，等于给自己埋一个 2 倍的账。
2. 峰谷定价真实存在。 DeepSeek V4 Flash 的官方价为离峰 0.22 / 0.66、峰段 0.44 / 1.32，峰段为 UTC 工作日的两个时段。如果你把离线批处理挪到离峰时段，同一批任务能省一半。
3. 缓存命中价差三个数量级。 DeepSeek V4 Flash 缓存命中输入低至每百万 0.007 美元。RAG 或多轮对话场景里，缓存命中率每提升 10 个百分点，输入成本下降约一个量级。
4. 输出单价通常是输入的 3 至 5 倍。 输入重的负载（翻译、文档重读）与输出重的负载（代码生成、长摘要）必须分开建模。

二、1 亿 token 月预算的真实账单​

取一个典型负载：1 亿输入 token + 1000 万输出 token。按上表单价估算：

同一份工作，账单差 26 倍。 但这里有个陷阱比价差本身更重要：一个 0.14 美元的模型如果需要三次重试才给出正确结果，实际成本是 0.42 美元——比一次成功的 0.50 美元模型更贵。重试率必须计入单 token 成本。

三、什么规模开始值得自建​

自建的门槛取决于你的月 token 量。公开分析给出的经验阈值是：70B 级模型在每月 5 亿至 8 亿 token 以上时，自建的推理开支相比前沿 API 标价可降低 65% 至 80%。

而自建的另一条参考线来自芯片视角。联想 2026 年的生成式 AI TCO 研究给出：自托管 Llama 70B 的每百万 token 成本约 0.11 美元，而同类托管 API 约 2.00 美元，相差约一个数量级；对一台 Blackwell 级系统连续运行对标按需云价，五年节省超过 500 万美元，降幅 83.8%。

但这些数字有一个共同前提：硬件不闲着。该研究测算的盈亏平衡点，在对标按需云价时不到四个月，在对标深度折扣的多年期预留合约时则拉长到九到十个月。

四、实测框架：四步算出你的真实单位成本​

第 4 步的实操做法：拿一台具体卡型（比如 8 卡 H200 整机，月租 5 万至 6.6 万元；或 B200 云端按需约 5.98 至 8.60 美元/卡时），用你实测的吞吐（token/s）换算出月产出 token 总数，再除以月成本，得到自建的每百万 token 成本。这个数字必须用你自己的实测吞吐，不能用厂商标称峰值。

五、Q4 选型清单​

• 默认档：把 DeepSeek V4 Flash 或 Qwen3.8 Flash 作为新功能的第一落点，前者综合性价比最优，后者输入最省。
• 离线档：批处理、评测、数据清洗全部挪到离峰窗口，并接缓存，DeepSeek V4 Flash 缓存命中输入低至 0.007 美元/百万。
• 旗舰档：只在具体任务被证明需要时升级。GPT-5.6 Luna 被称为「旗舰 90% 质量、2% 价格」的位置，Claude Opus 5 与 GPT-5.6 Sol 的差价买的是能力上限而非平均表现。
• 自建评估档：月 token 量稳定在 5 亿以上、且负载 7×24 有基线，才启动自建建模。
• 预算纪律：所有促销价按到期后的价格做全年预算，把峰值定价按峰段价做压测。

一句话总结：2026 年 Q4 的 token 成本优化，重点已经从「找便宜的模型」转向「选对计量口径」——缓存、峰谷、重试率、促销到期日，这四项加起来的量级远超模型之间的价差。

千卡以下可以拍脑袋，万卡规模必须算账。自建、租用、混合三种路线的资金量级差出一个数量级，本文把三本账摊开对比。

一、自建万卡：钱花在哪​

以 8 卡 HGX H100 服务器为例，2026 年海外 OEM 整机报价约 25 万至 32 万美元。一万张卡即 1,250 台服务器，仅 GPU 节点硬件就在 3.1 亿至 4 亿美元。这还只是起点：按 SemiAnalysis 的估算，每台服务器还要追加约 6 万美元的网络、存储与机柜配套；万卡集群的组网用 IB 交换机、光模块、分布式存储通常再占总投资的 15% 至 25%。此外，8 卡 H100 仅 GPU 满载功耗就达 5.6kW，整机按 8kW 计，一万张卡对应约 10MW 的 IT 负载，加上制冷冗余实际要按 12 至 15MW 规划变电站。多数城市拿到这个量级的电力指标，周期以年计。

自建的真实优势在于三点：规模化后的单位成本低（自持 H100 三年摊销的全成本可低到每卡时 1.35 至 1.92 美元）、数据完全可控、以及资产残值（三年后 H100 二手仍能回收两至三成价值）。代价是资金门槛高、建设周期长、以及技术迭代风险——Blackwell 与 Rubin 世代逐步铺开后，H100 的残值曲线会进一步下探。

二、租用万卡：单价与长协​

云端路线的公开价格区间如下。海外超大规模云厂商的 H100 按需价约每卡时 3.85 至 4.20 美元；AI 云（neocloud）约 1.99 至 2.59 美元；一年期长协可压到 1.45 至 1.85 美元。国内方面，第三方平台 H100 单卡时租报 28 至 35 元，部分渠道低至 9.5 元上下；A100 80G 约 16 至 22 元；4090 约 2 至 4 元。值得注意的是 2026 年供需趋紧，国内高端卡租赁价格年内整体上涨了约三成，H200 月租已到 6.7 万至 9 万元一台（8 卡）的水平。

三、混合路线：多数公司的最优解​

实践中的最优解往往是"基线自建，峰值租用"。把长期稳定的负载（如在线推理、常态化实验）放到自建集群，把训练冲刺期、大版本迭代的峰值需求用云端弹性消化。判断混合比例的一个实用公式：自建规模 = 全年负载曲线的 P50 水位，超过 P50 的部分交给租赁。这样自建资产的利用率能稳定在 70% 以上——这正是自建成本优于按需租赁的盈亏平衡点（约七成利用率）。

规模在 1,000 至 3,000 卡之间的团队还有一条中间路线：整机柜租赁或"可搬迁"设备。国内市场已出现 910C 单台月租 5.8 万元、910B 系列 1.35 万至 1.9 万元的可搬迁报价，适合项目制团队按训练周期占有机柜而不用建机房。

四、结尾决策清单​

1. 训练需求不确定、产品未验证：全租按需，别买任何硬件。
2. 负载稳定、三年内确定持续投入、能拿到电力指标：自建，但按 P50 而非峰值规划规模。
3. 两者之间（多数公司）：混合路线，自建基线加长协兜底加按需峰值。
4. 国内团队拿不到进口卡：评估昇腾 910B 或 910C 的租赁与可搬迁方案，先跑通生态再谈规模。
5. 无论哪条路，签长协前先做一个月的真实负载压测，用实测利用率反推合同量——万卡规模下，15% 的利用率误差就是数千万美元的浪费。

"月处理 10 亿 token，该买卡还是调 API？"这个问题的答案取决于四个变量：token 量、模型档位、利用率、以及隐性工程成本。本文给出一套可以直接代入自己数据的计算框架。

一、第一步：把 API 账单算清楚​

以 2026 年公开价格为基准。国产旗舰档：DeepSeek V3.1 输入约 2 元、输出约 8 元每百万 token；GPT-4o 级别约 2.5 美元输入、10 美元输出；轻量档模型（GLM-4 Flash、Qwen-Turbo 类）低至几毛钱每百万 token。由于输出单价比输入高 2 至 5 倍，估算时按"输出 token 为主"计费更接近真实账单。

一个实用换算：典型对话场景每次请求约 800 输入加 400 输出 token，用 DeepSeek 级旗舰模型，10 万次请求约 45 至 50 元人民币；用 GPT-4o 级模型约 300 元上下；用轻量档模型不到 10 元。先把你业务的月请求量和每次 token 数估出来，API 月账单基本就落定了。

二、第二步：把自建成本拆开​

自建的总成本由四块组成：

1. 硬件摊销：按三年直线摊销。参考价：8 卡 4090 服务器约 25 万至 35 万元，折合每月约 0.7 万至 1 万元；单卡 4090 整机约 2 万至 2.5 万元，每月约 600 至 700 元。
2. 电力与机房：8 卡 4090 满载约 2.5kW，按工业电价加制冷 24 小时运行，每月电费约 2,000 至 4,000 元；托管机房则按机柜计费，每月 3,000 至 8,000 元。
3. 人力：这是最容易被漏掉的项。一人兼职维护按每月 0.5 至 1 个人力成本计，全职 MLOps 每月 2 万至 4 万元。小规模自建的账常常"算得过来，养不过来"。
4. 闲置风险：利用率不足时，固定成本照付。

三、第三步：算平衡点​

一个可以直接套用的算例。假设业务每月处理 50 亿输出 token，用 DeepSeek 级旗舰 API，月账单约 4 万元（输出 8 元每百万乘 50 亿，加输入部分合计约 4 万至 6 万元）。若自建：部署开源同档模型需要 8 卡 H100（整机约 180 万至 240 万元，月摊销 5 万至 7 万元），加上电费与人力，月固定成本约 7 万至 10 万元——API 明显更便宜。

换成轻量档模型（输出约 1 元每百万 token）：同样 50 亿 token 月账单仅约 5,000 至 8,000 元，自建 8 卡 4090（月综合成本约 1.2 万至 1.5 万元）反而更贵——此时 API 依然是赢的，除非你的模型是精调过的私有模型，API 侧没有对等选项。

什么时候自建赢？三个条件叠加时：月 token 量达到百亿级以上、有私有微调模型必须自托管、利用率能稳定超过六成。以 8 卡 4090 承载 7B 至 14B 级量化模型为例，满负荷月吞吐可达数百亿 token，摊薄后每百万 token 成本可低至 0.1 元以内，远低于任何 API。

四、第四步：别忘了五个非价格变量​

价格之外的决策项：数据合规（金融、医疗数据出境与第三方处理限制可能一票否决 API）；延迟与可用性（自建可定制调度，API 受制于厂商限流）；模型锁定（重度依赖某家 API 的私有能力，迁移成本会随时间上涨）；技术迭代（API 免费享受模型升级，自建硬件三年后性能落后两代）；缓存红利（API 的前缀缓存折扣普遍在七成以上，系统提示词设计得当能大幅压账单）。

五、结尾建议​

给一个默认决策路径：月账单低于 5 万元一律用 API，把工程人力省下来做产品；账单进入 5 万至 25 万元区间时，先做两件事——用前缀缓存和模型路由（简单请求走轻量模型）把账单压三成，再评估是否有必须自托管的私有模型；超过 25 万元且负载稳定，启动自建评估，但建议自建规模按 P50 负载规划、峰值仍走 API。算力决策的本质是风险定价：API 买的是灵活性，自建买的是规模化单价，看清自己的负载曲线，答案就在曲线里。

According to ZhiXun (media) reporting in late September, Nebius announced that on-demand rates for H100 / H200 / B200 will rise by an average of about 20% starting October 1. The same month, Cailian Press reported that as of August 11 CoreWeave's contracted power had grown to 4.2 GW and that it would "keep signing new compute at higher prices". This is the Nth consecutive price increase in the rental market this AI cycle — and for buyers, the TCO balance between building and renting is shifting. This article works through the math using the site's TCO calculator methodology.

1. Three Forces Behind the Price Hikes​

• Exploding agentic inference demand: from MLPerf v6.1 to SemiAnalysis AgentX, agentic workloads have become the main engine of inference growth — token consumption is orders of magnitude beyond chat scenarios, and inference compute has gone from "enough" to "never enough";
• Supply premium on the new platform generation: Vera Rubin NVL72 has debuted on CoreWeave, and early-ramp pricing on new platforms is naturally elevated — which also raises the anchor for renewal prices on the previous generation (H100/H200/B200);
• Power has become a hard constraint: CoreWeave's 4.2GW of contracted power shows the data center supply bottleneck has shifted from GPUs to power and racks; enterprises holding power contracts have no reason to cut prices.

2. What a 20% Rent Increase Means for TCO​

The site's TCO calculator splits total cost of ownership into five parts: purchase + energy + operations + network + discounting. Rent increases don't enter that model directly, but they change the "rental baseline" — the opportunity cost a build option must beat:

Rules of thumb:

• For workloads running 24/7 at full load for 2 years or more, a 20% rent increase is usually enough for building (even at a 1.5x purchase premium and with a PUE 1.3 energy model) to overtake renting within 30 months;
• Tidal workloads (daytime peaks, idle nights) should still rent — under the assumption that a build pays a continuous 15% idle power draw, building almost never breaks even below roughly 50% utilization;
• A hybrid strategy (owned baseline + rented peaks) is least sensitive to rent increases and is the robust play in the current interest-rate and power-price environment.

You can re-derive these conclusions in the TCO calculator: enter the "cloud rental unit price" at +20% and compare scenarios across purchase price, electricity price, and PUE. The default discount rate is 8%; purchase costs are not discounted, and annual electricity is discounted by 1.08^-y.

3. Pricing Implications for Domestic Compute​

Rent increases have a layer of impact on domestic AI chip purchasing decisions that is easy to overlook:

• The rental market for domestic chips is not yet mature: compute from Ascend / Cambricon / Moore Threads is delivered mostly as appliances, full racks, and intelligent computing center allocations; public on-demand rental prices are scarce — so procurement comparisons naturally lean toward "build / full-system" models;
• Relative TCO shift: a 20% NVIDIA rent increase raises the "relative attractiveness" of every domestic alternative, especially for inference workloads (actual market transaction prices for 910C / 950PR / P800 on the primary market are not public, but the full-system price gap versus dollar-priced cards is widening);
• Supply cadence: DeepSeek betting on Ascend training and rumors of 160,000-unit 950DT purchases — top demand eats capacity first, and queue times for later buyers are lengthening. Deciding early has value in itself.

4. Takeaways​

• Nebius raises H100/H200/B200 on-demand rates +20% from October; CoreWeave's contracted power at 4.2GW keeps locking in volume at high prices — rental market supply and demand remain tight;
• Agentic inference + Rubin supply premium + power constraints: three forces pushing rents up, with no near-term reversal in sight;
• Decision framework: steady workloads 2 years+ → the build window opens; tidal workloads → keep renting; hybrid strategies are most price-hike resistant;
• What to watch: whether other clouds follow with price moves, formal Rubin rental pricing, and whether a public rental market for domestic compute emerges.

Further Reading​

• TCO Calculator (this site's interactive tool, full parameters for purchase / energy / discounting)
• Vera Rubin NVL72 MLPerf v6.1 Debut
• DeepSeek Confirms Bet on Huawei Chips for Large-Model Training

References​

• ZhiXun (media): Nebius raises AI chip rental prices; from October 1, H100/H200/B200 on-demand rates rise about 20% on average (2026-09-21)
• Cailian Press / East Money: CoreWeave deploys multi-rack Vera Rubin NVL72 cluster, contracted power grows to 4.2 GW (2026-09)

This article is compiled from public reports; TCO conclusions depend on assumptions such as utilization, electricity price, and discount rate. Please re-compute with your own parameters using the TCO calculator.

2026 H2 is the richest era for the AI compute market: NVIDIA Rubin R200, AMD MI400, Trainium 3, TPU 8t/8i, Ascend 920, and Groq 3 LPX are all in place. This article provides a complete selection tree to help you choose the most suitable product based on model size, training/inference, latency requirements, budget, and region.

On December 2, 2025, at the re:Invent 2025 conference, AWS formally GA'd its third-generation custom AI training chip Trainium 3. This is a critical upgrade to the AWS compute landscape: 3nm process, 4.4× compute improvement, 4× efficiency improvement, Trn3 UltraServer with 144 chips. This article provides a detailed analysis.