10 月 8 日，壁仞科技官方披露：新一代 AI 芯片 BR20X 成功点亮并完成启动测试，正式进入流片后验证阶段，研发进度快于此前预期。同步公布的还有一笔 40.40 亿港元的配售募资——70% 直接投向新一代产品的供应链采购与产能准备。

BR20X：官方口径与边界​

壁仞此次披露的信息边界很清晰：

项目	官方口径
架构	自研指令集、自研计算核心 + Chiplet 架构
数据格式	重点增强 FP8、FP4 原生支持
互联	自研 BLink 2.0，规划最高 1,024 卡 Scale-up 集群
状态	2026-10-08 点亮，流片后验证阶段
下一步	未来数个季度启动送样及量产（待验证认证）

注意两个边界：点亮不等于性能验证完成，更不等于量产良率确认；壁仞尚未公布任何算力、显存或功耗参数，任何具体性能对比都属推测。

40 亿港元募资投向量产​

配售计划：以每股 31.08 港元配售 1.3 亿股新 H 股，募资总额约 40.40 亿港元（净额约 40.20 亿）。其中约 70% 用于新一代产品供应链采购、产能准备及商业化落地，其余用于研发、软件生态升级与营运资金（配售尚需审批）。

这个资金投向透露了行业逻辑的变化：壁仞在公告里明确说，客户需求正「从单颗 GPU 转向集成互连、网络、存储和冷却系统的超节点及机架级算力方案」。国产 GPU 厂商的资本开支已经从「流片钱」转向「产能钱」——先进封装、HBM 采购、整机柜交付能力的投入，比流片本身更烧钱。

四小龙的下一代时间表​

把壁仞放回国产 GPU 第一梯队的坐标系（各家披露口径）：

厂商	下一代产品	关键节点	重点方向
壁仞	BR20X	已点亮，未来数季度送样量产	FP8/FP4 原生，BLink 2.0 千卡 Scale-up
沐曦	曦云 C700	2026 下半年流片、2027 下半年量产	新增 FP4，万卡互连
摩尔线程	华山（AI）/ 庐山（图形）	2026 年内量产 / 上市	第五代花港架构
燧原	第五代云端 AI 芯片	2027 年发布	FP4、跨模态生成

时间表高度收敛：2026 下半年流片或点亮，2027 年量产。2026 年的市场仍由现有量产型号（昇腾 910C、思元690、MTT S5000、曦云 C600）承载，2027 年才是新一代国产高端 GPU 真正可评估的年份。

同周的佐证：工博会上的超节点转向​

10 月 12 日开幕的上海工博会首设「国芯展」，几乎所有主流 AI 芯片企业都把展示重心从单卡换成超节点：天数智芯展出天垓300 IXL144（单机柜 144 颗 GPU）、沐曦展出曦景 S600（单机柜 64 卡全互连）、燧原与中兴合作展出云燧 ESL64-O。壁仞 BLink 2.0 规划的 1,024 卡 Scale-up，瞄准的正是同一个市场。

对采购方的建议是：2026 年内的国产卡选型仍以「现有量产型号 + 超节点方案」为准；BR20X 等新一代产品在官方公布实测数据与量产良率之前，只做技术跟踪、不做采购承诺。

相关阅读​

• 壁仞 BR20X 芯片卡片
• 壁仞 BR104 芯片卡片
• 摩尔线程 MTT S5000 芯片卡片

过去国产 AI 芯片常被诟病「故事丰满、报表骨感」。寒武纪 2025 年报与 2026 一季报给出的是另一组数字：全年扭亏为盈、单季营收同比增近 160%、尚未发布的产品先涨价两三成。国产算力正在进入业绩兑现期。

财务数字一览​

指标	数值	口径
2025 全年营收	64.97 亿元（同比 +453.21%）	年报
2025 归母净利	20.59 亿元（扭亏为盈）	年报
2026Q1 营收	28.85 亿元（同比 +159.56%）	一季报
市值	曾超万亿元（2026 年 6 月）	二级市场

单季 28.85 亿、全年 64.97 亿——2026 年一季度一个季度的收入接近 2025 全年的一半，增长斜率仍在变陡。

MLU690：从纸面到量产​

思元690（MLU690）2026 年初量产后，进展沿两条线推进：

• 产品线：双 die Chiplet 封装、中芯国际 N+2 制程，FP16 算力 700+ TFLOPS 为当前国产纸面算力天花板之一；2026-09 价格口径为官方指导价 190,000 元、市场均价 175,000 元（市场流传价，非公司公告价）。
• 集群线：WAIC 2026 落地 256 卡规模超节点集群方案，已在多地智算中心部署；运营商、金融、互联网行业规模化部署。

涨价的供需逻辑​

据 Reuters 2026-09-10 报道，受 HBM 成本飙升影响，寒武纪对下一代处理器（暂称思元790，预计 2026Q4 出货、2027 放量）的意向报价较两个月前上调 20%-30%。寒武纪董秘办回应「未发布过相关公告，一切以官方公告为准」——即绝对金额是市场流传口径，相对涨幅是 Reuters 报道口径，引用时务必分层。

涨价背后是三重叠加：HBM 等关键供应紧张（与昇腾 950DT 同因）；国内大模型训练与推理国产化率提升带来的需求确定性；智算中心集中采购把国产加速卡从「备选」变「必选」。订单排到数月之后时，涨价既是成本传导，也是筛选客户、平衡产能的手段。

与华为的双头格局​

徐直军 10 月 6 日在 HC 大会确认昇腾中国份额已超英伟达（华为统计口径），同时强调「能满足国内需求还远远不足」。这决定了国产算力市场的基本格局：昇腾供给受制于产能，寒武纪等厂商承接溢出需求。对采购方，昇腾渠道的排队周期反而给了思元690、MTT S5000 等替代方案真实的验证窗口。

风险提示​

• 思元690 的千卡以上分布式训练损耗仍高于成熟生态（MLU-Link 与 NVLink 的工程成熟度差距），单机 8 卡与小集群表现优异，大规模预训练场景需实测
• 价格均为渠道或市场流传口径，采购以正式报价单为准
• MLU-Link 890Gbps 的互联规格与 NVLink 4 900GB/s 接近，但软件栈成熟度差异无法从规格表读出

相关阅读​

• 寒武纪思元690（MLU690）芯片卡片
• 摩尔线程 MTT S5000 芯片卡片
• 华为昇腾 950DT 芯片卡片

10 月 12 日，第二十六届中国国际工业博览会在上海开幕，首次独立设置集成电路展（国芯展），300 余家芯片企业参展。逛完展区最直观的感受是：几乎所有主流 AI 芯片企业都把展示重心从芯片、加速卡转移到了「超节点」——外形像发光衣柜的机柜级系统，正在成为 AI 时代的水电煤。

需求侧：算力增速 87.9% 的背景板​

IDC 报告给出了超节点热度的注脚：2026 年中国智能算力规模预计达 2,576.5 EFLOPS，同比增长 87.9%。随着大模型与智能体（Agent）加速投入生产，推理算力接替训练成为新增长极，而推理对「多卡协同效率」的敏感度远高于单卡峰值算力——这正是超节点的用武之地。

展会上的超节点图谱​

厂商	方案	关键规格（公司口径）
天数智芯	天垓300 IXL144	单机柜 144 颗 GPU + 18 颗 CPU，约 10.1TB 显存，业界最高密度单机柜 GPU 超节点
沐曦	曦景 S600	单机柜 64 卡全互连，支持横向扩展至万卡规模
燧原	云燧 ESL64-O（与中兴通讯合作）	正交架构、高密集成、零线缆设计，支撑万卡级以上集群组网
东方算芯	慧算 HS256	双机柜 8 台液冷服务器，单超节点 33 PFLOPS（FP16），年底交付千卡级集群

天垓300 IXL144 的思路值得单独说：它跳出单一芯片性能比拼，采用适配行业通用标准的单机柜形态，在现有机房条件下即可部署，支持一次规划、弹性分步扩容。天数智芯测算每百万有效 Token 成本较国际主流方案下降约 40%（公司口径，无第三方验证）。天垓系列已实现万卡级商业部署，覆盖 30 余个行业、380 余家客户。

沐曦还有个奖项之外的产品线值得记录：曦索 X302 科学智能 GPU 获 2026 国芯展创新成果奖，搭载 MetaXLink 支持 128 卡超节点低时延组网，面向气象海洋、流体力学、分子动力学等 AI4S 场景——国产 GPU 正在把「科学计算」作为差异化战场。

超节点不是造个机柜​

工博会现场传递的工程现实是：超节点是系统工程，比拼的是系统经济效能——互连时延、故障自愈、CheckPoint 秒级保存、异构混训、算电协同。研报口径下，传统 8 卡服务器集群 MFU 约 30%，而 4,096 卡超节点集群的 MFU 可提升 2.75 倍。MFU（模型算力利用率）每提高一个百分点，等于同样的电费多产出一份 Token——这才是超节点竞赛的本质。

采购视角的两个提醒​

1. 「单机柜 144 卡」的可比性：不同厂商的卡性能、互连带宽、显存容量差异巨大，比较超节点要看整机柜的 FP8/FP4 总算力、总显存与互连拓扑，不能只数卡数。
2. 公司口径与实测口径：本表规格均来自各公司发布口径，采购评估应要求 PoC 实测 MFU 与单位 Token 成本。

相关阅读​

• 天数智芯天垓300 芯片卡片
• 沐曦 C600 芯片卡片
• 华为昇腾 950DT 芯片卡片

讨论 AI 芯片时，注意力总在「3nm 还是 2nm」。但供应链的真相是：决定你能买到多少颗芯片的，往往不是晶圆厂，而是封装厂。

一、为什么封装成了瓶颈​

现代 AI 加速器是「逻辑芯粒 + HBM 堆叠」的异构集成体：

• 一颗旗舰 AI 芯片需要 8 颗以上 HBM，每颗 HBM 又是 8-16 层 DRAM 堆叠
• 2.5D 封装（CoWoS 家族）把逻辑芯粒与 HBM 集成在同一基板上，产能受限于中介层与基板供应
• 前道晶圆可以加班扩产，CoWoS 的扩产周期以年计——先进封装才是整条链的节拍器

这就是为什么 OpenAI 与 Broadcom 的自研芯片项目要预先锁定台积电 CoWoS-L 产能：拿到封装额度，才真正拿到出货权。

二、HBM4 时代的封装技术竞赛​

技术	作用	玩家
CoWoS-L	硅桥中介层，支持多芯粒 + 高密度 HBM 集成	台积电（产能最紧缺）
混合铜键合	支撑 16 层以上堆叠，热阻降低 20%+	三星（HBM4）、SK 海力士
1c DRAM 工艺	HBM4 速率 11.7-13Gbps（JEDEC 标准 8Gbps）	三星
Turnkey 模式	4nm 逻辑基片 + HBM4 + 封装打包供应	三星（反击 SK 海力士的先发生态位）

SK 海力士凭 HBM3E 世代的认证先机占据约 50% HBM 收入份额，三星 33%、美光 18%。HBM4 世代三星押注「按性能定价」+ turnkey 打包，竞争逻辑从「谁的产能大」切换为「谁的性能强、谁的集成度高」。

三、先进制程的真实意义​

2nm 的价值经常被高估为「算力翻倍」，实际上它的作用更精确：

• 能效比：同算力下功耗下降，直接决定 1800W 封顶（风冷/液冷阈值）下能塞进多少算力
• 逻辑芯粒密度：N3P 相对 4NP 约 1.3 倍密度、18% 动态功耗下降——对推理专用芯片，砍掉 FP64 后的面积红利进一步放大
• 成本：先进制程晶圆更贵，这也是为什么推理 ASIC 会认真考虑「上一代制程 + 大芯片」还是「先进制程 + 专用化」的权衡

四、给采购者的三个提醒​

1. 交期谈判要问到封装层：问「CoWoS 额度锁到哪一季度」，比问「流片了没」更能预测交付
2. HBM 世代与芯片世代解耦看：HBM4 三倍报价意味着 2027 年新平台的内存成本占比继续抬升，存储超级周期要计入 TCO
3. 国产替代看封装机会窗口：先进封装（2.5D/3D）的技术追赶周期短于 EUV 前道制程，是国内产业链现实性更强的切入点

延伸阅读：机柜即产品 · HBM4 三倍报价 · 完整对比表

2026-11-08 更新：NVIDIA 把钱投到封装产能上​

路透 11 月 8 日报道（环球网、腾讯新闻转载），台积电 CoWoS 产能趋紧，NVIDIA 计划投入数十亿美元支持日月光投控旗下矽品精密扩建 CoWoS 先进封装产能，资金用于无尘车间与生产设备；NVIDIA 未回应，日月光表示不评论客户传闻。Yole Group 预测 2026 年先进封装市场规模将首次超过传统封装，相关资本支出接近 280 亿美元。

把这条放回本文第一节：CoWoS 额度之所以能决定交付，是因为扩产周期长且客户集中；现在最大的买家开始直接出钱帮第二供应商扩产，说明它判断单靠台积电排产已不够覆盖 2027 年的机架需求。第四节第一条建议因此更该照做——交期谈判要问到封装厂和季度额度，而不只是问「有没有 CoWoS」。不过要分清楚：这是媒体报道的资本计划，不是已投产产能，也不改变 HBM4 堆叠与混合键合的技术约束。

口径：路透报道，双方均未确认；280 亿美元为 Yole 预测。

谷歌造芯十五年，最被低估的变化发生在商业模式上：TPU 不再只是谷歌自家数据中心的「成本项」，而是谷歌云的收入项。2026 年，这个转变的证据链已经完整。

一、外部客户版图​

客户	合作内容	时间
Anthropic	承诺供应至多 100 万颗 TPU、2026 年超 1GW 容量（数百亿美元级）；2026 年 4 月再加订数吉瓦	2025-10 起
Meta	被曝签署数十亿美元合同，租赁谷歌 TPU 集群	2026 年报道
蚂蚁集团	高强度计算负载迁移至 TPUv7，训练性能提升 200%	2026-08 I/O Connect China
新兴云厂商	与 Crusoe、CoreWeave 等就 TPU 落地其数据中心进行洽谈	2026 年报道

Anthropic 是最大竞争对手之一，其算力命脉部分握在谷歌手里——这在商业史上几乎前所未有。而 Meta 一边推进自研 MTIA 路线图、一边与 AMD 签下最高 6GW 合作、同时还租用 TPU，「不把算力押注在单一硬件上」成为头部模型公司的共识。

二、出货量与收入节奏​

• TPU 出货量 2025 年约 250 万片，2026 年目标上调 50%、总量预计突破 370 万片
• 谷歌 CFO 在财报会上明确：2026 年 TPU 收入只占一小部分，大部分订单将在 2027 年兑现
• IDC 预测推理市场 ASIC 份额从 2024 年的 15% 升至 2030 年的 80%——谷歌是这条替代曲线的最大推手

三、为什么谷歌能做到而别人难以复制​

谷歌真正的护城河不是某一颗芯片，而是「芯片—模型—编译器—网络—数据中心—云」的垂直一体化：

• 自研光学电路交换机（OCS）支持 Pod 内网络拓扑动态重构
• XLA 编译器把软硬协同效率压到极致；2026 年 10 月 TorchTPU 开源后，PyTorch 生态的准入门槛进一步坍塌
• DeepMind 能预判未来模型形态、提前锁定架构方向
• 每一代 TPU 都真实部署在搜索、广告、YouTube 推荐和 Gemini 之上——庞大的自用需求托底，是自研芯片能撑过三代以上迭代的先决条件

四、对中国从业者的镜鉴​

百度昆仑芯常被拿来与 TPU 类比，但差距不在芯片本身，而在商业化半径：谷歌的 TPU 既自用又通过云对外规模化供给，而多数国内互联网大厂自研芯片仍停留在自用阶段。国产对外供给的力量是寒武纪、燧原、壁仞、沐曦这类独立芯片公司——融资与生态建设步步惊心，对标的是「巨头亲自下场」的另一种打法。

当芯片变成云服务的一部分，算力竞争的边界早已跨出国界。蚂蚁迁移 TPU 的案例说明：平台级算力竞争没有主场。

延伸阅读：TPU Ironwood 卡片 · TPU 8t/8i Q4 量产 · 完整对比表

2026 年 10 月，多家台系供应链调研给出同一判断：Google TPU v8 将在本季度（2026 Q4）进入硬件供应链量产阶段，2027 年成为明显放量年。TPU 从第八代起首次拆分为训练与推理两条产品线，这个变化的影响不亚于性能提升本身。

出货预测：402 万到 910 万颗​

凯基证券 2026 年 10 月报告的核心数字（供应链口径，非 Google 官方）：

项目	2026 年	2027 年（预估）
TPU v8 总出货量	约 402 万颗	约 910 万颗（+126%）
v8t（训练）	—	约 360 万颗
v8i（推理）	—	约 550 万颗
机柜出货	—	翻倍成长

需求侧最大的公开客户是 Anthropic：2025 年宣布扩至最高 100 万颗 TPU（超 1 GW），2026 年 4 月又与 Google、博通签署新协议，取得数 GW 的下一代 TPU（v8）产能，2027 年上线支撑 Claude 前沿模型。

8t 与 8i：第一次按负载拆分​

此前每一代 TPU 都同时承担训练与推理。v8 首次分化：

• TPU 8t（市场分析代号 Zebrafish）：训练专用，延续 3D Torus scale-up 架构，单 SuperPod 可扩展至 9,600 颗；面向大模型预训练与 embedding 密集负载。集成 Arm Axion CPU（Google 自研 64 核 Neoverse V2），TPU 与 CPU 协同。
• TPU 8i（市场分析代号 Sunfish）：推理专用，采用全新的 Boardfly 片间互联（ICI）拓扑，单 Pod 最多 1,152 颗 active TPU；面向后训练、采样、实时推理与推理型负载。

系统级升级同样激进：散热从芯片液冷升级为系统级液冷（单柜水冷价值约 4.5-5 万美元），电源引入**高压直流（HVDC）**架构（10kW PSU），PCB/载板大尺寸化。这意味着 v8 机柜的供应商结构比 v7 复杂得多——鸿海在 v8 拿到 TPU 层与 L11 机柜组装份额，Celestica 仍是 L10/L11 主力。

两个口径提醒​

1. 代工伙伴归属有矛盾。Google Cloud Next 官方材料与部分供应链调研对 v8t/v8i 分别由博通还是联发科参与开发说法相反。本站两代卡片的处理方式是：正文保留官方活动口径，预测数字标注为凯基证券口径，采购与研究引用时请注明来源层级。
2. 「出货量」不等于「可购买量」。v8 产能优先供应 Google 内部（Gemini、DeepMind）与 Anthropic 等大客户，外部云上可租用的 v8 实例预计要等 2027 年才逐步铺开。

对行业格局的意义​

TPU v8 放量 + Maia 300 部署 + Trainium 扩产，意味着 2027 年「非 NVIDIA 推理算力」的供给盘子里，自研 ASIC 将首次占到可观份额。对模型厂商，这意味着更低的推理单位成本与更强的议价筹码；对 NVIDIA，压力主要落在推理侧，训练侧的 CUDA 护城河短期无虞。

相关阅读​

• Google TPU 8t 芯片卡片
• Google TPU 8i 芯片卡片
• Google TPU Ironwood 芯片卡片

过去三年，AI 算力的叙事几乎是 GPU 的独角戏。2026 下半年，这张图变成了三角形：GPU 负责训练与通用推理，ASIC 接管固定的大规模推理，CPU 则因为 AI 代理的兴起重新回到关键路径上。

一、ASIC：从补充到主力​

四大云厂商的自研芯片成熟度已经拉开明显梯度：

厂商	自研芯片	状态
Google	TPU（已至 v8，训练/推理双线）	最成熟：单一超节点可串 9,216 颗，外部客户超百万颗
AWS	Trainium	高：Anthropic 的 Claude 运行在超过 100 万颗 Trainium2 上
Meta	MTIA（四款路线图）	发展中：同时与 AMD 签最高 6GW、租用谷歌 TPU
Microsoft	Maia 300	起步中：正式发布、2027 百万颗部署，主力仍是英伟达

IDC 预测推理市场 ASIC 份额从 2024 年的 15% 升至 2030 年的 80%。无论这个终局预测是否精确，方向已经清晰：工作负载固定、规模巨大、在意成本与能效的推理场景，正在系统性流向 ASIC。

二、CPU：AI 代理带来的意外变量​

这是 2026 下半年最容易被忽视的新变量。Meta 9 月推出个人 AI 代理 Muse——可以代用户寄信、订行程、填表单，且关掉 App 后长时任务仍在云端持续执行。AI 代理的推理需要 GPU，但任务编排、API 调用、数据查询与每个用户常驻的虚拟机，主要由 CPU 承担。用户越多、后台任务越多，CPU 需求越高。

需求信号已经出现：

• Intel CEO 表示其 CPU 产能只能满足约一半的 AI 相关需求
• Meta 计划部署数千万个 AWS Graviton 核心处理 AI 代理工作负载

三、竞争单位从芯片放大到机柜​

与三角分工同步发生的，是竞争粒度的变化：NVIDIA Vera Rubin、AMD Helios、华为 Atlas 950 超节点、Meta MTIA 400——竞争以整座机柜为单位展开。瓶颈随之扩散：从运算芯片延伸到内存、封装、互联、电源与散热。这也是 HBM4 三倍报价与先进封装紧缺的共同背景。

四、对采购决策的影响​

1. 不要用单一指标选型：训练看算力密度与互联，推理看每 Token 成本，代理编排看 CPU 与内存配置
2. ASIC 进入采购清单：2027 年起，非英伟达推理算力的供给盘子里自研 ASIC 将占可观份额，谈判筹码结构改变
3. 预算要留 CPU 项：智能体应用的成本模型里，CPU 与常驻虚拟机的开销不再是配角

延伸阅读：交互式对比工具 · TCO 计算器 · 超节点选型框架

2026 年 10 月，存储行业发生了一件足以改写 AI 成本模型的事：三星把 HBM4 的供应报价定在每 Gb 4 至 5 美元——约是 HBM3E（约 1.5 美元/Gb）的三倍，并已启动与主要客户的年度合同谈判。这不是普通的涨价，而是定价逻辑的换代。

一、三倍报价的数字拆解​

HBM 以每 Gb 为单位计价，一颗标准 HBM4 芯片容量通常在 24-36Gb。按三星报价区间中值计算：

项目	HBM3E	HBM4
单价	~1.5 美元/Gb	4-5 美元/Gb
单颗价格	~50 美元	100-180 美元
英伟达供货口径	17-18 美元/GB	31-32 美元/GB（SK 海力士）

对 Vera Rubin 这类单服务器搭载 8 颗 HBM4 的平台而言，仅内存一项，单台服务器成本就增加数百美元。三家供应商（三星、SK 海力士、美光）定价策略高度一致——美光在财报电话会上也明确表示「明年 HBM 价格可能大幅上涨」。

二、为什么敢涨三倍：供需的结构性断裂​

TrendForce 的几个数字构成了底气：

• 2026 年全球 HBM 市场规模增长 58% 至 546 亿美元，占 DRAM 市场近四成
• 产能缺口维持在 50%-60%
• 三星已将 2031 年前约 70% 的 HBM 产能分配给长约订单，现货价已涨至长约价的 4-5 倍
• 2027 年 HBM 混合平均售价预计同比上涨 121%

更关键的是晶圆消耗的挤出效应：单颗 HBM 占用的晶圆面积约等于 3GB DDR5。三星高管给出的量化关系是——HBM 在 DRAM 产能中占比每提升 1 个百分点，消费级 DRAM 供给就被压缩约 3 个百分点。当占比从约 20% 升至 2027 年的近 30% 时，消费级 DRAM 供给收缩幅度接近 30%，这解释了 DRAM/NAND 全面涨价的传导链条。

三、性能跃迁给了「按性能定价」的资格​

HBM4 的技术升级是真实的：三星 HBM4 稳定传输速率 11.7Gbps、最高 13Gbps（JEDEC 标准为 8Gbps），基于第六代 10 纳米级 1c DRAM 工艺与混合铜键合技术，支持 16 层以上堆叠、热阻降低 20% 以上。竞争逻辑从「谁的产能大」变成「谁的性能强」——客户没有替代方案，议价空间极小。

一个有趣的细节：部分客户为应对涨价考虑把 12 层堆叠降为 8 层，但 TrendForce 指出 8 层产品的每 Gb 成本反而比 12 层高 10%-20%——基片成本摊不薄，降价策略本身推高单位成本。

四、对 AI 算力成本的三级传导​

1. 芯片厂：HBM 占 AI 加速器 BOM 成本的比例显著上升，直接推高整机定价底座
2. 云厂商：微软、谷歌、亚马逊、Meta 的数据中心预算被推高，TrendForce 预估 2026 年企业级 SSD 位元需求年增突破 80%
3. 终端：成本通过云服务订阅费与 AI 产品定价传导——消费端已有体感，12+256GB 手机内存套件采购价涨至约 2200 元，DRAM 已超越 SoC 成为手机中最昂贵的元器件

五、对选型的启示​

在 TCO 计算器的口径里，芯片采购价只是显性成本，HBM4 时代的隐性变量是：同价位下 2027 年到货的芯片，单位算力成本可能因内存涨价而上浮。计划 2027 年扩容的团队，把 HBM 长约绑定与算力采购放在同一个谈判桌上，正在变成头部客户的标配动作。

新产能要到 2027 年底至 2028 年才陆续落地，高盛称这是 15 年来最严重的存储短缺。HBM4 的三倍报价不是周期高点，而是新定价基准的起点。

延伸阅读：NVIDIA Rubin R200 卡片 · AMD MI455X 卡片 · 完整对比表

推理时代的核心 KPI 只有一个：每百万 Token 的总成本。2026 年 10 月，公开可查的最低纪录是 2.01 美分——TPU v7 配合 vLLM-TorchTPU 栈在 SemiAnalysis InferenceX 8K/1K 测试上交出的成绩，较 9 月的 3.6 美分下降 44%。

一、推理成本的三块构成​

推理成本不是算力一项，而是三块的和：

成本项	占比趋势	决定因素
算力（计算）	解码阶段占比低	FP8/FP4 量化效率、批处理调度
内存带宽	解码阶段主导	HBM 容量与带宽、KV Cache 管理
存储/网络	随上下文变长上升	企业级 SSD、向量库、机间互联

关键认知：自回归解码是访存受限而非算力受限的工作负载——Token 生成速度的上限是「把权重和 KV Cache 从内存搬进计算单元的速度」。这解释了为什么 18 TB/s 的 Maia 300、19.2 TB/s 的 Rubin R200 这样的带宽数字，比峰值算力更值得看。

二、降价的四个引擎​

1. 低精度量化：FP8 → FP4 每一步都直接砍 KV Cache 与权重搬运量；专用矩阵单元（Maia 300 的 FP4 13.8 PFLOPS）把量化开销压到最低
2. 软件栈效率：vLLM 的 continuous batching、SGLang 的 RadixAttention、MLA 类低秩注意力——同一块硬件，软件代差可以拉开 2 倍以上成本差
3. ASIC 专用化：砍掉 FP64 与图形逻辑的推理芯片，把晶圆面积全部留给访存与低精度矩阵——OpenAI 的第一颗自研芯片就是这么设计的
4. 规模与利用率：超节点与机柜化把集群有效利用率从 30-40% 提到 60%+，摊薄固定成本

三、基准数字的正确用法​

SemiAnalysis InferenceX/InferenceMAX 的价值在于提供了一个横向可比的口径，但使用时要注意三点：

• 数字是开发者自报的（谷歌引用），跨厂商对比时要确认相同模型、相同精度、相同上下文配置
• 2.01 美分是 8K/1K 特定配置，长上下文场景成本结构完全不同
• 单价 ≠ TCO：还要叠加机时利用率、预留容量、故障率

四、给选型者的清单​

1. 把「每百万 Token 成本」写进采购 RFP，要求厂商按 SemiAnalysis 同款配置报数
2. 分别测算 Prefill 与 Decode 的成本结构——昇腾 950 的 PR/DT 双版本正是把这两段拆开优化的产物
3. 关注软件栈路线图：同一硬件半年后降价 44% 的案例说明，软件是推理时代最大的免费算力
4. 用 TCO 计算器把芯片价、功耗、PUE、利用率折现到统一口径

延伸阅读：TorchTPU 开源 · 存储超级周期 · 完整对比表

长江商报援引寒武纪中报的表述是：中国互联网大厂的 Token 日消耗正呈指数级增长，推理算力已接替训练成为新增长极。这不是一句口号——它正在改写芯片厂商的产品定义（训练/推理拆分）、云厂商的自研路线（全部推理优先）与采购方的成本模型。

需求侧：三组数字​

• IDC：2026 年中国智能算力规模预计 2,576.5 EFLOPS，同比增长 87.9%——增量主要来自推理
• Agent 效应：智能体任务的特点是多步骤、长上下文、持续运行，单次任务的 Token 消耗是传统问答的数十倍，且对延迟敏感
• 平台侧：商汤大装置披露日均 Token 服务量已达 2.42 万亿（公司口径），并规划异构 Token 工厂

推理负载的经济学特征与训练完全不同：训练追求峰值算力利用率，推理追求单位 Token 成本与延迟的平衡。这解释了为什么 2026 年 10 月的三场重磅发布全部是推理优先：Maia 300（长上下文/智能体）、GPU D 系列（decode 阶段 Token 成本）、TPU 8i（推理专用拆分）。

供给侧：产品定义随需求改变​

厂商	推理侧动作	信号
NVIDIA	Rubin 平台引入 Groq 3 LPU（GTC 2026-03 官宣）做低延迟解码	首次在自家平台引入第三方推理芯片
Google	v8 首次拆分出推理专用 8i	训练/推理产品线分家
微软	Maia 300 定位「主要推理系统」，2027 数吉瓦部署	自研芯片从辅助转为主力
Intel	GPU D 系列专攻 decode Token 成本	放弃 HBM 军备竞赛
华为	950PR（Prefill）/ 950DT（Decode+训练）双版本	场景细分设计
Meta	MTIA 承接全部推荐与 Llama 推理，训练仍外购	「训练买、推理自建」分工定型

行业分工已经清晰：训练买 NVIDIA（偶尔 AMD），推理自研或国产。这个分工在 2027 年只会加深。

价格信号：两套体系加速分化​

中国市场与国际市场的算力价格已经事实性分轨（口径：可复核成交数据，非渠道报价，引自行业媒体 2026-10 汇总）：

• 国内成交口径：B300 八卡整机约 1,880 万元、H200（2T 版）约 670 万元；租赁价格 B300 超 40 万元/月、H200 超 14.5 万元/月
• 海外合规口径：B300 八卡整机 400-800 万元（不含中国、不含税）
• 租赁性价比：SemiAnalysis 口径 MI355X 大客户批量租用约 1.50 美元/GPU 时、零售 2.90 美元

注意两个边界：上述国内数字是「成交价非报价」，且不含灰市与转口裸机口径；跨体系直接换算比较没有意义，因为供给条件（管制、保修、软件服务）完全不同。

对 2027 年采购决策的三点推论​

1. 推理容量规划要按 Agent 负载重估：多步骤智能体让单用户 Token 消耗放大一个数量级，按历史对话流量外推容量会系统性低估。建议按「日活 × 任务数 × 每任务 Token」建模，并预留 2-3 倍余量。
2. MFU 比峰值算力更值钱：超节点把集群 MFU 从约 30% 提升到 2.75 倍水平（研报口径），意味着同样的电费预算下有效算力翻倍。选型时「实测 MFU × 峰值算力」才是真实算力。
3. 混合供给成为常态：训练用国际旗舰、推理用国产或自研的分层架构，已经是大厂的标准答案。企业采购可以复制这个分层：核心训练集群保持 CUDA 生态，推理层引入国产卡（思元690、MTT S5000、昇腾 950PR 等）做成本优化。

相关阅读​

• 完整对比表（81 款并排）
• TCO 计算器
• 超节点时代的选型框架
• 寒武纪业绩兑现期分析