AI Compute Cards Wiki Editorial

当 Rubin R200 还在陆续爬坡之际，NVIDIA 的下一个两年已经被写进路线图：2027 H2 的 Rubin Ultra 与 2028 年的 Feynman。但与以往"官宣即定型"不同，Rubin Ultra 在 2026 年经历了一次罕见的架构大改——原版 4 芯片设计被取消。本文依据站内芯片数据库与行业路线图口径，拆解这次调整背后的工程与商业逻辑。

Rubin Ultra（V300）：从官宣到修订​

Rubin Ultra 在 GTC 2026（2026-03-17）与 Rubin R200 一同公布，定位超大规模训练/推理的顶端产品。据站内芯片数据库，其原版设计规格如下：

规格	参数（原版设计，待官方最终确认）
GPU 架构	Rubin 架构（MCM 多芯片模块）
封装	原版 4 芯片设计（已取消）
FP4 推理算力	推测约 100 PFLOPS（原版，密集）
FP8 训练算力	推测约 70 PFLOPS（原版）
显存容量	576 GB HBM4e（原版设计）
显存带宽	推测 >44 TB/s（HBM4e）
互联技术	NVLink 7（推测，单向 >3.6 TB/s）
TDP	推测 3000W+（必须液冷）
量产时间	推测 2027 H2 – 2028
定价	推测单 NVL144 机柜 1500-2100 万美元

原版 NVL144 机柜配置为 144 颗 Rubin Ultra GPU + 72 颗 Vera CPU，总显存 82.9 TB HBM4e，FP4 总算力推测约 14 EFLOPS，TDP 推测约 360kW——是 Vera Rubin NVL72（约 180kW）的整整一倍。

关键调整：4 芯片设计取消​

2026 年最重要的路线图变化，是据 SemiAnalysis 报道，原版 4 芯片 Rubin Ultra 设计因封装制造难度被取消，新版规模缩减约一半、性能相应减半，仅保留 2 芯片版本——规模扩展能力弱于原设计。站内芯片数据库也明确记录了这一调整。

与之相伴的是显存减配传闻：2026 年 9 月，SemiAnalysis 与科创板日报报道 Rubin Ultra 的 HBM 配置拟从 HBM4E 12-Hi（384GB 档）下调至 HBM4 8-Hi（192GB），三星配合开发 8 层产品。动因是 HBM/DRAM 涨价后内存已占整机 TCO 约 40%，减配后 HBM 成本可降超 50%；省下的预算转向 Scale-up 纵向扩展网络——以 NVL576 NPO 方案测算，Scale-up 网络占机架支出比例将从 4% 升至 12%。TrendForce 显示 NVIDIA 自 2026 Q3 起并行评估 HBM4E 8-Hi、HBM4E 12-Hi、HBM4 8-Hi 多套方案。

行业路线图口径：VR300 NVL576 与 Feynman​

行业路线图汇总口径（Thunder Compute，2026-10）给出了另一个观察视角，需注意与 GTC 2026 原版公布信息存在差异，最终以官方为准：

产品	目标时间	关键规格（行业口径）
Rubin Ultra VR300	2027 H2	100 PFLOPS FP4/GPU、1TB HBM4e、NVL576、机架约 600kW
Feynman	2028	规格未公布（preliminary/未确认）

这个口径下的 VR300 与站内数据库记录的原版 NVL144（576GB HBM4e/GPU）明显不同：单卡显存更高（1TB）、机柜规模更大（NVL576）、单机架功耗推高到约 600kW。两条信息线的分歧恰恰说明 Rubin Ultra 仍处于架构修订期，唯一确定的是方向——显存继续翻倍、机柜规模继续翻倍、功耗继续飙升。

一年一代：与客户 capex 的绑定节奏​

从 Hopper（2022）到 Blackwell（2024）再到 Rubin（2026），NVIDIA 已把旗舰产品节奏锁定为两年一代；而在同一代际内部，GB200→GB300 的中期升级又把"可买的最新品"刷新周期压缩到约一年。这种节奏对客户 capex 形成了强绑定：

• 锁定采购：超大规模云厂商若想保持算力性价比领先，必须按 NVIDIA 的节奏滚动下单，否则两年后单位算力成本被拉开数倍；
• 规划反推：Rubin Ultra 的 2027 H2 时间点，意味着客户 2026 年就要锁定机位、电力与液冷改造——约 600kW/机架的功耗口径直接改写数据中心设计规范；
• 竞争挤压：AMD Helios II/MI500 同样瞄准 2027 年窗口，NVIDIA 把 Rubin Ultra 顶在 2027 H2，本质上是在客户年度预算分配前抢先占位。

HBM4e 供给与功耗：砍半的真实原因​

Rubin Ultra"砍半"并非技术退缩，而是三重现实约束的交汇：

1. 封装良率：4 颗计算 die 的 MCM 封装对 CoWoS-L 工艺的良率要求过高，量产风险不可控；
2. HBM 成本：内存占 TCO 40% 的现实下，576GB→192GB 档的减配能省下过半 HBM 预算；
3. 功耗墙：原版 360kW 乃至行业口径 600kW 的机架功耗，正在逼近现有液冷基础设施与供电改造的承受极限。

省下的预算被重新分配给 Scale-up 网络——这透露出 NVIDIA 的判断：下一代旗舰的瓶颈不在单卡 FLOPS，而在机柜内纵向扩展的互联效率。光互联（NPO）进入 Scale-up 网络，就是这个判断的落地。

Feynman：2028 的悬念与命名暗示​

Feynman 目标 2028 年，目前规格完全未公布（preliminary/未确认）。但命名本身已传递信息——继以物理学家命名的传统（Fermi、Maxwell、Volta），Feynman（理查德·费曼）指向的是量子电动力学与路径积分的缔造者。行业普遍猜测其架构方向可能包括：更激进的近存计算、光子互联的规模化引入，以及面向 agentic AI 负载的原生优化。考虑到 NVIDIA 2026 年收购 Groq 后已在 LPU 架构上积累经验，Feynman 完全可能首次把"训练芯片"与"推理加速器"在架构层面统一调度。

不过需要冷静看待：NVIDIA 的公开路线图历来在临近发布时大幅修订，Feynman 的最终形态大概率与今天的任何猜测都不同。

与 AMD Helios II/MI500 的时间赛跑​

2027 年的正面交锋已经排定：AMD 的 Helios II 机架与 MI500 系列瞄准同一时间窗口。AMD 的打法是开放生态（UALink、开放 HBM4/4e 规格）+ 激进显存（延续 MI400 432GB HBM4 的堆料路线），而 NVIDIA 则以 NVLink 域规模与 CUDA 软件栈守正。Rubin Ultra 的架构修订，某种意义上正是对 AMD 显存策略的回应——当单卡显存竞争的成本效益递减时，把预算转向 Scale-up 网络与系统效率是更聪明的花法。

小结​

NVIDIA 2027-2028 路线图的核心叙事是"从堆规格到堆系统"：Rubin Ultra 取消 4 芯片设计、显存减配、预算转向 Scale-up 光互联，是 HBM4e 供给与功耗现实下的理性选择；行业口径中 2027 H2 的 VR300 NVL576 与 2028 年的 Feynman，则勾勒出机架功耗迈向 600kW、架构走向异构统一的下一幕。对采购方而言，最重要的不是记住这些规格数字，而是理解一年一代节奏下"早买早享受、晚买享折扣"的 capex 决策模型正在失效——不跟上节奏，两年后的单位算力成本差距将大到无法用预算延迟来弥补。

当整个行业在"堆算力"上内卷时，SambaNova 选择回答另一个问题：推理效率取决于喂饱计算单元的能力，而不只是计算单元本身。

RDU：可重构数据流架构​

SN40L 的核心是可重构数据流单元（Reconfigurable Dataflow Unit，RDU）。它没有采用传统的"CPU 式取指执行"或"GPU 式 SIMT"，而是把计算组织成可编程的数据流图：每个 RDU 插槽包含 1040 个模式计算单元（PCU）与 1040 个模式内存单元（PMU），通过可编程的数据流网络互连。

芯片采用台积电 5nm 工艺与 2.5D CoWoS 封装，集成两个 RDU 计算裸片，单插槽峰值算力为 638 TFLOPS（BF16），片上聚合内存带宽达数百 TB/s 量级。这种架构最大的价值在于算子融合：编译器可以把数百个复杂操作合并为一次内核调用，把中间结果留在片上。以论文中给出的 Monarch FFT 为例，未融合时算术强度为每字节约 39.5 次操作，完全空间融合后提升至约 410 次——外部访存需求大幅下降。

三层内存：SRAM、HBM、DDR 各司其职​

SN40L 最具辨识度的设计是三层内存体系：

内存层级	容量（每芯片）	角色
片上 SRAM（PMU）	520 MB	最高带宽，紧贴计算单元
片上 HBM（封装内）	64 GB	存放正在运行的模型与热点数据
可插拔 DDR DRAM	最高 1.5 TB	存放更多模型与检查点

这个设计的巧思在于容量与成本的平衡：HBM 贵而小，DDR 便宜而大。模型从 DDR 加载到 HBM 的速度超过 1 TB/s，因此一套 16 芯片的 SambaRack 拥有 24TB DDR，可以在单系统中驻留 DeepSeek-R1 671B 这样的大模型，也能同时服务大量小模型。SambaNova 披露，在混合专家推理部署中，SN40L 相比 DGX H100 端到端提速 3.7 倍，模型切换时间提升 15 至 31 倍，机房占地最多缩减 19 倍；整rack采用风冷，功耗约 10kW，远低于晶圆级方案的 23kW 水冷系统。

企业推理的差异化路线​

SambaNova 与 Cerebras、Groq 的公开对比揭示了路线差异：Cerebras 擅长单用户极致 token 速度，但 SambaNova 指出其每片 LPU 仅约 230MB SRAM、无片外内存，服务 70B 模型需要数百颗芯片；而 SN40L 用 16 颗芯片即可完成同类部署。换句话说，SambaNova 押注的是"多用户、多模型、企业级"的推理经济学，而非单点跑分。

据公开报道，2026 年 2 月 SambaNova 发布了下一代 SN50 芯片，宣称面向智能体 AI 工作负载提供 3.2 PFLOPS FP8 算力，三层内存可支持高达 10 万亿参数模型，软银成为首个客户，公司同期完成超过 3.5 亿美元融资，并宣布与 Intel 展开多年期软硬件协同合作。

小结与建议​

SN40L 的启示在于：推理时代的竞争正在从峰值算力转向"单位 token 的系统经济学"。如果你的业务是多租户、多模型的企业 AI 平台，或需要频繁切换模型、在私有环境部署超大模型，三层内存架构提供了 GPU 集群难以复制的容量弹性；如果追求单用户最低延迟，晶圆级与 LPU 路线可能更合适。选型的关键，是先弄清自己的负载形状。

在AI存储这条赛道上，落后一年半的代价是什么？三星用亲身经历给出答案：丢失整个Blackwell世代的主供资格，市值与声誉双重承压，高管公开道歉。但反转来得也快——凭借率先出货HBM4，三星在2026年完成了一场教科书级的追赶。

失位：一个认证延误引发的连锁反应​

故事的开端是2024年的HBM3E认证折戟。由于良率与可靠性问题迟迟无法通过英伟达验证，三星错过了H100、H200乃至Blackwell系列最肥美的出货窗口，HBM市场份额在2025年第二季度一度跌至17%的低点（据行业研究机构估算）。期间公司更换了芯片业务负责人，管理层罕见地为AI存储业务的延误公开致歉。

这段时间里，三星只能转向AMD等对认证要求相对宽松的客户出货HBM3E，同时在后台持续打磨工艺。对一家DRAM市占率全球第一的公司而言，这种"二线身份"的刺痛感可想而知——HBM是AI加速器物料清单中占比接近一半的成本项，缺席一个产品世代意味着数百亿美元级别的收入让渡。

时间节点	三星HBM关键事件
2024年5月	芯片业务负责人更换，HBM3E认证持续受阻
2024年10月	管理层就AI存储延误公开道歉
2025年9月	12层HBM3E通过英伟达认证，成为第三家合格供应商
2025年10月	与OpenAI签署星门计划战略存储合作意向
2026年2月	业界率先批量出货HBM4，引脚速率达11.7Gbps
2026年第二季度	HBM收入份额回升至33%（Counterpoint估算）

反扑：1c DRAM 加自研基底的技术豪赌​

三星的反扑建立在两步棋上。第一步是HBM3E的补票：2025年9月，其12层HBM3E历时约18个月终于通过英伟达测试，瞄准B300等加速器，第三季度开始出货。第二步才是真正的翻盘手——HBM4。三星采用第六代1c DRAM搭配自家4纳米逻辑基底die，成为三巨头中唯一能自产先进逻辑基底的厂商（SK海力士的基底需台积电代工），在集成度与成本结构上握有独特筹码。据报道，其HBM4在英伟达认证中以11.7Gbps的引脚速率超过10Gbps的要求，且无需重新设计即通过双档位认证。

产能层面同样激进：三星计划2026年底前将1c DRAM月产能提升至约15万片，并将全年HBM总产量提升至2025年的三倍以上，其中过半为HBM4。据行业报道，其HBM4良率已从约60%爬升至接近80%。市占率数据印证了反扑成效：Counterpoint估算显示，2026年第一季度三星份额21%，第二季度已升至33%，同期SK海力士为50%，美光18%。

下一步：Rubin 配额与星门赌注​

不过追赶战远未结束。据多家机构预测，在英伟达Vera Rubin平台的HBM4配额中，SK海力士预计拿下约七成，三星初始份额在两成到两成半之间——技术上限仍是约束，产能已不是瓶颈。三星更大的赌注押在生态位上：2025年10月与OpenAI签署星门计划战略存储合作意向，OpenAI的存储需求据估计最高可达每月90万片DRAM晶圆，接近全球DRAM产能的四成。

研判：追赶的终点是"跟随定价权"​

三星这场追赶战的最大启示在于：HBM竞争的本质不是产能竞赛，而是认证与良率的信任竞赛。三星已经证明自己能重新登上牌桌，但要从"跟随者"变成"定价者"，还需在11Gbps档位的良率上追平SK海力士，并在HBM4E定制化世代拿到属于自己的旗舰客户。未来两年，HBM市场大概率维持SK海力士领先、三星紧咬、美光卡位的寡头格局——而对整个AI产业来说，三强咬得越紧，加速器厂商的议价空间就越大。

华为昇腾与寒武纪之外，一批二线国产 AI 芯片厂商正在 2026 年集体进入收获期：上市潮、大厂订单与超节点产品同时落地，国产算力的第二梯队正在成形。

资本市场：从独角兽到上市公司的批量切换​

2026 年是国产 AI 芯片的上市大年。燧原科技的科创板 IPO 已过会并获注册批复，拟募资 60 亿元，公司自研迭代了四代架构、五款云端 AI 芯片；壁仞科技于 2026 年 1 月 2 日在港交所挂牌，开盘大涨 82%，市值一度突破千亿港元，成为港股 GPU 第一股；天数智芯也在 2026 年 1 月登陆港交所。据业界统计，摩尔线程、沐曦等厂商同样在冲刺科创板，"国产 GPU 四小龙"有望在资本市场聚齐。

厂商	资本进展	2026 年代表动作
燧原科技	科创板过会并获注册，拟募资 60 亿元	联合中兴发布云燧 ESL64-O 无线缆超节点
壁仞科技	港交所上市，市值一度破千亿港元	BR2xx 芯粒光互连千卡超节点，20 余款大模型当日适配
天数智芯	2026 年 1 月港交所上市	据媒体报道与字节跳动洽谈至少 5 万颗推理 GPU 采购
登临科技	据公开报道持续推进融资与商用	聚焦推理加速场景的规模化落地

产品与订单：超节点成为竞争主线​

2026 世界人工智能大会清晰地展示了行业竞争重心的迁移：从单芯片算力比拼转向芯片、高速互联与整机集群的系统级较量。壁仞科技推出基于芯粒架构 BR2xx 芯片的光互连千卡超节点，最多 1024 张 GPU 可共享同一内存空间；燧原科技联合中兴通讯发布的云燧 ESL64-O 超节点采用正交无背板设计，实现零线缆以大幅降低互联成本，其与腾讯云合作的"燎原"智算集群 3.0 已完成数千卡至万卡级部署。

订单侧的突破更具标志性意义。据多家媒体援引消息报道，字节跳动正与天数智芯洽谈采购至少 5 万颗智铠系列云端推理 GPU，若落地将成为继华为、寒武纪之后字节跳动的第三大国产 GPU 供应商；业界普遍认为，国产推理芯片定价约为英伟达同级产品的六到七成，成本优势叠加安全可靠测评的政策导向，正在推动互联网大厂从试点采购转向规模导入。登临科技等专注推理加速的厂商，也在互联网与行业客户中持续推进规模化商用。

生态与隐忧：窗口期不会永远敞开​

软件生态的比拼同样白热化。壁仞科技已对智谱 GLM、DeepSeek、通义千问等 20 余款头部大模型完成当日同步适配，其中 DeepSeek 全系列适配据称仅用数小时；2026 年 5 月，首批 9 款国产芯片获评国家最高安全可靠等级，壁仞、天数智芯等均榜上有名，信创需求的井喷进一步打开了市场空间。

但隐忧同样明确：先进制程产能受限于代工排期，交付能力决定谁能兑现政策红利；英伟达下一代架构随时可能随出口政策变化重返中国市场，国产芯片的时间差优势存在收窄风险。二线厂商能否从"能跑"走向"好用、稳定、规模供货"，仍是决定最终座次的关键。

小结​

2026 年的国产 AI 芯片第二梯队，第一次同时拥有了资本弹药、大厂订单与系统级产品能力。燧原、壁仞、天数智芯的上市潮解决了资金可持续性，超节点与大模型适配解决了生态可用性，剩下的问题——产能与长期竞争力——将在未来两年给出答案。

服务器 CPU 市场正在经历一次角色重定义：AMD 用 2nm 制程和 256 核密度继续扩大领先，Intel 被迫靠涨价在需求中求生，而 NVIDIA 自研 Vera CPU 则带着 AI 专用设计入场。AI 服务器里 CPU 不再是主角，但恰恰因此，它的选型逻辑被彻底改写。

AMD Venice：2nm 量产 + 256 核密度登顶​

AMD 第六代 EPYC "Venice"（Zen 6 架构，最高 256 核）已经在台积电 2nm 产线启动量产，这是行业首批进入 2nm 量产的处理器产品之一。更值得关注的是，量产正在从台积电延伸至 AMD 的亚利桑那工厂——先进制程的美国本土化，对政府采购和主权 AI 项目是重要的加分项。

项目	EPYC Venice（6th Gen）	说明
架构	Zen 6	新一代核心
最高核心数	256 核	服务器 CPU 密度新纪录
制程	TSMC 2nm，延伸至亚利桑那工厂	首批 2nm 量产处理器
角色定位	Helios 机架 CPU，配套 72×MI455X	AI 机架主机侧
下一代	"Verano"，已为 AI 工作负载预留设计	设计即前馈

Venice 还有两层战略价值：其一，它是 Helios 机架（72 颗 MI455X）的配套 CPU，AMD 的 GPU 机架方案因此获得了"自家 CPU+自家 GPU"的垂直整合能力；其二，下一代 "Verano" 已经为 AI 工作负载预留设计，说明 AMD 在产品定义阶段就开始为 AI 节点做优化，而不是拿通用服务器芯片顺手兼容。

Intel：年内三度涨价，份额仍在流失​

Intel 的处境则截然不同。10 月 5 日起，Intel 对 CPU 提价 10%——这是年内第三次涨价，驱动因素是 AI 需求带动的产能紧张。但涨价并没有止住份额流失：多家分析师在报告中持续给出卖出的建议口径，认为 Intel 服务器 CPU 的市场份额下滑尚未见底。

维度	AMD	Intel
制程	2nm 量产（Venice）	制程追赶中
核心数路线	256 核密度登顶	密度竞赛落后
价格策略	产品迭代驱动	年内三度涨价（累计幅度未公开）
服务器份额	持续提升	持续流失（分析师建议卖出口径）
价格支撑	机架级方案带动	AI 服务器配套 x86 需求托底

值得注意的悖论是：Intel 涨价的底气部分恰恰来自 AI——AI 服务器爆发也拉动了配套 x86 CPU 的需求，产能紧张让 Intel 敢于连续提价。但"涨价求生"的另一面是，客户在 AI 服务器 CPU 选型上的议价空间被压缩，这反而给了 AMD 和 NVIDIA 更多切入机会。

Vera 入场：AI 节点上的 CPU 重新定义​

NVIDIA 自研的 Vera CPU 是第三个变量。Daytona 基准测试给出了一个惊人的对比：Vera 跑千沙盒仅需 10.8 秒，而 AMD 旗舰 EPYC 9755 需要 88.4 秒——约 8 倍的差距。

对比项	NVIDIA Vera	AMD EPYC 9755
Daytona 千沙盒	10.8 秒	88.4 秒（约 8 倍耗时）
设计目标	专为 AI 节点设计	通用服务器负载
配套内存	Vera SCF + 1.5TB LPDDR5X	传统 DIMM 路线

Vera 的设计思路与通用服务器 CPU 完全不同：SCF 互联加 1.5TB LPDDR5X 的组合，是专为 AI 节点上"数据搬运 + 调度"的角色优化的。在 Grace/Vera 与 GPU 紧耦合的架构里，CPU 的传统性能指标（如 SPEC 系列）重要性下降，而内存带宽、与加速器的耦合效率成为新的评价维度。

分析：AI 服务器中 CPU 角色的重定义​

AI 服务器里，CPU 不再是算力的主角，而是被压缩到三个角色：主机侧调度（内核、虚拟化、作业分发）、数据搬运（存储/网络与 GPU 之间的通路）、以及配套生态（x86 软件兼容性）。这带来了三强格局下的不同打法：

• AMD 走密度路线：用 256 核 + 2nm 的硬件优势，同时服务传统虚拟化和 AI 机架主机侧，Venice 与 Helios 的绑定让"买 AMD GPU 就配 AMD CPU"成为默认选项；
• Intel 涨价求生：利用产能紧张和 x86 生态惯性提价保收入，份额换取现金流，等待下一代产品翻盘；
• NVIDIA 自研入场：Vera 不参与通用服务器竞争，只在 AI 节点上用专用设计建立垂直优势，Daytona 8 倍的差距就是其叙事武器。

对采购方的影响：三强博弈叠加产能紧张，意味着锁量窗口正在关闭。Intel 年内三度涨价已经发出信号——服务器 CPU 的价格曲线在 2026 年是向上的。有大批量采购计划的企业，应尽快与供应商锁定价格和交期；同时，AI 集群主机侧 CPU 的选型需要重新评估，传统"EPYC 对标 Xeon"的通用跑分逻辑，在 Vera 这类 AI 专用 CPU 出现后已不再充分。

小结​

服务器 CPU 市场的竞争维度正在迁移：从通用性能转向"AI 节点适配度"。AMD Venice 以 2nm + 256 核的量产优势延续密度路线，并借 Helios 机架实现 CPU/GPU 协同；Intel 连续三次涨价反映的是产能紧张下的议价权，而非竞争力回升；NVIDIA Vera 用 Daytona 基准 8 倍的成绩宣告 AI 专用 CPU 的独立赛道成立。对采购方而言，2026 年的关键词是"锁量"和"重估"——锁定涨价前的采购窗口，重估 AI 集群中主机侧芯片的技术选型标准。

当业务里有大量重复系统提示词、多轮对话历史或 RAG 共享文档时，vLLM 的 PagedAttention 只能做页级缓存，而 SGLang 的 RadixAttention 能把前缀 KV Cache 的复用率推到极高。这正是它被 DeepSeek 官方推荐的原因。

RadixAttention 到底省在哪​

传统推理框架里，每个请求都要为相同的前缀重复计算 KV Cache。SGLang 把已计算的 KV Cache 存进一棵基数树，新请求到来时先做前缀匹配，命中部分直接复用，只计算增量部分。社区实测数据显示：

场景	SGLang 缓存命中率	传统无前缀缓存方案
Few-shot 学习	85% 至 95%	接近 0
多轮对话	75% 至 90%	接近 0
RAG 共享文档	显著命中	接近 0

命中率直接转化为首 token 时延下降与吞吐提升。在重前缀负载的独立评测中，SGLang 相比 vLLM 有 29% 至 50% 的吞吐优势；而在单轮、无前缀共享的自由文本场景，两者差距很小，选型时要先看清自己的流量画像。

另外两个性能引擎​

零开销 CPU 调度器：传统调度是 CPU 准备批次、GPU 计算、再准备下一批的串行流程，GPU 在调度期间空转。SGLang 用流水线方式让 CPU 准备批次与 GPU 计算重叠，持续负载下 GPU 利用率可逼近满载。

结构化输出：Agent 应用要求模型严格输出合法 JSON。SGLang 把格式约束编译成有限状态机，每生成一个 token 都限制下一个可选 token 范围，从源头保证格式合法，避免了"生成后校验失败再重试"的浪费，底层通过 xgrammar 实现高速约束。

生产环境关键配置​

1. PD 分离：Prefill 是计算密集型，Decode 是访存密集型，两者资源画像冲突。SGLang 支持 Prefill/Decode 分离部署，通过 RDMA 高速网络连接，能显著降低每 token 平均生成时间并提升整体吞吐。DeepSeek 部署实践曾基于 96 张 H100 的 PD 分离加大规模专家并行，跑出接近官方报告的吞吐水平。
2. 显存与调度参数：结合业务上下文长度设置 max-total-tokens，避免 KV Cache 池过小导致频繁淘汰；高并发短输出场景可调大并行批处理窗口。
3. 硬件覆盖：SGLang 原生支持 NVIDIA、AMD、Intel Xeon、Google TPU 与昇腾 NPU，截至发稿社区数据显示其已在超过 40 万张 GPU 上运行，每天生成数万亿 token。
4. 版本管理：项目于 2025 年 3 月加入 PyTorch 生态，由 LMSYS 托管，迭代速度快、API 变动频繁，建议镜像锁版本，升级前跑回归。

实操建议​

上线前先统计业务的系统提示词与文档前缀重复度，重复度越高，SGLang 的相对收益越大。开启结构化输出时要给出精简的 JSON Schema，约束越细生成越快。如果团队已经在用 vLLM，可以按模型灰度切换并用同一套压测脚本对比 P99 时延与吞吐，用数据说话而不是跟风选型。

六年时间，旗舰 AI 芯片的热设计功耗从 700W 翻倍到 1400W，机柜功率密度即将迈向 1 兆瓦。风冷、冷板、浸没式三条散热路线，正在功耗曲线的陡坡上迎来各自的十字路口。

功耗曲线：六年翻两番​

据公开资料整理，旗舰数据中心 GPU 的 TDP 走过了一条陡峭的上行线：

代际	单卡 TDP	参考机柜	机柜功率
H100（Hopper）	700W	DGX H100	约 10kW
B200（Blackwell）	1000W 至 1200W	GB200 NVL72	约 120kW
B300（Blackwell Ultra）	最高 1400W	GB300 NVL72	约 170kW
Rubin R200	1800W 至 2300W	NVL144	约 300kW
Rubin Ultra	约 3600W 每封装	Kyber NVL576	600kW 以上

值得注意的是 B300 的双档设计：风冷版本把功耗压在 1100W，要吃满 1400W 的性能上限，必须上液冷。换句话说，液冷已不是"省电选项"，而是"解锁配置"——不做散热改造，等于花钱买了性能却用不出来。

散热技术的分水岭​

维谛技术等厂商的工程经验给出了大致分界：单机柜功率密度在 15kW 以内风冷可以满足，15 到 30kW 需要液冷辅助，超过 30kW 液冷成为刚需。GB200 及之后的机柜功率密度已远超这条红线，这也解释了为什么英伟达从 Blackwell Ultra 世代起全面转向液冷。

从能效看，据国信证券研报援引的英伟达与 Equinix 联合测试数据，冷板式液冷数据中心 PUE 可降至约 1.15，相比风冷的约 1.6，在相同负载下可节省约三成能耗；浸没式方案则能把 PUE 压到 1.05 以下。联想的温水水冷系统宣称全液冷覆盖后 PUE 低于 1.1，其相变浸没方案据称可低至 1.035。设备端，台达已推出 1.5MW 级集中式 CDU，单块 GPU 冷板冷却功率可达 6200W，用于支撑多个超 100kW 机柜连续运行。

十字路口的三重权衡​

对数据中心运营方而言，当前的散热决策实际上是三重权衡：

• 资本开支：冷板式改造相对渐进、可分批实施；浸没式前期投入高，但对超密机柜的长期承载更从容；
• 运维复杂度：冷板存在漏液风险与管路维护成本，浸没式则面临工作介质维护与器件兼容性验证；
• 面向未来：Kyber 机柜 600kW 起步且没有风冷版本，现在锁定纯风冷架构的机房，可能面临下一代硬件的"兼容悬崖"——机房还没折旧，散热就先过时了。

这三重权衡没有标准答案，但有一个共同前提：新规划的 AI 机房必须把液冷容量写进设计规范，而不是留作二期改造。

结语：功耗墙不会自己停下​

Rubin Ultra 之后，Feynman 世代的功耗只会更高，散热路线的选择正在从技术问题升级为资产问题。可以预判：冷板式液冷将在 2026 到 2028 年成为 AI 数据中心的绝对主流，浸没式在高密度新建场景逐步渗透，风冷则退守推理小集群与边缘场景。规划新机房时，"能否承接 600kW 机柜"应当与电力容量、网络架构并列，成为设计评审的第三个先决问题。

在 AI 芯片的舆论场里，云端训练卡占据九成话题，但真正以百万级数量铺进街道、园区、工厂和交通路口的，是另一类低功耗边缘芯片。算能科技的 BM1684X 就是其中的隐形冠军：它很少出现在发布会头条，却是安防集成商选型清单上的常客。

规格：把"够用"做到极致​

BM1684X 属于算能第四代自研 TPU（张量处理器），基于 Bernoulli 架构，采用台积电 12nm 工艺。它的高度集成是最大特色——一颗 SoC 同时集成 8 核 ARM Cortex-A53 处理器、TPU 计算单元与视频编解码引擎：

参数	BM1684（第三代）	BM1684X（第四代）
发布时间	2019 年	2022 年
INT8 算力	17.6 TOPS	32 TOPS（INT4 可达 64 TOPS）
FP16 算力	未公开	16 TFLOPS
FP32 算力	2.2 TFLOPS	2 TFLOPS
内存	12GB LPDDR4X	6 至 16GB LPDDR4/LPDDR4X
内存带宽	未公开	约 68.3 GB/s（16GB 配置）
整卡/整机功耗	约 16W	满载约 18 至 20W，被动无风扇
视频解码	32 路 1080P	32 路 1080P 25FPS（H.264/H.265）

为什么集成商爱它​

边缘 AI 的交付逻辑与云端完全不同：客户要的不是峰值算力，而是每瓦性能、每路视频成本和开发周期。BM1684X 在这三点上都有硬通货。

首先是视频能力。32 路 1080P 硬解码加上 AI 推理再编码回流的全流程能力，让一台巴掌大的盒子就能完成一个路口的人脸识别、车牌识别与视频结构化，无需额外服务器。其次是功耗与散热：满载不到 20 瓦、被动无风扇设计、支持宽温运行，意味着它可以装在户外机箱里常年免维护。第三是软件成熟度：SOPHON SDK 提供从模型编译到部署的一站式工具链，支持 PyTorch、TensorFlow、ONNX、PaddlePaddle 等主流框架一键转换，Docker 容器化部署让算法上线如同拷贝文件。

值得一提的是，随着开源小模型成熟，BM1684X 还解锁了新玩法：据公开报道，它已可本地运行 LLaMA2、Qwen、ChatGLM、Whisper 等轻量化模型，把边缘盒子从"视频分析器"升级为"本地小脑"。

形态与生态位​

BM1684X 的落地形态极为丰富：既可以是独立运行的边缘计算盒子（SoC 模式），也可以作为 PCIe 加速卡插入边缘服务器（PCIe 模式）。英码、天启等大量方案商基于它推出标准品与行业定制机，覆盖智能安防、智慧交通、智慧工地、智慧零售、工业质检等场景。在其之上，算能还有更低功耗的 BM1688（16 TOPS）承接成本敏感型需求，形成高配与低配的完整梯度。

从公司背景看，算能由比特大陆的 AI 芯片业务发展而来，继承了多年 TPUNB 自研架构积累；据公开报道，其边缘 AI 产品在国内安防市场占有重要份额，前代 BM1684 的累计出货已达相当规模。

小结：边缘市场没有新闻，只有交付​

BM1684X 的故事没有惊心动魄的转折，只有对真实需求的持续打磨：20 瓦功耗、32 路解码、成熟的 SDK、透明的价格。当行业目光都聚焦在云端大芯片的军备竞赛时，正是这类产品在支撑 AI 的最后一公里。对于需要大规模部署视频分析与边缘推理的团队，BM1684X 仍是当下验证最充分、生态最完善的国产选择之一。

2026 年，AI 数据中心的版图不再由网络枢纽和人口中心定义，而是由电力、主权意志和资本规模定义。从中东的 HUMAIN 到印度的 Helios，从马来西亚的 AI 云协议到东京郊外的离网电厂，一场围绕"算力主权"的全球圈地运动正在展开，而背后是超大规模厂商 6500 亿美元级别的资本开支洪流。

全球建设版图：一张不断刷新的清单​

仅最近一个月，全球 AI 基础设施的建设动态就足以拼出一张新地图：

项目	位置	规模/合作方	状态
HUMAIN 等	沙特	AMD MI355X 系统参与	推进中
Helios 架构输出	印度	AMD 与 TCS 合作	推进中
美国主权 AI 工厂超算	美国	AMD 助力	推进中
Bitdeer AI 云协议	马来西亚	67MW（Data Center Dynamics，2026-10）	已落地
离网 AI 数据中心	东京附近（日本）	戴尔 + Jera + Rhaelm，150 亿美元 / 400MW	预计 2028 运营
ThisWay Global 设施	德州 Bryan（美国）	73MW	选址确定
Anthropic 自建数据中心	德州 Cedar Creek（美国）	3.66 亿美元报建	报建阶段

这份清单覆盖了中东、南亚、东南亚、东亚、北美五个区域，参与者横跨芯片厂商（AMD）、云与服务器巨头（戴尔）、能源公司（Jera）、矿业转型算力公司（Bitdeer）和前沿实验室（Anthropic）——AI 基础设施已经没有"行业边界"可言。

三种主权 AI 模式​

把上面的项目归类，可以看到主权 AI 的三种典型模式：

模式一：美国盟友输出​

沙特 HUMAIN 项目采用 AMD MI355X 系统，印度由 AMD 与 TCS 将 Helios 架构本地化落地——这类项目的共同点是由美国芯片厂商输出算力架构，盟友国家提供资金、能源和市场。对美国而言，这既是出口收入，也是技术生态的扩张；对合作国而言，这是最快获得前沿算力的路径。

模式二：能源换算力​

沙特是"能源换算力"的教科书案例：用低成本能源吸引 AI 基础设施落地。日本东京郊外的项目把这一逻辑推到极致——戴尔、日本能源公司 Jera 与英国 Rhaelm 合作建设 150 亿美元、400MW 的离网 AI 数据中心，配套自建燃气发电厂，预计 2028 年运营。电力不再是电网提供的输入，而是项目自带的资产。

模式三：自研自强​

华为昇腾路线代表的是第三种模式：不受制于美国芯片供应，用自己的芯片、自己的框架构建全国算力底座。这条路门槛最高，但自主性最强。

资本开支洪流：6500 亿与 10 万亿​

主权 AI 圈地运动的燃料是超大规模厂商的资本开支。2026 年的口径已经清晰：

口径	金额	备注
四大超大规模厂商 2026 年 capex	约 6500 亿美元	Amazon 约 2200 亿美元领投
五家合计（另一口径）	超 6900 亿美元	口径差异源于统计范围
IEEE/行业长期建设需求	约 10 万亿美元	数据中心建设总盘子
Anthropic 单笔报建	3.66 亿美元	德州 Cedar Creek
东京离网项目	150 亿美元 / 400MW	预计 2028 运营

Amazon 一家 2026 年就计划投入约 2200 亿美元，超过很多国家一年的基建预算。而 IEEE 及行业口径给出的 10 万亿美元数据中心建设需求，说明这轮建设周期可能以十年计——这不是一个短周期投资潮，而是一场持久的基础设施重置。

离网自建电厂成为新常态​

东京 400MW 离网项目和 Oracle 用燃气卡车维持数据中心运转的新闻，指向同一个趋势：电网已经跟不上 AI 数据中心的用电增速。离网自建电厂从"备选项"变成"新常态"，原因有三：

1. 电网接入排队周期长：大型数据中心动辄数百兆瓦，接入电网的排队时间以年计；
2. 电力成本成为运营命门：Oracle 靠燃气卡车运电维持运转，说明即便是巨头也在为电力稳定性付出高昂代价；
3. 选址逻辑彻底改变：数据中心选址从"网络枢纽、靠近用户"变成"电力洼地、能源便宜"——德州 Bryan 的 ThisWay Global 73MW 设施、中东的能源换算力项目，都是这个逻辑的产物。

对芯片选型的影响也很直接：在电力受限的环境下，单位功耗的算力产出（性能/瓦）权重急剧上升，液冷、低精度推理（FP4/FP8）和 rack-scale 方案成为标配。

小结​

主权 AI 的全球圈地呈现三种模式并行：美国盟友输出（HUMAIN、印度 Helios）、能源换算力（沙特、东京离网项目）、自研自强（昇腾路线）。支撑这一切的是 6500 亿美元级的年度 capex 和 10 万亿美元级的长期建设需求。最深刻的结构性变化是选址逻辑：从网络枢纽转向电力洼地，离网自建电厂成为新常态，Anthropic 自建数据中心则说明前沿实验室也在绕开云厂商直接下场。对从业者而言，评估 AI 基础设施项目的第一问已经从"带宽够不够"变成了"电从哪来、多少一度"。

当超大规模客户纷纷自研芯片，英伟达的应对不是把门关得更紧，而是把门框卖给所有人。Spectrum-X 与 NVLink Fusion 组成了一套精巧的双层策略：计算可以不是我的，但你的芯片必须接在我的网络上。

Spectrum-X：把以太网改造成 AI 网络​

传统以太网为吞吐优化，AI 集群需要的是无损、低熵的集合通信。Spectrum-X 的组合拳包括自适应路由、基于遥测的拥塞控制、RDMA 与 SuperNIC 端侧包重排序，官方目标是达到至少 95% 的有效带宽——而传统以太网在大规模 AI 负载下往往只能用到一半出头。

Spectrum-X 家族组件	定位与关键能力
Spectrum-X 以太网交换机	Scale Out 主干，800G 端口，自适应路由
Spectrum-XGS	跨园区扩展：距离感知的拥塞控制与负载均衡
Spectrum-X Photonics	共封装光学（CPO）：激光器数量减少约 4 倍、光网络功耗降低约 5 倍
ConnectX-9 SuperNIC	端侧 800G 及以上，配合包重排序
BlueField-4 DPU	从网络卸载扩展到 KV Cache 上下文存储（CMX），官方称 token 吞吐最高提升 5 倍

采用信号很有说服力：Meta 正在扩展基于 Spectrum-X 的 AI 负载，Oracle 在 OCI 上为大规模 AI 网络标准化选择 Spectrum-X，Cisco 与英伟达共建安全 AI 工厂参考设计。共封装光学已进入量产，用光互联的功耗红利去换取更多可分配给计算的瓦数——在 AI 工厂的电费账本里，这是实打实的 token 收益。

NVLink Fusion：把 Scale Up 域开放给对手们​

NVLink Fusion 于 2025 年 5 月 COMPUTEX 发布，逻辑是：第三方芯片只要集成 NVLink Fusion chiplet 与 NVLink-C2C 接口，就能接入英伟达的纵向扩展域和 MGX 机柜架构，获得最高每 XPU 1.8TB/s（新一代架构达 3TB/s 以上）的全对全带宽，以及 72 加速器的扩展能力。

伙伴类型	代表厂商
定制 CPU/XPU	联发科、Marvell、富士通、高通、Intel、SiFive、三星
设计服务与 IP	Alchip、GUC、Cadence、Synopsys
互联与光子	Astera Labs、Ayar Labs、Lightmatter
云厂商自研芯片	AWS（Trainium4）、Meta
推理芯片新贵	d-Matrix（Raptor XPU，2026 年 9 月宣布接入）

这步棋的防御逻辑值得细读：即使超大规模客户的加速层走向异构——AWS 跑 Trainium4、Meta 跑自研推理芯片——英伟达依然通过 NVLink 交换芯片、机柜架构与网络栈捕获价值。反向看，UALink 阵营试图以开放标准做同样的事，NVLink Fusion 则用成熟度和生态深度先发截流。对定制芯片公司而言，好处是现实的：不必重造 scale-up 互联和机柜设计，就能拿到接近英伟达原生的系统级带宽。

两层策略合起来看​

Spectrum-X 管 Scale Out（机柜之间、数据中心之间），NVLink Fusion 管 Scale Up（机柜之内），BlueField 与 CMX 管存储与上下文，Mission Control 管运维——英伟达正在把"AI 工厂操作系统"的每一层都做成可出售的基座。计算层越开放，网络与软件层的护城河反而越深。

小结​

对采购者的启示有二：其一，评估英伟达方案时，网络栈（Spectrum-X、BlueField、光学）应当与 GPU 一起核算 TCO，它们已不是配件而是性能变量；其二，自研或采用第三方芯片的团队，NVLink Fusion 提供了一条免建互联的捷径，但要清醒地认识到，接入它的代价是深度绑定英伟达的系统生态。开放是真的，方向也是被设计好的。