13 posts tagged with "ASIC"

推理侧的性价比之争已经打了两年，现在战场挪到了训练侧——这里检验的不是单点峰值，而是「任意模型、任意形状、任意分布式策略都能稳定跑」的 generality。两份 SemiAnalysis 报告给出了最新的记分牌。

Trainium3 的记分牌​

SemiAnalysis《Amazon's Trainium Takes a Strike at the Training King》给出实测：

• TorchTitan 训练 Qwen3-32B：MFU 30.47%（编译模式）——模型算力利用率是训练效率的硬指标，30%+ 属于可用区间
• FlexAttention 96 项测试通过 89 项（93%）——PyTorch 新特性在非 CUDA 平台的适配覆盖率
• TorchNeuron 支持原生 PyTorch eager 模式、torch.compile 与标准分布式 API——与 CUDA/ROCm 的人体工学差距基本抹平
• 8 万物理 CI 核用于自动化质量保障——硬件厂商 CI 投入的新高，SemiAnalysis 直接以此为行业标准定锚
• 中尺寸 MatMul 形状上 Trainium3 表现优于 GB300
• 分析工具 Neuron Explorer 被评为优于 AMD 的 profiler

AMD 的记分牌​

同系列报告披露了 AMD 的追赶代价与成果：

• vLLM gating 测试组达到 93% parity——SemiAnalysis 明确指出，这是与 AMD 高层缠斗 9 个月的产物，说明这个数字不是自然演进而是倒逼结果
• ROCm 的 profiler 被 trainium 对比评为落后——AMD 工具链投资需求被点名
• 单请求推理侧的优化见我们的MI355X megakernel 专文

为什么 generality 是新战场​

训练栈的竞争分三个阶段：

阶段	标准	现状
能跑	单模型单配置跑通	2024 年已解决
跑得快	峰值 MFU、特定模型调优	2025–2026 主战场
什么都能跑	任意模型的 generality	2026–2027 的胜负手

FlexAttention 93% vs 96 项测试的差距，正是 generality 问题的缩影：非 CUDA 平台面对 PyTorch 的快速演进，每个新特性都是一次全量适配工程。AWS 的应对是砸 CI——8 万核的自动化回归测试把「新 PyTorch 版本发布到 Trainium 可用」的周期压到行业最快。

对采购方的含义​

• 训练负载选型看 MFU 而非峰值算力：Trainium3 的 2.52 PFLOPS FP8 与 GB300 的纸面差距，在 30.47% MFU 的实际利用率下要重新折算
• CI 覆盖率是新的尽调指标：问供应商两个问题——FlexAttention/最新 PyTorch 特性的测试通过率是多少？新框架版本到平台可用的滞后是多少天？
• Neuron 栈的人体工学已不是障碍：eager 模式 + torch.compile 原生支持意味着迁移成本集中在数据并行策略与超参重调，而非代码重写

结论​

训练栈之战的有趣之处在于：AWS 用 CI 军备证明了「平台质量」可以被工程投入买出来，而 AMD 的 93% parity 证明了「生态差距」可以被组织压力追平。剩下的问题是代价——8 万核 CI 与 9 个月缠斗都是真金白银，这笔投入的回报取决于 2027 年 Trainium3 的 5GW 级订单能否兑现。

数据来源与口径说明​

• MFU 30.47%、FlexAttention 93%、8 万 CI 核、中尺寸 MatMul 优于 GB300、Neuron Explorer 评价：SemiAnalysis 报告，AMD News Daily 摘要转述（2026-10-24）
• AMD 9 个月缠斗与 93% parity：SemiAnalysis 口径
• MFU 数据为特定模型（Qwen3-32B）特定配置结果，不可外推至所有负载

过去三年，AI 算力的叙事几乎是 GPU 的独角戏。2026 下半年，这张图变成了三角形：GPU 负责训练与通用推理，ASIC 接管固定的大规模推理，CPU 则因为 AI 代理的兴起重新回到关键路径上。

一、ASIC：从补充到主力​

四大云厂商的自研芯片成熟度已经拉开明显梯度：

厂商	自研芯片	状态
Google	TPU（已至 v8，训练/推理双线）	最成熟：单一超节点可串 9,216 颗，外部客户超百万颗
AWS	Trainium	高：Anthropic 的 Claude 运行在超过 100 万颗 Trainium2 上
Meta	MTIA（四款路线图）	发展中：同时与 AMD 签最高 6GW、租用谷歌 TPU
Microsoft	Maia 300	起步中：正式发布、2027 百万颗部署，主力仍是英伟达

IDC 预测推理市场 ASIC 份额从 2024 年的 15% 升至 2030 年的 80%。无论这个终局预测是否精确，方向已经清晰：工作负载固定、规模巨大、在意成本与能效的推理场景，正在系统性流向 ASIC。

二、CPU：AI 代理带来的意外变量​

这是 2026 下半年最容易被忽视的新变量。Meta 9 月推出个人 AI 代理 Muse——可以代用户寄信、订行程、填表单，且关掉 App 后长时任务仍在云端持续执行。AI 代理的推理需要 GPU，但任务编排、API 调用、数据查询与每个用户常驻的虚拟机，主要由 CPU 承担。用户越多、后台任务越多，CPU 需求越高。

需求信号已经出现：

• Intel CEO 表示其 CPU 产能只能满足约一半的 AI 相关需求
• Meta 计划部署数千万个 AWS Graviton 核心处理 AI 代理工作负载

三、竞争单位从芯片放大到机柜​

与三角分工同步发生的，是竞争粒度的变化：NVIDIA Vera Rubin、AMD Helios、华为 Atlas 950 超节点、Meta MTIA 400——竞争以整座机柜为单位展开。瓶颈随之扩散：从运算芯片延伸到内存、封装、互联、电源与散热。这也是 HBM4 三倍报价与先进封装紧缺的共同背景。

四、对采购决策的影响​

1. 不要用单一指标选型：训练看算力密度与互联，推理看每 Token 成本，代理编排看 CPU 与内存配置
2. ASIC 进入采购清单：2027 年起，非英伟达推理算力的供给盘子里自研 ASIC 将占可观份额，谈判筹码结构改变
3. 预算要留 CPU 项：智能体应用的成本模型里，CPU 与常驻虚拟机的开销不再是配角

延伸阅读：交互式对比工具 · TCO 计算器 · 超节点选型框架

2026 年的 Meta 给出了大型 AI 公司算力策略的标准答案：自研、采购、租赁三线并行，任何一条线都不足以单独支撑前沿模型的训练与推理。

一、三条线的最新进展​

线路	内容	状态
自研	MTIA 公布四款芯片路线图；MTIA v3 已于 9 月量产；MTIA 300/450/500 覆盖 2026-2028	发展中，主力仍是辅助推理
采购	与 AMD 签署最高 6GW 合作，MI450/Helios 机架承接 Llama 训练与推理	初始系统已运行
租赁	被曝与谷歌签署数十亿美元合同，租用 TPU 集群	已有报道，规模未披露

二、MTIA 自研线的位置​

Meta 的自研节奏相对克制：MTIA v1/v2 定位推理辅助，v3 于 2026 年 9 月量产，但尚未承担主力训练负载。这与谷歌 TPU（已承接 Gemini 全系）和 AWS Trainium（Anthropic 主力算力）的成熟度差距明显——自研芯片的成熟度取决于自用需求的规模与耐心，Meta 的广告推荐负载提供了推理侧的练兵场，但训练侧仍高度依赖采购。

有意思的是 Meta 同时成为 TorchTPU 的联合开发方——Meta PyTorch 工程团队深度参与让 PyTorch 原生跑上 TPU。给竞争对手的芯片生态添砖加瓦，恰恰说明算力多元化优先于阵营站队。

三、为什么「组合」而不是「押注」​

1. 议价权：英伟达、AMD、谷歌三个供应商同时在场，任何一家都无法拿产能卡脖子
2. 风险对冲：微软 Maia、Meta MTIA 的自研进度都落后于预期——自研失败的风险用采购和租赁对冲
3. 负载匹配：推荐系统推理（自研 ASIC 最优）、前沿模型训练（英伟达/AMD 最优）、弹性推理峰值（租赁最优）各有最经济的供给方式
4. 人才与生态：参与多个硬件生态（PyTorch/ROCm/TorchTPU）保持工程团队的硬件中立能力

四、对中型公司的启示​

Meta 的组合拳是资本规模堆出来的，但方法论可缩放：

• 至少两条供给线：即使买不起 6GW，「主供应商 + 一家备胎」也应该成为默认配置
• 按负载分供应商：把推荐/搜索类固定推理迁到便宜算力（自研或国产芯片），前沿训练留给头部 GPU
• 软件栈保持中立：PyTorch + vLLM/SGLang 这类框架中立栈，是更换硬件时唯一的可迁移资产

延伸阅读：MTIA 300 卡片 · GPU/ASIC/CPU 三分天下 · 交互式对比

自研芯片竞赛在 2026 年 10 月迎来关键节点：微软于 10 月 12 日在圣何塞 OCP 全球峰会上正式发布 Azure Maia 300，并宣布 2027 年起以「数吉瓦级」规模部署。这是微软首次把自研芯片定位为「主要推理系统」，而非补充。

核心规格：官方口径全记录​

Maia 300 采用多芯粒（multi-chiplet）设计，这是 Maia 家族第一代拆分计算与 I/O 的产品：

项目	参数
计算芯粒制程	台积电 N2P（2nm 级）
显存	8 组 HBM4，共 288 GB
显存带宽	18 TB/s
FP4 算力	13.8 PFLOPS
FP8 算力	6.9 PFLOPS
SoC TDP	950 W
scale-up 互联	单加速器双向 3.2 TB/s
机架配置	96 颗加速器 / 约 167 kW
部署时间	2027 年开始

需要注意口径：微软官方博客只给出了相对口径（系统算力 FLOPs 较 Maia 200 提升 36%、HBM 带宽 2.5 倍、容量 +33%），FP4 13.8 PFLOPS 与 FP8 6.9 PFLOPS 出自随发布公开的技术论文，并与官方相对口径自洽（Maia 200 的 10.1 PFLOPS FP4 乘以 1.36 约等于 13.8）。

机架架构：96 卡、三层延迟域、统一 fabric​

Maia 300 的机架设计与 NVIDIA 的 NVL72 走了两条路：

• 96 颗加速器分布在 24 个四卡托盘，取消独立主机托盘，机架功率与热资源统一管理
• 机架内全部电连接组成一个 pod；第二层用光互联最多连 128 个机架，组成 12,288 颗加速器的 superpod
• 统一 fabric：pod 内与跨机架使用相同通信语义，不再区分 scale-up 与 scale-out 两个域
• 微软宣称 96 卡完整配置下，机架级 Token 吞吐最高可达 Maia 200 的 7 倍

在负载定位上，Maia 300 明确面向长上下文推理、延迟敏感对话与多步骤智能体任务——GitHub Copilot 与 Microsoft Foundry 将在今年年底前接入。

部署节奏与供应链​

据路透社 10 月 13 日报道，微软计划2027 年部署超过 100 万颗 Maia 300。供应链口径显示，微软已在 2026 年 8 月与台积电锁定 30 万片以上代工产能，初期产量 30-40 万片、2027 年增至 120-150 万片（非微软官方数字）。

两个值得注意的背景：

1. 规格升级曾导致延期。原计划 3nm 配 HBM3e，后升级为 2nm 配 HBM4，量产时点从 2026 Q1 推迟到 Q4，微软靠提高 Maia 200 产量弥补缺口。
2. Evercore ISI 预计 2027 Q1 Maia 占微软 AI 芯片支出约 10%——自研芯片仍然是「降本增量」而非「替代采购」。

对采购方的意义​

Maia 300 不对外销售，只服务微软自己的 AI 业务。它的信号意义大于直接采购意义：当全球第二大云厂商把主力推理负载迁到自研 ASIC 上，NVIDIA 在推理市场的定价权会持续承压。对企业采购方而言，更实际的影响是——推理型云实例（Azure ND 系列）的单位 Token 价格曲线，未来两年会因 Maia 上量而更有下探空间。

相关阅读​

• Microsoft Maia 300 芯片卡片
• Maia 200 芯片卡片
• GPU D 系列（Intel 的推理 ASIC 化路线）

2025 年 10 月 13 日，OpenAI 与 Broadcom 宣布共同开发并部署 10 吉瓦（GW）自研 AI 加速器，消息当日 Broadcom 股价涨超 10%。一年后的现在，这份协议进入真正的考验期：2026 下半年开始实际部署机架，2029 年底前完成全部 10GW。

一、协议要点回顾​

要素	内容
规模	10GW（约等于 800 万美国家庭用电，或 5 座胡佛大坝）
分工	OpenAI 主导芯片与系统设计，Broadcom 负责共同开发与部署
组网	Broadcom 以太网方案承担 Scale-up 与 Scale-out（非 InfiniBand）
时间线	2026 H2 开始部署 → 2029 年底完成
芯片定位	以推理为主的第一代专用加速器

二、推理专用：为什么第一颗芯片不做训练​

多家供应链报道指向同一个设计取向：OpenAI 第一代 ASIC 砍掉 FP64 流水线与通用图形逻辑，把晶圆面积全部留给推理负载——低秩注意力加速单元（面向 MLA 与低精度 KV Cache 解压）、放大片上 SRAM 以减少 HBM 往返、面向自回归解码的 INT4/FP8/FP4 量化矩阵单元。解码阶段的瓶颈在访存带宽而非算力密度，这一取舍与推理接棒训练的行业趋势互为印证。

工程团队由前谷歌 TPU 架构师 Richard Ho、Thomas Norrie 领衔，据报道已扩张至 40 余名 ASIC 设计人员；代工锁定台积电 N3P（后续 N2），并预留了 CoWoS-L 封装产能——先进封装而非前道制程，才是当前 AI 芯片产能的真瓶颈。

三、OpenAI 的三线算力版图​

自研芯片只是 OpenAI 算力组合的一根支柱：

• NVIDIA：计划投资至多 1000 亿美元，供应至少 10GW 数据中心系统
• AMD：6GW 芯片供应协议，含 OpenAI 认购 AMD 股权的期权
• Broadcom：10GW 自研加速器（本文主角）

三份多吉瓦级协议在数周内接连落地，OpenAI 同时成为英伟达最大客户、AMD 大客户和芯片设计方——这是对「单一供应商锁定」的对冲，也是对自身推理成本结构的长期下注。

四、对行业的三个信号​

1. 以太网 Scale-up 挑战专有互联：如果 OpenAI 机架全以太网组网并达到性能预期，将强化开放标准路线的议价能力
2. ASIC 从「降本工具」变「战略资产」：谷歌 TPU 已向 Anthropic 供应百万颗量级，OpenAI 再入场，自研芯片正式成为头部 AI 公司的标配
3. 资金问题仍未回答：OpenAI 未披露财务条款，多数分析师认为自研芯片短期内不改变英伟达的市场主导地位，但 2027-2028 年推理侧的份额争夺会真正开始

延伸阅读：谷歌 TPU 外部客户版图 · 微软 Maia 300 发布 · 自研芯片对比

「ASIC 即将取代 GPU」这句话在 2026 年流传很广。但同期另外一组数据同样可靠：据公开报道，NVIDIA 在 2026 年上半年仍保留了 AI 加速器收入的 75% 到 81%。两句话同时为真，说明所谓替代正在发生的其实是分工重构，而不是此消彼长。

份额曲线与它的误读方式​

多家机构给出的预测方向一致。国信证券测算 2026 年 ASIC 芯片出货量约 770 万片、份额 45%，2027 年将超过 GPU 达到 58%，2030 年约 73%。高盛预测 AI 驱动的 ASIC 需求将在 2027 年与 GPU 需求平分秋色。TrendForce 预测 2026 年定制 AI 芯片出货量增长 44.6%，而同期商用 GPU 出货量增速为 16.1%——这是 AI 时代开启以来定制芯片增速首次显著超过通用 GPU。ASIC AI 服务器出货量预计从 2026 年占 AI 服务器总市场的 27.8% 提升到 2030 年的 39.5%。

这些数字最容易被误读的地方在于：出货份额不等于价值份额，也不等于算力份额。ASIC 的定义就是面向特定工作负载设计的芯片，它的每单位算力成本天然更低、上架量天然更小。用「片数」衡量一块 1.7 TB/s 内存的 TPU 和一块 288GB HBM4 的加速卡谁更重要，方法本身就是错的。

维度	通用 GPU	定制 ASIC
训练吞吐（TPS）	更优，万卡集群成熟度更高	快速追赶中
推理单位成本	毛利结构给硅片成本加上明显溢价	在目标工作负载上优 2 至 4 倍
算法灵活性	高，模型架构变化可适应	低，架构变更需重新设计
电力效率	单芯片功耗高、功率密度大	单位有效算力功耗通常更优
软件生态	CUDA 生态十余年积累	XLA、Neuron SDK 等可用但成熟度低
可得性	任何买家可获得	基本被云厂商封闭在自有云内
迭代周期	12 至 18 个月	每代 2 至 3 年

据 SemiAnalysis 与 Bernstein 的研究估计，在大规模推理部署中 ASIC 相比通用 GPU 的 TCO 优势达 40% 到 65%。AWS 官方称 EC2 Trn2 实例相较基于 GPU 的 P5e 与 P5en 实例，在大模型训练与部署上有 30% 到 40% 更好的性价比；SemiAnalysis 测试数据显示 Ironwood 的每百万 token 成本约 0.181 美元，低于 B200 的 0.222 美元与 B300 的 0.276 美元。

四个案例说明的四种路径​

Google 是最成熟的样本。据公开报道，其自研芯片已推动 2026 年第一季度云收入同比增长 63%；2026 年 5 月与黑石集团成立合资公司 TPU Cloud，黑石初始承诺出资 50 亿美元（含杠杆最高 250 亿美元），目标 2027 年上线约 500MW 容量——这是 TPU 诞生十年来首次在 Google Cloud 体系外进行大规模商业化销售。供应链上，Google 已向 Intel 下单生产超过 300 万颗 TPU，联发科也在切入下一代 TPU v10 的设计供应链，打破了博通的长期独占格局。

AWS 走的是外部客户路线。据公开报道，Amazon 于 2026 年 6 月 18 日确认洽谈向其他公司的数据中心出售 Trainium 芯片；内部芯片部门年收入的运行率已突破 200 亿美元，Anthropic 已承诺部署超过 100 万颗 Trainium 芯片、签约高达 5GW 的芯片容量。

OpenAI 提供了另一种范式。据公开报道，OpenAI 于 2026 年 6 月 24 日与博通联合发布首款定制推理芯片 Jalapeño，Celestica 负责板卡与机架集成，台积电负责制造。其总裁 Greg Brockman 表示依托自研大模型辅助优化，从顶层设计到流片仅耗时 9 个月；物理样品已于发布当日交付，计划 2026 年末小规模首批部署、2027 年爬坡、2028 年上半年规模化量产，远期规划总耗电最高 10GW。这条路径的关键在于不自建芯片团队，而是「模型公司定义架构 + 半导体公司实现制造」。

Meta 提供的是失败样本。据公开报道，Meta 于 2025 年 9 月以超 20 亿美元收购 RISC-V 芯片初创公司 Rivos，但半年后整合受挫，原因是现有员工与 Rivos 团队在薪酬和战略路线上冲突、围绕依赖 Meta 现有 IP 还是 Rivos 技术产生内斗，导致多个项目延期，有消息称项目已在内部被实质性取消。

这四个案例指向同一个判断：自研成功的关键变量不是预算规模，而是是否复用了成熟的硅片实现能力。Meta 的路径是收购团队，OpenAI 的路径是复用博通。

软件生态的锁定才是真边界​

一个容易被低估的事实是：定制芯片节省下来的钱，有相当一部分被吞进了迁移成本。NVIDIA 的 CUDA 生态有超过 400 万开发者、十余年的库积累；XLA、Neuron SDK、ONNX Runtime 功能上可用但成熟度低得多。迁移到一个为特定模型调优过的 ASIC，模型可能需要额外工作才能搬回 GPU 或另一朵云。

不过这笔账正在被改写。一方面，模型层正在收敛——主流开源权重让「同一模型跑在不同硬件上」的可行性提高；另一方面，异构推理的需求真实存在。NVLink Fusion 的出现本身就是证据：AWS 的 Trainium4 与 NVIDIA GPU 共用同一机架占位、冷却系统与配电系统，d-Matrix 则计划让自家 Raptor XPU 承担延迟敏感的 decode 阶段、NVIDIA GPU 承担计算密集的 prefill 阶段，二者在同一个机架架构内完成异构解耦。主流路线已经不是二选一。

另一个变化是采购入口的多样化。Anthropic 目前同时运行在 AWS Trainium、Google TPU、Azure GPU 以及洽谈中的 Microsoft Maia 四个硬件平台上；OpenAI 在使用 Trainium、AMD、Cerebras 的同时开始部署自研 Jalapeño。多芯片策略已经从前沿实验室的备用方案变成基础设施层的常态。

供应链侧的连带影响​

ASIC 崛起改变的不只是芯片本身。据公开报道，博通与迈威尔合计控制全球约 95% 的定制 AI ASIC 共同设计市场。博通 2026 财年第二季度 AI 半导体收入达 108 亿美元，同比增长 143%。Google 正在弱化对博通的依赖、引入联发科与迈威尔等设计伙伴，这种供应链分散会削弱单一设计伙伴的份额。

瓶颈也在转移。随着 ASIC 规模化部署，产业瓶颈正从算力转向连接：scale-up 方向的交换芯片与 CPO 技术受益于柜内连接升级，Trainium3 的机柜方案带来了大量增量 PCIe 芯片需求；scale-out 方向则由光模块与光互连承接需求。

展望​

2026 年之后真正的分工边界，是用「工作负载的可预测程度」划出来的，而不是用训练与推理来划。

可预测的负载——固定模型结构、稳定的请求模式、明确的成本压力——ASIC 的成本优势可以直接兑现，这解释了为什么推理侧是 ASIC 的主战场。不可预测的负载——新架构探索、小批量实验、多模态混合负载——GPU 的灵活性无可替代，这也是为什么即使 ASIC 份额上升，训练和前沿研究的默认选择仍然是 GPU。

最可能出现的终局不是谁吃掉谁，而是分层：通用 GPU 承担前沿研发与不可预测负载，ASIC 承担规模化、可预测的推理流量，两者通过开放的 scale-up 互连在同一机架内协同。这个判断有一个前提值得持续跟踪——软件栈的成熟度。如果 Neuron SDK 或 XLA 这类工具链的迁移成本在未来两年显著下降，ASIC 的份额曲线可能比上述预测更陡；如果生态锁定持续，58% 也许就是相当长时间内的上限了。

英伟达的GPU是"通用答案"，而云巨头们心里都藏着一个念头：为自家工作负载量身定做一颗芯片，长期成本更低、能效更高。承接这个念头的，是两家设计服务巨头——博通与Marvell。它们不站聚光灯下，却决定着每一颗定制AI芯片的诞生。

双寡头格局：一份不对称的订单版图​

据多家行业机构测算，博通与Marvell合计占据定制AI ASIC设计服务市场六成以上份额，其中博通一家独占约55%至60%，Marvell约占15%至20%。第三方机构Counterpoint Research预计，到2027年博通仍将以约60%的份额领跑AI服务器计算ASIC设计合作伙伴市场。

两者的差距主要体现在收入体量上。据公开披露与行业估算，博通2025财年AI相关收入约200亿美元，同比增长65%，2026年预计迈向250亿美元；Marvell同期AI收入约39亿美元，目标超过50亿美元。博通的AI收入大约是Marvell的4到5倍。

维度	博通	Marvell
AI ASIC市场份额	约60%	约15%至20%
2025财年AI收入	约200亿美元	约39亿美元
核心客户	谷歌、Meta、OpenAI、字节	亚马逊、微软、谷歌
标志项目	谷歌TPU全系、OpenAI十吉瓦	Trainium、Maia 2026量产
收入目标	2026年约250亿美元	2028年70至80亿美元

博通：深度绑定式的碾压​

博通的霸权建立在与谷歌长达十年的深度绑定之上：从第一代TPU开始，博通全程参与设计与制造，双方合作已推进至3纳米工艺的第六代TPU。据公开报道，2023年谷歌在TPU相关合作上向博通支付约35亿美元，2024年翻倍至约70亿美元，第七代TPU的供应合同也已提前锁定。除谷歌外，Meta的MTIA、字节的自研芯片均出自博通之手；2025年博通更与OpenAI启动了10吉瓦级定制加速器项目，整套系统依托博通的以太网方案扩展集群。

博通的护城河不止于设计能力：业界最全的高速SerDes IP、HBM控制器IP与先进封装经验，构成定制芯片的"标准零件库"；"定制加速器加高速互连"的组合拳让客户难以拆分采购。这种模式不承担库存风险、不赌制程迭代，是典型的卖铲子生意。

Marvell：差异化补位的追赶者​

Marvell的策略是不与博通正面硬刚，走差异化路线。它给亚马逊量产Trainium训练芯片（据行业报道占AWS自研ASIC出货量的绝大部分），拿下微软Maia芯片2026年的量产订单，同时为谷歌代工Axion ARM CPU——与博通的TPU业务形成互补而非对撞。2026财年第一财季，Marvell数据中心收入14.41亿美元，同比增长76%，占总营收76%，几乎全部由AI定制芯片大规模出货驱动。

技术上，Marvell在数据中心互连与光电共封装领域积累深厚，其定制的112G SerDes与Die-to-Die互连技术在能效与互联带宽上形成差异化卖点，公司也据此定下2028年AI收入冲刺70至80亿美元的目标。

研判：双雄之外，第三势力已在敲门​

这场双雄之争并非终局。联发科已切入谷歌第八代TPU的I/O Die设计，预计2026年第四季度开始贡献营收，其管理层公开表示有信心在2026年实现超过10亿美元的数据中心ASIC营收——SerDes技术正是它敲开大门的钥匙。对博通而言，谷歌分散供应商的意愿是最大的长期变量；对Marvell而言，能否把亚马逊、微软之外的第四、第五个大客户装进管道，决定它能否真正缩小与博通的量级差距。ASIC战争的本质是信任战争：云厂商每多押一家设计伙伴，都是在为供应链的议价权与冗余度下注。

GPU 是瑞士军刀，Etched 想做一把只切一种菜的刀。这家由哈佛辍学生创办的公司赌的是：既然超过九成生成式 AI 负载都是 Transformer，为什么还要为通用性付费？

把 Transformer 烧进硅片​

Sohu 是一颗只为 Transformer 设计的推理 ASIC，采用台积电 4nm 工艺。它的激进之处在于架构哲学：GPU 需要为 CUDA 图形、光栅化、通用 SIMD 等历史包袱保留大量面积，而 Sohu 把注意力机制、前馈网络、层归一化这些 Transformer 的标准操作直接固化为硬件数据流，省去控制逻辑与调度开销，把节省出的硅面积全部换成矩阵计算单元。

Etched 宣称由此带来极高的实际利用率（据其称真实负载下可达九成以上），这解释了其惊人的纸面数字：

指标	8 卡 Sohu 服务器（公司宣称）	8 卡 H100（对比口径）
Llama 70B 推理吞吐	超过 50 万 token/s	约 2.3 万 token/s
单芯片内存	144 GB HBM3E	80 GB HBM3
支持模型规模	经张量与专家并行可达 100 万亿参数	—
支持架构	仅限 Transformer 及其变体	通用

需要强调的是，这些数字均来自公司自述，尚缺乏独立第三方基准的全面验证，读者应将其视为方向性参考而非实测结论。

商业进展与资本故事​

Etched 2022 年成立，2023 年 3 月完成 540 万美元种子轮，2024 年 6 月由 Primary Venture Partners 与 Positive Sum 联合领投 A 轮，Peter Thiel 等天使参投；据公开报道，其累计融资超过 6 亿美元，估值一度达到约 50 亿美元量级。供应链方面与台积电合作流片，并与 Rambus 协作压缩芯片面积、加速上市节奏。

公司的软件策略同样是开源导向：宣称驱动、内核与服务栈将全部开源，开发者可以基于 PyTorch 生态直接迁移 Transformer 模型。目标客户是云厂商与高并发推理平台——实时语音智能体、代码树搜索、多播投机解码这类需要海量 token 吞吐的场景。

最大的风险：把所有鸡蛋放进 Transformer 的篮子​

专用化的反面是僵化。Sohu 不能运行 CNN、RNN 等非 Transformer 模型，混合负载的集群仍需 GPU 兜底；更深层的问题是架构演进风险——如果主流模型架构发生实质变化（比如状态空间模型或线性注意力大规模商用），已固化的硬件设计可能一夜贬值。这正是所有领域专用 ASIC 面临的经典困境：专用化红利与架构锁定风险的对称性。此外，从流片到大规模量产交付的工程爬坡，对一家年轻公司而言也是严峻考验。

小结与建议​

Sohu 代表了 AI 芯片光谱上最激进的一端：用架构锁定换取十倍量级的效率。判断其成败的关键时间窗口在未来一两年的实际交付与第三方评测。对采购方而言，现阶段合理的姿势是"小规模试点、窄场景验证"——选一个纯 Transformer、流量稳定、对成本敏感的推理业务做 PoC，用实测数据决定是否扩大部署；在软件成熟度得到验证之前，GPU 仍应作为混合架构的底座保留。

当同行还在讨论要不要自研芯片时，Meta 已经给出了激进的答案：在 2027 年底之前连续部署四代自研加速器。九月进入量产的 MTIA v3，是这条快车道上最新的里程碑。

Iris 亮相：从单片走向芯粒​

据多家媒体报道，Meta 第三代自研芯片 MTIA v3 由博通担任设计伙伴、台积电负责制造，代号 Iris，产品序列上称为 MTIA 300，已于 2026 年 9 月启动量产。与 2024 年问世的 MTIA v2 采用单片架构不同，v3 转向拆解式芯粒设计，将计算与内存接口拆分为独立硅片，可在不重做计算核心的前提下更换网络或内存模块，灵活应对不同模型对内存与算力配比的要求。

新芯片基于台积电 N3P 级 3 纳米工艺，封装内集成扩展互联结构，用于支撑跨数千节点的分布式推理。在关键指标上，Meta 称其稀疏计算性能较前代提升 7 倍，推荐类模型吞吐量为上代的 3.5 倍，能效提升 2.8 倍。据分析师估算，v3 的内部生产成本比采购同级商用 GPU 低约 40%。

维度	MTIA v2	MTIA v3
制程	台积电 5 纳米	台积电 N3P（3纳米级）
架构	单片	拆解式芯粒
推荐模型吞吐	基准	3.5 倍
能效	基准	2.8 倍
稀疏计算性能	基准	提升最多 7 倍

砍掉训练用途：只做推理的理由​

MTIA 路线图上有一个耐人寻味的转折。据彭博社等报道，Meta 取消了原定兼顾训练与推理的 Olympus 项目，理由是双用途芯片成本要高出约 30%，在吉瓦级部署规模下这笔溢价无法接受。Meta 工程副总裁 Yee Jiun Song 公开解释过这一取舍：推理负载占 Meta 计算消耗的大头，专用设计在每瓦与每美元性能上远比通用设计划算。

后续产品也已排定：第三代 MTIA 450（代号 Arke）于 2026 年 9 月收到台积电交付的 12 颗工程样片，实测性能与仿真结果偏差在 2% 到 3% 之间，计划 2027 年上半年进入数据中心；第四代 MTIA 500（代号 Astrid）设计收尾在即，目标 2027 年底部署。Meta 承诺未来任何 12 个月内投入服务超过 1 吉瓦的自研芯片。

推荐系统是主场，模型生态在扩圈​

MTIA v3 的第一个主战场依然是 Facebook 与 Instagram 的排序推荐系统——这是 Meta 广告业务的算力底座。2026 年 9 月，Meta 确认已将 Muse 系列模型优化适配 MTIA 300，用于推荐基础设施；芯片同时具备运行 Llama 4 等生成式模型的能力，Meta 内部也测试过 DeepSeek 等第三方模型。大规模预训练则继续交给英伟达 GPU。

资本与电力为这条路线提供了后盾。Meta 预计 2026 年资本开支在 1150 亿至 1450 亿美元之间，较 2025 年的 720 亿美元大幅跃升，并计划在 2026 年上半年签约超过 5 吉瓦的数据中心容量。2026 年 7 月成立的 Meta Compute 部门还计划将富余算力对外出售，自研芯片由此从成本工具升级为潜在收入来源。

小结​

MTIA v3 的意义不在于单点性能对标英伟达，而在于验证了一条"专用化加快速迭代"的自研路线：用芯粒架构对冲制程风险，用推荐推理的确定性负载摊薄成本，用四代连发的节奏压榨学习曲线。对于所有承载海量推理负载的平台而言，Meta 的这份答卷值得细读。

Hot Chips 2026 上，OpenAI 与博通合作的首颗物理芯片 Jalapeño 完整规格曝光：700W 纯推理 ASIC、216GB HBM4、13.4 PFLOPS MXFP4，从初始设计到流片只用了约 9 个月。

Jalapeño 是什么​

综合 Data Center Dynamics、Tom's Hardware、ServeTheHome 在 Hot Chips 2026 上的报道，Jalapeño 是 OpenAI 与博通合作的首颗物理芯片，定位非常纯粹：一颗纯推理 ASIC，功耗 700W，专门针对 OpenAI 大规模推理服务（如 ChatGPT 等）的实际瓶颈设计。

与通用 GPU 不同，Jalapeño 不追求覆盖训练、微调、推理的全场景，而是把全部资源押在一件事上：以最低成本、最高密度跑好 OpenAI 自己的推理负载。这是自研芯片路线中最激进的一种——不做通用产品，只为自家业务画像画芯片。

完整规格​

项目	规格
定位	纯推理 ASIC（OpenAI × 博通首颗物理芯片）
功耗	700W
内存	216GB HBM4
算力（MXFP4）	13.4 PFLOPS
算力（MXFP8）	3.4 PFLOPS
架构	NUMA 式架构，64 个内存与计算切片
流片速度	从初始设计到流片约 9 个月
工艺	博通 3nm/2nm 混合设计，台积电代工
首批部署	目标 2026 年底

架构上，Jalapeño 采用 NUMA 式设计，共 64 个内存与计算切片。这种把内存与计算绑定为切片、再横向扩展的思路，本质上是围绕 OpenAI 自己的模型结构和流量特征做定制——博通在定制 ASIC 上最擅长的，正是这种"按客户负载画芯片"的方法论。

集群规模：单 pod 最高 27 EFLOPS​

单颗芯片只是起点，Jalapeño 的部署规划更能说明 OpenAI 的推理盘子有多大：

• 128 颗芯片组成的部署规模约 1.7 EFLOPS FP4，合计 27.5TB HBM4；
• 单个 pod 最多容纳 2048 颗加速器，最高 27 EFLOPS MXFP4。

作为背景，OpenAI 与博通的定制算力协议总规模约为 10GW，Jalapeño 只是这盘棋的第一颗子。如果 2026 年底首批部署如期落地，OpenAI 的推理成本结构将出现一个全新的变量。

背景与资金面​

围绕这颗芯片的产业与资金背景同样值得梳理：

• OpenAI 与博通签有约 10GW 算力的定制协议，芯片采用博通 3nm/2nm 混合设计、台积电代工，目标 2026 年底首批部署；
• 博通正为 OpenAI 定制芯片筹资超 500 亿美元，其中早期磋商约 300 亿美元为债务融资，接续此前为 Anthropic 安排的债务融资；
• FT 报道 OpenAI 年化营收约 500 亿美元，低于此前约 700 亿美元的口径；
• 与此同时，Meta 也在与博通合作开发下一代 MTIA 芯片。

定制芯片是资金密集型游戏：芯片要钱，HBM 要钱，数据中心还要钱。博通为 OpenAI 安排的数百亿美元债务融资，说明这类项目的资金结构已经接近基础设施建设，而非传统的芯片采购。

分析：专用化的赌注​

**纯推理专用 vs GPU 通用性。**已有分析师对 Jalapeño 的路线提出质疑：纯推理 ASIC 缺乏灵活性，一旦模型结构或推理范式发生变化，芯片可能无法跟上。OpenAI 的赌注是：自家推理需求足够大、足够可预测，专用化带来的成本与密度收益足以覆盖灵活性损失。这是一个用业务确定性换取硬件效率的交易——赌对了，推理成本大幅下降；赌错了，芯片就是沉没成本。

**9 个月流片的工程方法论。**reticle 级定制 ASIC 通常需要数年才能流片，Jalapeño 从初始设计到流片约 9 个月，是异常速度。这背后是三重支撑：博通成熟的 IP 库与设计流程、台积电先进工艺的稳定保障，以及 OpenAI 作为单一客户时的高度确定性需求——需求越明确，设计迭代越少，周期越短。

**博通成为定制 ASIC 时代最大赢家。**OpenAI 的 Jalapeño、Meta 的下一代 MTIA、Google 的 TPU，再加上为 Anthropic 安排的债务融资——几乎所有超大规模玩家的定制芯片路线，最终都汇入博通的订单簿。GPU 时代的赢家是英伟达，定制 ASIC 时代的赢家，很可能是那个卖铲子的博通。

小结​

Jalapeño 的完整规格披露，让外界第一次看清 OpenAI 自研芯片的成色：700W、216GB HBM4、13.4 PFLOPS MXFP4，9 个月流片，单 pod 最高 27 EFLOPS MXFP4。它不追求通用，只追求把 OpenAI 自己的推理账单打下来。这颗芯片能否成功，取决于推理需求是否如 OpenAI 预期的那样持续且可预测；而无论成败，博通都已经稳稳站在了赢家的位置上。