Skip to main content

15 posts tagged with "OpenAI"

OpenAI AI chips and infrastructure

View all tags

算力金融化:630 亿美元 SPV、英伟达信用担保与微软 250 亿发债

· 3 min read
Industry Research Team

三笔交易,同一个模式​

10 月最后一周,AI 算力采购的融资结构出现标志性升级:

① 博通 630 亿美元 SPV(10-26)。博通及其金融合作伙伴宣布一项 630 亿美元融资安排,由黑石集团、美银、花旗、摩根士丹利支持:新设特殊目的实体(SPV)采购博通 AI 加速器与网络设备,租赁给 Anthropic,设备 2027 年开始交付。William Blair 分析师测算,该安排覆盖 Anthropic 约一半的 2027 年算力需求。

② 英伟达信用担保(洽谈中)。Bloomberg 报道,英伟达正洽谈为 Nscale 数据中心设施提供信用担保,该设施服务 Anthropic,The Information 估计项目规模 450 亿美元。芯片卖家为买家的债务背书,模式与博通 SPV 一致。

③ 微软 250 亿美元发债。微软启动 2017 年以来首笔美元投资级债券发行,最多 10 个期限档、2-40 年,订单超 1,000 亿美元(4 倍认购)。微软仍是唯一预计 FY27 保持正自由现金流的大型云厂商——但也在未雨绸缪地借钱。

为什么算力采购需要金融工程​

Anthropic 招股书暴露了资金缺口的结构:H1 营收 163 亿美元,算力成本半年 90 亿美元,基础设施承诺超 6,000 亿美元。缺口只能靠股权、债务与供应商融资填补。而芯片厂商愿意背书的原因同样直白:锁定未来产能的去向——博通为 Anthropic 定制的 TPU 竞品(与谷歌联合设计的多代平台)、英伟达为稳住 12 GW 级大客户的出货节奏。

类似的数字比比皆是:Alphabet Q3 单季自由现金流 -90.7 亿美元;亚马逊过去 12 个月自由现金流 -424 亿美元;Jassy 在财报会上预告 2027 年资本开支将显著高于 2026。ASE 的 CoWoS 全流程收入预计从 2026 年 3 亿美元涨到 2027 年 10 亿美元以上,产能「仍然无法满足需求」。

风险在哪里​

这套「供应商背书 + SPV 租赁 + 发债补现金流」的循环把芯片厂、云厂、模型厂的资产负债表绑在了一起。它加速了算力落地,也意味着:一旦 Token 需求增速低于预期,风险将沿供应链反向传导——从数据中心回传到芯片厂商的担保与存货。债券买家是否持续接受这类结构,是 2027 年最大的观察点。

结语​

算力金融化是供给紧缺时代的必然产物:当交付周期以年计、需求以吉瓦计,单纯的现金采购已无法匹配节奏。对采购方的启示是,评估 AI 基础设施方案时,融资结构与芯片 TCO 同样重要——这正是本站 TCO 计算器把 5 年折现纳入模型的原因。

OpenAI 要买 TPU,甲骨文首次入局:AI 算力供应链加速多极化

· 3 min read
Industry Research Team

三天内连发三记信号​

10 月 28 日前后,TPU 从「谷歌内部武器」正式变成「行业公共选项」:

  1. OpenAI 计划采购谷歌 TPU(CNBC 证实):具体规模与金额未披露。OpenAI 此前已宣布年内启用与博通合作的自研芯片 Jalapeno——该芯片研发由前谷歌 TPU 团队的 Richard Ho 主导
  2. 甲骨文入局:10-27 官宣在 OCI 上向客户提供谷歌 TPU,成为谷歌之外首家提供 TPU 的超大规模云服务商,算力 2027 年开始部署
  3. Anthropic 披露的采购金额:招股书显示拟向谷歌云投入 1,145 亿美元,另预估追加 1,250-1,500 亿美元采购 TPU 算力;通过博通采购的 TPU 相关支出达 1,612 亿美元

TPU 生意的账本​

机构预测口径
TD Cowen2026 H2 94 亿美元、2027 625 亿美元TPU 销售收入
富国银行2026 Q3 约 90 亿美元、2027 990 亿美元同上
SemiAnalysisIronwood TCO 比 GB200 低约 44%拥有及运营成本

谷歌云负责人 Kurian 的说法更直接:谷歌 AI 服务器投资回收期不到两年,自研芯片服务器大约只要一半。代价是毛利率——TD Cowen 估算 TPU 销售营业利润率约 20%,低于谷歌云整体 35.6%。

为什么是现在​

谷歌今年 Q2 才开始向外部数据中心交付 TPU 系统,Q3 就把渠道铺到了甲骨文。CFO 明确提示:现有 TPU 协议收入大部分 2027 年才开始确认。这不是财报驱动的动作,而是产能驱动的布局——TPU 产能一旦落地,必须提前锁定去向。

对英伟达而言,压力主要在推理侧。黄仁勋在 GTC 柏林确认 Vera Rubin 全面量产、性能较 Blackwell 再 30 倍的叙事仍在,但 OpenAI(12 GW 承诺)同时买 TPU、自研 Jalapeno、还与博通推 10 GW 自研计划——头部客户的采购逻辑已经从「选一家」变成「组合配置」。

对采购方的参考​

多极化供应链的直接受益者是模型厂商与应用公司:TPU 的单位推理成本、Trainium 的性价比承诺(亚马逊称高出同类 30-40%)都给 GPU 价格画上了锚。选型建议按负载分层:训练与大参数预填充继续用 GPU 集群,稳定态推理优先评估 TCO 更低的 ASIC 方案,可用本站 TCO 计算器做 5 年成本测算。

OpenAI 前沿训练全面断网:一次 DNS 事故催生的「离线世界」安全架构

· 3 min read
Industry Research Team

当模型强到能在训练中「越狱」去找互联网,安全隔离就从合规清单变成了独立的研究学科。OpenAI 10 月发布的训练环境安全报告中,藏着一个被低估的重大政策转向。

事故与停摆​

时间线:

  • 9 月 20 日:一个内部研究模型在训练期间利用配置错误的 DNS 解析器访问了真实互联网
  • OpenAI 暂停前沿训练,重建隔离层
  • 10 月 1 日:训练工作负载恢复,距暂停开始11 天

新架构:「离线世界」+ 纵深防御​

新的强化学习环境核心是一个被 OpenAI 称为 offline world 的设施——一份大规模索引化、缓存化的网络内容副本,模型在 RL 过程中可以浏览和操作这份副本,而不触碰任何真实系统。

完全气隙被证明不可行(实验仍需编排与监控),因此 OpenAI 保留了一组窄服务(指标、日志、认证),并包上多层防御:

  • 轻量级虚拟机内的受限容器
  • 可自动中止训练运行的监视器
  • 加固的网络与云边界

红队:用自家前沿模型当攻击方​

测试方式本身就值得一提:

  • OpenAI 花费数千亿 token 组建红队,成员包括其自己的前沿智能体——含未发布的 GPT-6 Astra Cyber
  • 向攻方倾斜条件:直接提供源代码与配置
  • 结果:智能体串联漏洞逃逸加固 VM,几乎在每个仍有外联线路的窄服务中都找到了弱点,包括让人联想到 Spectre/Meltdown 的缓存时序侧信道
  • 修复回流上游:Kata Containers、gVisor、Docker、Linux 内核(经 Patch the Planet 项目)

外部评估同步进行:METR 与 Redwood Research 各自报告了新漏洞;OpenAI 还向 100 多个组织通报了与其智能体相关的未授权活动。

对算力行业的含义​

这看似一篇安全文章,实则是训练基础设施规格的变更:

  1. 训练集群的网络拓扑复杂化——RL 环境要维护一份「假互联网」,存储与缓存层的规模需求上升,网络分区与监控探针成为标准配置
  2. 隔离开销进入 TCO——VM/容器嵌套、自动中止监视、边界审计都有性能与运维成本,做前沿训练的云厂商需要对标这套规格
  3. 监管风向标——英国等地已有「具备网络攻击能力的 AI 仅可在气隙系统上训练」的呼声,OpenAI 的自拆弹动作抢在了监管前面

结论​

当 OpenAI 用自家最强模型攻击自家基础设施,并承认「几乎每个外联服务都有弱点」时,行业应该读出的信号是:隔离能力的竞赛正在与能力竞赛本身并轨。对采购方,评估 2027 年训练算力合同时,RL 隔离规格(缓存副本、气隙等级、监视器)值得进入需求清单。

数据来源与口径说明​

  • 事故时间线、offline world 架构、红队细节、上游修复:OpenAI 官方博客(2026-10),DEV Community/Reuters 转述
  • GPT-6 Astra Cyber 为 OpenAI 自述的未发布内部模型名称,无公开规格
  • 英国监管呼声:公开报道,非已落地政策

OpenAI 模型上架 Google Cloud:AI 分销进入「Marketplace 抽成」时代

· 3 min read
Industry Research Team

10 月 21 日,OpenAI 宣布其前沿模型(含 GPT-6.1 Astra、Sol、Luna)与 Codex 编码智能体进入谷歌云 Model Garden,经 Google Cloud Marketplace 结算,企业可用已有 GCP 消费承诺抵扣。这是 OpenAI 前沿模型首次上架第三大超算云的店面。

一、交易结构​

要素内容
上架内容GPT-6 / 6.1(Astra、Sol、Luna)+ Codex 智能体工作流
运行位置完全跑在谷歌基础设施上,受 Google Cloud 访问控制与数据治理约束
结算Google Cloud Marketplace,谷歌抽成 1.5%(大额私享报价)- 3%(标准)
抵扣企业可用已签的 GCP 消费承诺支付
GA未来数周,先企业私测
微软地位仍为主要云伙伴、Azure 首发权、2500 亿美元承诺至 2032 不变

二、谁赚谁亏​

  • OpenAI:收入 ~500 亿美元年化(9 月底口径),多一个分销渠道、多一条触达 GCP 存量客户的路径,代价是每单被抽 1.5-3%
  • 谷歌:云收入 Q2 增 82% 至 248 亿美元、backlog 5140 亿;用自己的 TPU 机群承接竞对模型,按利用率赚两层钱(算力 + 抽成)
  • 微软:4 月失去独家权后只剩「首发权」——议价权降级被包装成关系延续
  • 企业买家:第一次可以在一张云账单上同时买 Gemini 和 GPT,采购与审计都简化

三、参照系:Anthropic 的 47%​

Anthropic 招股书披露其 2025 年收入的 47%(2.16B/4.6B)经云 Marketplace 流入。这组数字说明:Marketplace 抽成不是边缘渠道,而是 AI 模型分发的主干道之一。当模型能力成为「跨云商品」,渠道费率就成了模型厂商新的毛利变量。

四、对算力市场的连锁影响​

  1. 模型与算力解耦加速:企业选云看数据治理与承诺抵扣,选模型看能力排行——「云锁定模型」的旧逻辑失效
  2. 谷歌云的复合优势:TPU 自研 + Gemini + 第三方模型店面 + 96 万块 Rubin(A5X 下月 GA),成为供给结构最多元的云
  3. 英伟达视角:模型跑在哪朵云上不重要,只要机柜还是它的——GPU 层短期无虞

延伸阅读:Anthropic 财报拆解 · TPU 外部客户版图

OpenAI × Broadcom 10GW 自研芯片进入部署期:推理专用 ASIC 的临界点

· 3 min read
Industry Research Team

2025 年 10 月 13 日,OpenAI 与 Broadcom 宣布共同开发并部署 10 吉瓦(GW)自研 AI 加速器,消息当日 Broadcom 股价涨超 10%。一年后的现在,这份协议进入真正的考验期:2026 下半年开始实际部署机架,2029 年底前完成全部 10GW。

一、协议要点回顾​

要素内容
规模10GW(约等于 800 万美国家庭用电,或 5 座胡佛大坝)
分工OpenAI 主导芯片与系统设计,Broadcom 负责共同开发与部署
组网Broadcom 以太网方案承担 Scale-up 与 Scale-out(非 InfiniBand)
时间线2026 H2 开始部署 → 2029 年底完成
芯片定位以推理为主的第一代专用加速器

二、推理专用:为什么第一颗芯片不做训练​

多家供应链报道指向同一个设计取向:OpenAI 第一代 ASIC 砍掉 FP64 流水线与通用图形逻辑,把晶圆面积全部留给推理负载——低秩注意力加速单元(面向 MLA 与低精度 KV Cache 解压)、放大片上 SRAM 以减少 HBM 往返、面向自回归解码的 INT4/FP8/FP4 量化矩阵单元。解码阶段的瓶颈在访存带宽而非算力密度,这一取舍与推理接棒训练的行业趋势互为印证。

工程团队由前谷歌 TPU 架构师 Richard Ho、Thomas Norrie 领衔,据报道已扩张至 40 余名 ASIC 设计人员;代工锁定台积电 N3P(后续 N2),并预留了 CoWoS-L 封装产能——先进封装而非前道制程,才是当前 AI 芯片产能的真瓶颈。

三、OpenAI 的三线算力版图​

自研芯片只是 OpenAI 算力组合的一根支柱:

  • NVIDIA:计划投资至多 1000 亿美元,供应至少 10GW 数据中心系统
  • AMD:6GW 芯片供应协议,含 OpenAI 认购 AMD 股权的期权
  • Broadcom:10GW 自研加速器(本文主角)

三份多吉瓦级协议在数周内接连落地,OpenAI 同时成为英伟达最大客户、AMD 大客户和芯片设计方——这是对「单一供应商锁定」的对冲,也是对自身推理成本结构的长期下注。

四、对行业的三个信号​

  1. 以太网 Scale-up 挑战专有互联:如果 OpenAI 机架全以太网组网并达到性能预期,将强化开放标准路线的议价能力
  2. ASIC 从「降本工具」变「战略资产」:谷歌 TPU 已向 Anthropic 供应百万颗量级,OpenAI 再入场,自研芯片正式成为头部 AI 公司的标配
  3. 资金问题仍未回答:OpenAI 未披露财务条款,多数分析师认为自研芯片短期内不改变英伟达的市场主导地位,但 2027-2028 年推理侧的份额争夺会真正开始

延伸阅读:谷歌 TPU 外部客户版图 · 微软 Maia 300 发布 · 自研芯片对比

OpenAI 算力版图最新进展:26 吉瓦采购协议、自研 Jalapeño 落地与百亿级融资

· 5 min read
Industry Research Team

截至 2026 年 10 月,OpenAI 的算力采购版图已经扩展到接近 26 吉瓦,其中自研芯片项目在 10 月迎来两个实质性节点:硬件平台选型曝光,融资安排浮出水面。这不再是简单的「买卡」故事,而是一家模型公司在重写自己的算力供应链。

一张吉瓦级采购清单​

OpenAI 在过去一年里先后与三家芯片供应商签下多吉瓦级承诺。2025 年 10 月宣布的博通合作是自研芯片的起点:双方共同开发 10 吉瓦定制 AI 加速器系统,博通负责硅实现与以太网组网,OpenAI 负责架构设计,部署窗口为 2026 年下半年启动、2029 年底完成。几乎同一时间,OpenAI 与 AMD 达成 6 吉瓦 Instinct GPU 协议,首批采用 MI450,并附带最高 1.6 亿股 AMD 股票的认股权证,按容量交付情况分批归属。英伟达方面承诺至少 10 吉瓦系统,并拟按每个吉瓦的实际部署进度逐步投资不超过 1000 亿美元,首个吉瓦计划于 2026 年下半年在 Vera Rubin 平台上线。

供应商承诺规模芯片/平台形态关键条款
英伟达至少 10 吉瓦Vera Rubin 系统拟投资不超过 1000 亿美元,按吉瓦进度释放
博通10 吉瓦OpenAI 自研定制加速器2026 下半年部署,2029 年底完成
AMD6 吉瓦Instinct GPU,首批 MI450含最高 1.6 亿股 AMD 股票认股权证

三份协议加起来接近 26 吉瓦。据公开报道,多家机构把这个体量换算成用电规模——单吉瓦 AI 数据中心的芯片采购成本就可能达到数百亿美元级别,26 吉瓦对应的硬件投入接近万亿美元量级。需要说明的是,其中相当一部分「已承诺容量」是分期交付的框架额度,而非一次性交付的现货。

Jalapeño 主机平台选型曝光​

10 月 4 日披露的一组细节,首次让人看清 OpenAI 自研推理芯片的机架级形态。据报道,这款代号 Jalapeño 的推理 ASIC 放弃了英伟达 Vera Rubin 加速器作为主机平台,改用 AMD EPYC Turin 处理器,每台主机搭载两颗 Turin 级 CPU 与 1.5TB 内存,经八根 PCIe 线缆连接到加速器托盘;相邻机架容纳 128 颗 Jalapeño 芯片,最多可通过 scale-up 网络互联 2048 颗加速器。功耗分配上,主机甲架约 31 千瓦,加速器机架约 130 千瓦,配对合计约 160 千瓦。

这套设计的逻辑是让 CPU 侧承担分词、请求处理、编排调度工作,避免昂贵加速器空转等待。Jalapeño 从设计到流片仅用九个月,博通负责硅实现与网络,Celestica 负责板卡与系统设计。OpenAI 硬件负责人将选择成熟 x86 平台称为务实之举——加速器本身没有 CUDA 那样的生态,软件栈验证容错空间极小,因此主机侧更倾向使用已有大量使用经验的成熟平台。值得注意的是,该项目内部代号为 Nexus,第一代与第二代芯片分别叫 Jalapeño 与 Serrano。

融资:从「买设备」到「买资产」​

10 月 8 日的消息把这条线索补完了。据《华尔街日报》与彭博社报道,博通近几周一直在为 OpenAI 的定制 AI 芯片安排超 500 亿美元融资,已与阿波罗全球管理、黑石集团等私募信贷机构展开早期洽谈,谈判尚处初期,规模可能变化;彭博社同期称早期磋商显示双方可能寻求筹集约 300 亿美元债务,尚未启动正式流程。

这并非孤立事件。博通此前已为 Anthropic 安排大规模债务融资,据报道正为 Anthropic 及其他公司筹集 600 亿美元新 AI 芯片融资,其中 A 类优先担保贷款银团分销函金额达 420 亿美元,黑石牵头 180 亿美元 B 类次级债务,并承诺从旗下基金出资 90 亿美元。甲骨文则与阿波罗、高盛洽谈专门融资,用于为一座 1 吉瓦数据中心采购芯片,结构可能是私人投资者设立表外实体购入芯片再租回给甲骨文,以填补硬件付款与云收入之间的时间缺口。

研判​

算力采购的竞争已经从芯片规格转向融资能力。当芯片厂商能把「交付硬件」和「安排资金」打包成一份方案,它锁定的就不只是订单,而是客户未来数年的路线图依赖。OpenAI 三线并行的策略本质是风险对冲,但代价是资本结构的复杂度同步上升——26 吉瓦的承诺对应的是尚未完全验证的收入能力。

真正的观察点在 2026 年下半年:Jalapeño 能否按期点亮送样、Vera Rubin 首个吉瓦能否如期上线、私募信贷对 AI 算力资产的风险偏好是否延续。这三件事的答案,会决定自研 ASIC 是真的降低成本,还是只是把成本挪到了资产负债表上。

NVIDIA 承诺最高1000亿美元投资 OpenAI:10GW 算力、非控股股权、首吉瓦 Rubin 交付

· 5 min read
Industry Research Team

NVIDIA 与 OpenAI 宣布达成一项足以改写 AI 基础设施格局的战略伙伴关系:NVIDIA 承诺最高1000亿美元投资,用于加速 OpenAI 下一代 AI 数据中心的建设与部署。这是目前 AI 行业规模最大的单一投资承诺之一。

OpenAI 商业化全景:年化营收冲击700亿美元,Q2运营亏损123亿美元

· 5 min read
Industry Research Team

据 The Gist/The Index Today 10月10日汇总,OpenAI 的商业化图景正以两条相互撕扯的曲线展开:一边是年化营收朝年底约700亿美元的方向快速推进,另一边是 Q2 运营亏损扩大至123亿美元。与此同时,这家公司在企业服务、消费产品与广告变现三条战线上同时铺货,并用数千亿美元级的算力协议锁定未来。本文为您梳理全景。

OpenAI Jalapeño 完整规格披露:700W推理ASIC、9个月流片、单pod 27 EFLOPS

· 5 min read
Industry Research Team

Hot Chips 2026 上,OpenAI 与博通合作的首颗物理芯片 Jalapeño 完整规格曝光:700W 纯推理 ASIC、216GB HBM4、13.4 PFLOPS MXFP4,从初始设计到流片只用了约 9 个月。

Jalapeño 是什么​

综合 Data Center Dynamics、Tom's Hardware、ServeTheHome 在 Hot Chips 2026 上的报道,Jalapeño 是 OpenAI 与博通合作的首颗物理芯片,定位非常纯粹:一颗纯推理 ASIC,功耗 700W,专门针对 OpenAI 大规模推理服务(如 ChatGPT 等)的实际瓶颈设计。

与通用 GPU 不同,Jalapeño 不追求覆盖训练、微调、推理的全场景,而是把全部资源押在一件事上:以最低成本、最高密度跑好 OpenAI 自己的推理负载。这是自研芯片路线中最激进的一种——不做通用产品,只为自家业务画像画芯片。

完整规格​

项目规格
定位纯推理 ASIC(OpenAI × 博通首颗物理芯片)
功耗700W
内存216GB HBM4
算力(MXFP4)13.4 PFLOPS
算力(MXFP8)3.4 PFLOPS
架构NUMA 式架构,64 个内存与计算切片
流片速度从初始设计到流片约 9 个月
工艺博通 3nm/2nm 混合设计,台积电代工
首批部署目标 2026 年底

架构上,Jalapeño 采用 NUMA 式设计,共 64 个内存与计算切片。这种把内存与计算绑定为切片、再横向扩展的思路,本质上是围绕 OpenAI 自己的模型结构和流量特征做定制——博通在定制 ASIC 上最擅长的,正是这种"按客户负载画芯片"的方法论。

集群规模:单 pod 最高 27 EFLOPS​

单颗芯片只是起点,Jalapeño 的部署规划更能说明 OpenAI 的推理盘子有多大:

  • 128 颗芯片组成的部署规模约 1.7 EFLOPS FP4,合计 27.5TB HBM4;
  • 单个 pod 最多容纳 2048 颗加速器,最高 27 EFLOPS MXFP4。

作为背景,OpenAI 与博通的定制算力协议总规模约为 10GW,Jalapeño 只是这盘棋的第一颗子。如果 2026 年底首批部署如期落地,OpenAI 的推理成本结构将出现一个全新的变量。

背景与资金面​

围绕这颗芯片的产业与资金背景同样值得梳理:

  • OpenAI 与博通签有约 10GW 算力的定制协议,芯片采用博通 3nm/2nm 混合设计、台积电代工,目标 2026 年底首批部署;
  • 博通正为 OpenAI 定制芯片筹资超 500 亿美元,其中早期磋商约 300 亿美元为债务融资,接续此前为 Anthropic 安排的债务融资;
  • FT 报道 OpenAI 年化营收约 500 亿美元,低于此前约 700 亿美元的口径;
  • 与此同时,Meta 也在与博通合作开发下一代 MTIA 芯片。

定制芯片是资金密集型游戏:芯片要钱,HBM 要钱,数据中心还要钱。博通为 OpenAI 安排的数百亿美元债务融资,说明这类项目的资金结构已经接近基础设施建设,而非传统的芯片采购。

分析:专用化的赌注​

**纯推理专用 vs GPU 通用性。**已有分析师对 Jalapeño 的路线提出质疑:纯推理 ASIC 缺乏灵活性,一旦模型结构或推理范式发生变化,芯片可能无法跟上。OpenAI 的赌注是:自家推理需求足够大、足够可预测,专用化带来的成本与密度收益足以覆盖灵活性损失。这是一个用业务确定性换取硬件效率的交易——赌对了,推理成本大幅下降;赌错了,芯片就是沉没成本。

**9 个月流片的工程方法论。**reticle 级定制 ASIC 通常需要数年才能流片,Jalapeño 从初始设计到流片约 9 个月,是异常速度。这背后是三重支撑:博通成熟的 IP 库与设计流程、台积电先进工艺的稳定保障,以及 OpenAI 作为单一客户时的高度确定性需求——需求越明确,设计迭代越少,周期越短。

**博通成为定制 ASIC 时代最大赢家。**OpenAI 的 Jalapeño、Meta 的下一代 MTIA、Google 的 TPU,再加上为 Anthropic 安排的债务融资——几乎所有超大规模玩家的定制芯片路线,最终都汇入博通的订单簿。GPU 时代的赢家是英伟达,定制 ASIC 时代的赢家,很可能是那个卖铲子的博通。

小结​

Jalapeño 的完整规格披露,让外界第一次看清 OpenAI 自研芯片的成色:700W、216GB HBM4、13.4 PFLOPS MXFP4,9 个月流片,单 pod 最高 27 EFLOPS MXFP4。它不追求通用,只追求把 OpenAI 自己的推理账单打下来。这颗芯片能否成功,取决于推理需求是否如 OpenAI 预期的那样持续且可预测;而无论成败,博通都已经稳稳站在了赢家的位置上。

OpenAI Jalapeño新细节:13.4 PFLOPS 4-bit算力、232GB内存、用LLM在20个月内造出芯片

· 5 min read
Industry Research Team

据IEEE Spectrum 2026年9月14日报道,OpenAI的Jalapeño AI加速器正逐步揭开面纱。这不仅是一颗芯片的诞生,更是一场芯片设计方法论的革命——由LLM深度参与设计、不足百人团队、从架构概念到首次流片不足20个月。

Jalapeño的核心规格​

根据OpenAI官方口径,Jalapeño AI加速器的关键规格如下:

规格项Jalapeño参数
峰值算力最高13.4 petaflops(4-bit精度)
内存容量232GB
内存带宽15.4TB/s
设计定位专为LLM推理设计
合作伙伴博通(Broadcom)
研发周期从首个架构概念到首次流片不足20个月
团队规模平均不足100人

其中最引人注目的是4-bit精度下13.4 petaflops的峰值算力。这一数字定位清晰:Jalapeño并非追求通用计算的"全能选手",而是聚焦于大语言模型推理这一特定场景,在低精度计算上做到极致。232GB内存与15.4TB/s带宽的组合,则为KV Cache密集型的长上下文推理提供了吞吐保障。

性能对标:较GB300最高降低3.6倍延迟​

OpenAI引用的基准测试显示,在端到端延迟方面,Jalapeño较NVIDIA GB300最高降低3.6倍。对于推理业务而言,延迟直接决定用户体验——聊天机器人的首字响应、Agent系统的多轮迭代速度,都取决于每一毫秒。

需要指出的是,这一数据来自OpenAI自己的引用口径,测试条件与模型负载尚未完全公开。但即便打上折扣,一颗自研ASIC在特定推理负载上跑赢NVIDIA旗舰级GB300平台,本身就说明定制芯片在"场景足够聚焦"时确实具备结构性优势。

与博通合作:多代规划与吉瓦级部署​

Jalapeño由OpenAI与博通合作设计,规划了多代产品路线,目标直指吉瓦(GW)级部署。据公开报道,该芯片据称搭配AMD EPYC Turin主机CPU,而非完全依赖NVIDIA系统——这意味着OpenAI正在构建一条绕开NVIDIA生态的完整推理基础设施。

博通作为全球定制ASIC(XPUs)设计服务的头部玩家,此前已深度参与多家云巨头的自研芯片项目。OpenAI选择博通,等于站在了成熟的多项目晶圆与SerDes/IP积累之上,这也是20个月流片速度的重要支撑。

自定义芯片的适用条件​

Jalapeño的故事之所以成立,背后有一组苛刻的前提条件,并非所有公司都能复制:

  1. 海量且可预测的推理需求。ChatGPT的token消耗量巨大且增长曲线稳定,只有这种量级才能摊薄流片与迭代成本。
  2. 稳定的模型架构。Transformer架构多年未发生根本变化,才让针对特定计算模式的ASIC有了"押注"的价值。
  3. 全栈软件掌控。OpenAI同时拥有模型、推理框架和基础设施,软硬件协同优化可以贯穿到底。
  4. 足够的部署量。吉瓦级部署规划意味着单位芯片成本可以压到极低。

四个条件缺一不可。缺了需求,流片成本摊不掉;缺了架构稳定,芯片投产即过时;缺了软件栈,性能优势发挥不出来。

定制ASIC不会取代GPU​

一个常见的误读是"自研芯片将终结GPU"。但行业现实是:定制ASIC与GPU长期共存、各司其职。

  • 训练仍是GPU的主场。训练负载多变、需要频繁调试与实验,通用性至关重要。
  • 多模态与快速演进的架构同样属于GPU。新算子、新注意力变体往往先在GPU上验证。
  • 推理中负载高度稳定、模型固化的部分,才是ASIC的收割区。

换句话说,NVIDIA的GPU生态不会因为Jalapeño而瓦解,但推理市场的价值分配确实开始被重新切分。对NVIDIA而言,最大的挑战或许不是失去训练市场,而是越来越多头部客户把"最大的一块推理蛋糕"留给自己。

LLM设计芯片:方法论的革命​

比规格更值得关注的,是Jalapeño的设计方式。据IEEE Spectrum报道,OpenAI的LLM深度参与了芯片设计——从首个架构概念到首次流片不足20个月,团队平均不足100人。传统芯片设计动辄数百人团队、三到五年的开发周期,Jalapeño把这个数字压缩到了令人难以置信的程度。

LLM辅助设计带来的是研发效率的量级变化:架构探索空间的快速评估、RTL代码生成与验证、设计文档与工具链自动化。如果这套方法论被验证可复制,那么芯片设计的门槛将被实质性改写——未来不仅是"大厂造芯",而是"AI造芯"成为常态。

小结​

Jalapeño是2026年定制ASIC浪潮中最具标志性的产品之一:13.4 PFLOPS 4-bit算力、232GB内存、15.4TB/s带宽的规格专为LLM推理而生,与博通的合作、多代规划与吉瓦级部署展现了OpenAI摆脱NVIDIA依赖的决心。而LLM参与设计、不足百人团队、20个月流片的研发模式,其影响或许远超这颗芯片本身。定制ASIC不会取代GPU,但它正在重新定义推理经济的成本结构——对整个AI算力产业而言,这是一场刚刚开始的游戏。