跳到主要内容

2026年H1 AI芯片行业复盘:Blackwell Ultra、国产三强与推理新时代

· 阅读需 12 分钟
Industry Research Team

2026年上半年,AI芯片产业发生了历史性转折——产业重心从"训练竞赛"转向"推理效率",国产芯片市场份额首次突破40%,NVIDIA以Blackwell Ultra筑高壁垒,推理专用芯片赛道百花齐放。


一、算力再翻番:NVIDIA Blackwell Ultra 发布(6月1日)

2026年6月1日,NVIDIA CEO黄仁勋在**台北国际电脑展(Computex 2026)**上揭晓新一代AI芯片 Blackwell Ultra,为未来两年的AI基础设施竞赛划定新起跑线。

关键规格

指标Blackwell UltraB200提升
FP8算力20 petaFLOPS~10 petaFLOPS100%
架构Blackwell UltraBlackwell升级
预计交付2027年Q12026年Q1
定位超大规模训练+推理训练+推理旗舰

产业意义

  1. 算力翻倍的直接影响:20 petaFLOPS FP8意味着千亿参数模型训练时间大幅缩短,万亿参数模型训练从"科学实验"走向"工程常态"
  2. 系统级平衡:Blackwell Ultra不仅是芯片,更是NVLink、HBM、散热、供电的系统级工程突破
  3. 路线图确定性:2027年Q1交付时间表,让云厂商和AI实验室可以提前18个月规划基础设施预算

挑战

  • 能耗危机:性能翻倍伴随功耗大幅上升,数据中心供电和冷却设计面临极限挑战
  • 可及性问题:顶级算力优先供应顶级云厂商,中小开发者和研究机构如何通过云服务以合理成本触达算力
  • 软件栈适配:新硬件需要匹配的CUDA版本和框架支持,软件生态成熟度成为算力转化的关键瓶颈

二、国产AI芯片:从"可用"到"好用"的临界点

2026年6月16日,信创世界发布**《2026中国国产AI芯片厂商能力象限》**,清晰勾勒出国产AI芯片的整体格局。

2.1 能力象限排名

象限代表厂商
领导者象限华为昇腾、海光信息、寒武纪、阿里平头哥、摩尔线程
远见者象限百度昆仑芯、壁仞科技、燧原科技、沐曦股份、瀚博半导体
竞争者象限清微智能、黑芝麻智能、芯驰科技、砺算科技、后摩智能
挑战者象限登临科技、知存科技、芯原股份、瑞芯微、云天励飞

2.2 华为昇腾:国产算力的定海神针

市场地位

  • 2025年昇腾系列出货 81.2万张,占国产AI加速卡 49% 份额,稳居国产第一
  • 昇腾950PR单卡FP8算力达 1P(PetaFLOPS)、FP4算力达 2P
  • 推理性能约为NVIDIA H20的 2.87倍,定价仅 7.2-7.5万元,性价比优势显著

全栈优势

华为"端管云芯"一体化战略是昇腾的核心壁垒:

  • 芯片设计:Da Vinci 3.0架构持续迭代
  • 操作系统:鸿蒙/欧拉OS深度优化
  • 网络通信:欧拉网络协议栈
  • 云服务:华为云ModelArts平台无缝集成

最新进展

  • 2026年6月5日,深圳河套学院联合哈工大(深圳)、华为团队,依托昇腾910C集群完成 1.6万亿参数DeepSeek V4 Pro大模型全参数后训练
  • 这是国产AI芯片首次完成万亿参数级大模型训练,标志着"国产替代"从推理迈向训练

2.3 寒武纪:率先盈利的国产AI芯片标杆

业绩爆发

指标2025年全年2026年Q1同比增长
营收64.97亿元28.85亿元+453% / +160%
净利润20.59亿元(首次年度盈利)10.13亿元— / +185%

核心产品:思元590

  • DeepSeek R1推理场景下,TPS可达 942,比H20高出约 50%
  • 与字节跳动多年联合优化,具备短期最强的云端推理部署能力
  • 2026年Q1营收28.85亿元中,思元590贡献超过70%

潜在风险

在2026年第2号《安全可靠测评结果公告》中缺席,原因尚未明确,将对其国内政企市场表现产生影响。

2.4 清微智能:可重构芯片的"第三路线"

技术路线

清微智能采用与Groq LPU同源的可重构数据流架构,在GPU通用性与ASIC极致效率之间找到了平衡点。

指标清微智能 TX81传统GPU方案优势
推理成本基准+100%降低50%
能效比基准基准提升3倍
架构可重构数据流SIMT/SIMD更适合推理

落地进展

  • 可重构芯片累计出货量已超 3000万颗
  • 在全国十余座千卡规模智算中心实现规模化落地
  • 已启动A股IPO辅导,有望成为"可重构芯片第一股"

三、推理芯片赛道:产业重心转移的核心信号

2026年6月4日,TrendForce发布深度报告**《推理经济时代来临:AI芯片的规则正被重写》,指出AI产业的算力竞争重心正在从训练转向推理**。

3.1 为什么是现在?

成本结构改变

  • 训练是一次性成本:模型训练完成后,边际成本趋近于零
  • 推理是持续性成本:每一次API调用、每一个生成token,都代表算力消耗与毛利压力
  • 单位推理成本与能效表现将直接影响毛利率与规模扩张能力

模型精简技术成熟

  • 1.58-bit量化技术与权重剪枝,使模型可在极低内存占用下维持推理准确度
  • MoE(混合专家)架构通过"部分唤醒"机制,每次推理仅激活少数专家子网络,大幅降低实际运算量
  • 精简模型的崛起,为硬式编码推理芯片提供了商业可行性

3.2 NVIDIA的百亿押注:收购Groq(2025年12月)

2025年12月24日,NVIDIA以 200亿美元取得Groq的Inference技术授权与核心团队,这是NVIDIA历史上最大规模的并购/技术收购之一。

战略意图

  1. 补全推理短板:NVIDIA GPU在训练领域无可撼动,但推理效率一直不是最强
  2. 对抗专用推理芯片:Cerebras、Taalas、SambaNova等初创公司正在蚕食推理市场
  3. 布局Agentic AI:Agentic AI需要极低延迟、极高吞吐的推理能力

3.3 Taalas HC1:硬式编码推理的概念验证

2026年2月20日,加拿大AI芯片初创公司Taalas发布推理芯片 Taalas HC1,将Meta的开源AI模型Llama 3.1 8B直接刻印在芯片中

关键指标

指标Taalas HC1NVIDIA B200(throughput optimized)优势
推理速率16,960 tokens/s/user基准~4-5x
每百万tokens成本0.75 cents3.79 cents降低80%
功耗~250W~700W降低64%
制程TSMC N6TSMC 4nm更成熟
HBM❌ 不使用✅ HBM3e成本更低

技术原理

Taalas HC1采用**存储内运算(Computing-in-Memory, CIM)**的激进实现:

  • 将模型权重直接固化于Mask ROM中(完全硬体定义)
  • 以片上SRAM处理动态资料(KV cache和LoRA微调权重)
  • 仅需修改2层光罩就能产出另一个AI模型的专用芯片,将一个AI模型转化为实体芯片仅需2个月

局限性

  • 缺乏弹性:硬式编码无法应对快速迭代的模型更新
  • 生态壁垒:当前云端市场仍依赖通用平台,客户可能更偏好可随模型升级的弹性方案
  • NRE成本:一次性工程费用高,需要足够大规模的部署才能摊薄

3.4 Cerebras:晶圆级整合的上市之路

2026年5月14日,Cerebras Systems正式在纳斯达克挂牌上市,成为首家上市的晶圆级AI芯片公司

核心技术:Wafer-Scale Integration(WSI)

  • WSE-3(第三代晶圆级引擎):整片12英寸晶圆做成单一芯片
  • 44GB片上SRAM:无需外部HBM,彻底消除内存带宽瓶颈
  • 21 PB/s带宽:片上通信带宽,是GPU的千倍级别
  • 与OpenAI合作:已签署逾200亿美元、规模750MW的三年算力合作协议

上市意义

Cerebras的上市是推理专用芯片赛道成熟的标志

  1. 资本市场开始为这类公司定价
  2. 证明"非GPU"技术路线具备商业可行性
  3. 为其他推理芯片初创公司(Groq、SambaNova、Taalas等)提供了估值参照

3.5 推理芯片格局:多元技术路线并存

公司技术路线核心优势代表产品
Taalas硬式编码(Mask ROM)极致推理效率、低成本HC1
Cerebras晶圆级整合(WSI)超高带宽、大模型推理WSE-3
GroqSRAM-first架构确定性延迟、高吞吐LPU(已被NVIDIA收购)
d-Matrix数字存储内运算(DIMC)灵活性强于硬式编码Corsair
EtchedHard-wired Transformer所有Transformer模型适用Sohu
Axelera AI数字存储内运算(D-IMC)+ RISC-V高能效比Metis AIPU

TrendForce预测

  • 通用GPU仍主导训练与多模型环境
  • 但在成熟、可预测场景中,通用GPU的利润空间将受到压缩
  • 产业格局从通用算力垄断,走向通用与专用并行的双轨结构

四、2026年H1国产AI芯片整体格局

4.1 行业进入放量期

指标2025年2026年Q1趋势
国产AI加速卡出货量165万张(占比41%)持续上升
中国AI加速卡总出货量~400万张
海光信息营收增速翻倍增长
寒武纪营收增速+160%
摩尔线程营收增速翻倍增长

头部厂商集体进入业绩兑现通道,行业从"技术验证"迈向"规模商用"。

4.2 三大核心发展趋势

趋势一:资本化浪潮重塑格局

  • 2025年底至2026年初,摩尔线程、沐曦股份登陆科创板
  • 壁仞科技登陆港股
  • 燧原科技科创板IPO获受理
  • 昆仑芯、平头哥启动上市进程
  • 清微智能、瀚博半导体等推进IPO

资本化带来双重效应:

  • 正面:为研发和生态建设提供支撑
  • ⚠️ 负面:估值泡沫和业绩兑现压力

趋势二:产能成为最大制约变量

国产AI芯片爆发式需求与有限先进制程产能的矛盾日益尖锐:

厂商先进制程产能需求实际获得
华为昇腾每月1.5万片(7nm级)优先保障
中芯国际总产能每月约2万片(7nm级)
其他厂商合计约5000片/月极度紧张

能否拿到稳定晶圆产能直接决定厂商生死。寒武纪75.4%的营收占比存货,本质是对产能的锁定。

趋势三:竞争从"可用"转向"好用"

早期竞争聚焦"能否跑通模型",当前升级为"运行效率、部署成本"的比拼:

竞争维度"可用"时代"好用"时代
硬件性能能否跑通模型运行效率、能效比
软件栈基本适配成熟度、框架广度
生态有无开发者社区活跃度
部署成本不敏感核心竞争要素

五、2026年H2展望

5.1 即将到来的关键事件

时间事件影响
2026年Q3NVIDIA Rubin架构详情公布下一代旗舰规格揭晓
2026年Q3华为昇腾950PR/950DT正式发布国产推理芯片新标杆
2026年Q4AMD MI350X规模化交付NVIDIA Blackwell竞品
2026年Q4寒武纪思元690发布(推测)新一代训练芯片
2027年Q1NVIDIA Blackwell Ultra交付算力新标杆落地

5.2 未来三年关键竞争要素

  1. 晶圆产能获取能力:先进制程产能是稀缺资源,绑定中芯国际、TSMC的厂商具备先天优势
  2. 资本运作效率:IPO窗口期有限,能否在资本市场上融到足够资金决定研发持续性
  3. 软件生态建设深度:硬件性能只是入场券,软件栈成熟度、框架适配广度、开发者社区活跃度才是核心壁垒

六、结语:多元生态终将形成

2026年H1,AI芯片产业正在经历从"一家独大"到"多元并存"的历史性转变。

  • NVIDIA以Blackwell Ultra筑高训练壁垒,同时以收购Groq布局推理效率
  • 华为昇腾以全栈能力守住国产算力的基本盘,950PR在推理性能上开始超越H20
  • 寒武纪以率先盈利证明国产AI芯片的商业化可行性,思元590在特定场景超越国际竞品
  • Cerebras、Taalas等推理专用芯片公司开辟了"非GPU"的第三路线
  • 清微智能的可重构架构为中国AI芯片提供了技术路线的多元化选择

未来三年,国产AI芯片终局将形成GPU、ASIC、可重构计算三大技术路线并存,云端与边缘协同发展的多元生态。"国产替代"不再是口号,而是正在发生的产业现实。


数据来源

  • 信创世界《2026中国国产AI芯片厂商能力象限》(2026-06-16)
  • TrendForce《推理经济时代来临:AI芯片的规则正被重写》(2026-06-04)
  • RayByte《算力再翻番!英伟达Blackwell Ultra芯片发布》(2026-06-02)
  • 各公司官方财报和公告

相关阅读


2026年6月AI芯片重大事件汇总:昇腾910C训练万亿模型、OpenAI自研芯片、RTX Spark发布

· 阅读需 6 分钟
Industry Research Team

2026年6月,AI芯片领域迎来多个里程碑事件,标志着"国产替代"和"去英伟达化"两大趋势加速。

1. 华为昇腾910C完成1.6万亿参数DeepSeek V4 Pro训练(2026-06-05)

事件概述

2026年6月5日,深圳河套学院联合哈尔滨工业大学(深圳)、深圳市大数据研究院及华为等团队,依托昇腾910C国产AI算力集群,成功完成 1.6万亿参数DeepSeek V4 Pro大模型全参数后训练

技术意义

指标数值
模型参数1.6万亿
训练芯片昇腾910C集群
训练类型全参数后训练(Full Parameter Post-Training)
意义国产AI芯片首次完成万亿参数级大模型训练

产业影响

  1. 打破技术封锁:证明国产AI芯片具备训练万亿参数大模型的能力
  2. "告别英伟达"加速:DeepSeek全面换装华为昇腾,减少了对H100的依赖
  3. 国产替代拐点:从"推理替代"迈向"训练替代"

相关链接


2. OpenAI发布首款自研AI推理芯片Jalapeño(2026-06-24)

事件概述

2026年6月24日,OpenAI与博通(Broadcom)联合发布首款自研AI推理芯片 Jalapeño,设计周期仅9个月(行业平均18个月),采用TSMC 3nm工艺

关键技术指标

指标Jalapeño对比(Blackwell)
制程TSMC 3nmTSMC 4nm
架构Systolic Array(脉动阵列)Blackwell GPU
设计周期9个月~18个月
推理成本-50%基准
AI辅助设计✅ 首款❌ 否
部署时间2026年底已出货

战略意义

  1. 首款AI辅助设计的AI芯片:OpenAI用GPT-5.3-Codex-Spark等模型辅助架构探索
  2. "去英伟达化"加速:科技巨头(谷歌、亚马逊、微软、Meta、OpenAI)集体自研芯片
  3. 推理成本革命:对于每天处理数亿次API调用的OpenAI,成本降低50%意义非凡

相关链接


3. NVIDIA在Computex 2026发布RTX Spark AI PC超级芯片(2026-06-01)

事件概述

2026年6月1日,NVIDIA CEO黄仁勋在Computex 2026 / GTC Taipei发布 RTX Spark AI PC超级芯片,与联发科(MediaTek)合作,采用Arm CPU + Blackwell GPU统一内存架构。

关键技术指标

指标RTX Spark
CPU最多20核Arm(联发科合作)
GPU6,144 CUDA核心(Blackwell)
统一内存128GB LPDDR5X(CPU+GPU共享)
内存带宽300 GB/s
AI算力~1 PFLOPS(推测)
模型容量可运行1,200亿参数模型
上下文最长100万tokens
TDP~100W(推测)
上市2026年秋季

产业影响

  1. NVIDIA进军PC芯片市场:挑战英特尔在个人电脑领域的主导地位
  2. AI PC新标准:本地运行120B参数模型,100万token上下文
  3. Windows转变为AI Agent平台:与微软OpenShell框架深度合作

相关链接


4. 工信部发布《2026年人工智能芯片产业发展白皮书》(2026-06-09)

事件概述

2026年6月9日,中国工业和信息化部发布《2026年人工智能芯片产业发展白皮书》,预测国内AI芯片市场规模将在2026年突破2000亿元人民币

关键预测

指标2026年预测
市场规模突破2000亿元人民币
国产芯片份额>50%(2025年为41%)
边缘推理芯片显著进展
出货量增长翻倍以上(相比2025年)

产业意义

  1. 国产AI芯片资本化加速:寒武纪、燧原、摩尔线程等加速IPO
  2. 边缘推理成破局关键:相比训练芯片,推理芯片更易实现国产替代
  3. 政策红利持续:国产替代从"市场行为"升级为"国家战略"

5. 字节跳动洽谈采购天数智芯5万颗推理芯片(2026-06-17)

事件概述

2026年6月17日,路透社报道称,字节跳动正与上海AI芯片企业天数智芯洽谈采购至少5万颗AI芯片,主要用于推理任务。

交易细节

项目内容
采购方字节跳动
供应商天数智芯
芯片型号智铠系列(推理GPU)
采购数量至少5万颗
用途推理工作负载
训练芯片天垓系列

产业意义

  1. 国产GPU头部玩家"加人":天数智芯首次进入头部互联网公司供应链
  2. 字节跳动2026年资本开支上调超2000亿元:主要用于AI算力和数据中心
  3. "国产替代"从政府和国企扩展到民营科技巨头

总结:2026年6月AI芯片产业三大趋势

趋势1:"国产替代"从推理迈向训练

  • 昇腾910C完成1.6万亿参数模型训练 → 证明国产芯片具备训练能力
  • DeepSeek全面换装昇腾 → 头部AI公司率先"告别英伟达"
  • 字节跳动采购天数智芯 → 民营科技巨头跟进

趋势2:"去英伟达化"从口号变为行动

  • OpenAI Jalapeño → 首款自研芯片,推理成本-50%
  • 谷歌TPU、亚马逊Trainium、微软Maia → 持续迭代
  • Meta MTIA、苹果M5 Ultra → 加大投入

趋势3:AI PC和边缘推理成为新战场

  • NVIDIA RTX Spark → AI PC新标准,2026年秋季上市
  • 边缘推理芯片国产化加速 → 工信部白皮书重点提及
  • "万亿参数模型本地运行" → 消费者市场新卖点

展望未来(2026 H2)

  1. 昇腾950DT全面放量(2026 Q4)→ 华为最新一代训练芯片
  2. NVIDIA Rubin R200出货(2026 H2)→ 下一代旗舰
  3. AMD MI400 Helios机架(2026 H2)→ 对标NVIDIA GB200
  4. OpenAI Jalapeño部署(2026年底)→ 千兆瓦级数据中心
  5. 国产AI芯片出货量翻倍以上 → 中信证券预测

参考资料


本文持续更新,欢迎提供最新动态。

OpenAI 自研 AI 芯片 Jalapeño 深度解析:9 个月流片,推理成本降低 50%

· 阅读需 10 分钟
AI Hardware Analyst

2026 年 6 月 24 日,OpenAI 与博通(Broadcom)联合发布首款自研 AI 推理芯片 Jalapeño。这款专为大型语言模型推理设计的 ASIC,从设计到流片仅用 9 个月,推理成本降低约 50%,标志着 OpenAI 从纯模型公司转型为全栈 AI 基础设施提供商。


一、核心结论(先看这里)

维度Jalapeño当前 GPU 方案优势
推理成本-50%基准✅ 成本减半
每瓦性能显著优于当前最先进加速器✅ 能效领先
设计周期9 个月~18 个月✅ 速度快 2x
定位推理 ASIC训练+推理 GPU专用优化
供货仅内部市场采购⚠️ 不对外销售

一句话总结:Jalapeño 是 OpenAI 全栈 AI 战略的关键一步,用自研芯片将推理成本降低 50%,同时开启"AI 辅助设计 AI 芯片"的新范式。


二、Jalapeño 是什么?

2.1 基本信息

项目内容
名称Jalapeño(哈拉贝诺辣椒)
类型专用集成电路(ASIC)
定位大型语言模型推理任务
发布时间2026-06-24
流片时间2025-09(推测,9 个月极速流片)
部署时间2026 年底(千兆瓦级数据中心)
合作方博通(Broadcom)、台积电(TSMC)、Celestica
制程TSMC 3nm
架构Systolic Array(脉动阵列)
HBM8 堆栈(推测 HBM3E 或 HBM4)

2.2 为什么叫"Jalapeño"?

Jalapeño 是一种墨西哥辣椒,以"中等辣度、强烈风味"著称。OpenAI 以此命名,暗示这款芯片:

  • 辣度适中:不是最激进的架构(相比 Cerebras WSE),但足够有效
  • 风味强烈:在推理场景下有强烈的存在感(成本降低 50%)
  • 开胃前菜:这只是"多代路线图的第一步"(博通 CEO 陈福阳)

三、技术深度解析

3.1 9 个月极速流片:AI 辅助设计芯片的新范式

通常情况下,从零开始设计一块 ASIC 芯片需要 1.5 到 2 年。而 Jalapeño 从初始设计到制造流片仅用了 9 个月

关键原因:深度软硬件协同开发

技术手段说明
AI 辅助架构探索OpenAI 用自家前沿模型(GPT-5.3-Codex-Spark)探索芯片架构设计空间
AI 功耗仿真用 AI 模型进行功耗仿真与优化
强化学习优化用 RL 优化芯片布局布线
博通硅实现能力博通提供业界顶尖的 ASIC 实现能力(网络芯片、交换芯片经验)

OpenAI 总裁 Greg Brockman 表示:

"我们利用服务于用户的前沿模型,来优化运行未来模型的基础设施。"

3.2 专为推理优化的架构

与通用 GPU 不同,Jalapeño 是围绕 OpenAI 对 LLM 推理工作负载的深度理解从零构建的 ASIC:

架构特性说明
降低数据移动架构核心在于减少数据搬运(推理任务的主要瓶颈)
平衡计算-内存-网络资源分配针对推理优化,使实际利用率更接近理论峰值
结合高吞吐与低延迟目标是将当前领先加速器的吞吐能力与最快专用推理系统的低延迟结合起来
支持未来模型不仅支持现有模型(GPT-5、GPT-5.3),也适配未来新一代模型的推理需求

3.3 全栈平台:不只是芯片

Jalapeño 是一个多代计算平台,而不仅仅是一颗芯片:

组件供应商说明
加速器芯片OpenAI 设计,台积电制造TSMC 3nm,8 堆栈 HBM
网络交换芯片博通 Tomahawk高速互联(与 NVIDIA NVLink 竞争)
电路板、机架、系统Celestica整机架解决方案
软件栈OpenAI深度适配 GPT、Codex、Agent 产品

部署目标千兆瓦(Gigawatt)级数据中心

博通 CEO 陈福阳表示:

"Jalapeño 将于今年开始与微软和其他合作伙伴一起部署在千兆瓦级数据中心。"


四、性能与成本分析

4.1 推理成本降低 50%

虽然 OpenAI 官方新闻稿中针对 Jalapeño 带来的成本节约表述相当保守,仅透露其"每瓦性能大幅优于当前最先进水平",未给出具体百分比。

但据彭博社报道,博通 CEO 陈福阳透露:

早期内部测试显示,相较于当前主流 AI GPU,Jalapeño 可实现约 50% 的推理成本节省

对于 OpenAI 的意义

项目当前(GPU 方案)Jalapeño 方案节省
每天 API 调用数亿次数亿次
推理成本占比~60-70% 运营成本~30-35%-50%
年算力支出数十亿美元数亿美元节省数十亿美元

4.2 每瓦性能显著优于当前最先进水平

OpenAI 公告指出:

"Jalapeño 工程样品已以目标频率和功耗成功运行 GPT-5.3-Codex-Spark 等复杂强化学习任务,早期测试显示每瓦性能显著优于当前最先进的 AI 加速器。"

对比对象:NVIDIA Blackwell(当前最先进的 AI 加速器)

指标JalapeñoNVIDIA Blackwell说明
每瓦性能显著优于基准OpenAI 官方表述
推理延迟媲美最快专用推理系统基准目标
吞吐量媲美当前领先加速器基准目标
TDP未公开(推测 400-700W)700-1000WJalapeño 可能更低

五、对 AI 芯片市场的影响

5.1 "去英伟达化"加速

Jalapeño 的发布是科技巨头集体挑战英伟达市场主导地位的又一注脚

厂商自研芯片类型状态与 OpenAI 的关系
GoogleTPU v6e / Ironwood训练+推理✅ 已商用Google Cloud 供应 OpenAI
AmazonTrainium 3训练✅ 已发布AWS 供应 OpenAI
MicrosoftMaia 100训练+推理✅ 已发布OpenAI 独家合作伙伴
MetaMTIA训练+推理✅ 已发布
AppleNeural Engine端侧推理✅ 已商用
OpenAIJalapeño推理🚧 2026 年底部署自用 + 可能出售给第三方

5.2 OpenAI 并非要完全"抛弃"英伟达

Brockman 坦言:

"我们根本无法足够快地获得算力。"

目前,OpenAI 同时在向英伟达、AWS、AMD 和 Cerebras 等多方采购芯片,Jalapeño 是对其爆炸性算力需求的结构性补充,而非替代。

5.3 可能出售给第三方

博通 CEO 陈福阳特别强调:

"这只是一个'多代路线图的起点',OpenAI 与博通的目标是共同建设千兆瓦(Gigawatt)级算力集群。"

这意味着,OpenAI 有可能将其硬件出售给第三方,前提是它能从博通和台积电获得足够的供货。


六、Jalapeño vs 其他自研芯片对比

指标Jalapeño(OpenAI)TPU v6e(Google)Trainium 3(Amazon)Maia 100(Microsoft)
发布时间2026-06-2420242025 Q42023
类型推理 ASIC训练+推理 TPU训练 ASIC训练+推理
制程TSMC 3nmTSMC 4nmTSMC 5nm(推测)TSMC 5nm(推测)
是否对外销售❌ 仅内部(可能未来出售)✅ GCP✅ AWS❌ 仅内部
设计周期9 个月~18 个月~18 个月~18 个月
AI 辅助设计✅ 首款❌ 否❌ 否❌ 否
成本优势-50% 推理成本优化优化优化

关键差异

  • ✅ Jalapeño 是首款由 AI 辅助设计的 AI 芯片
  • ✅ Jalapeño 设计周期仅 9 个月(行业平均 18 个月)
  • ⚠️ Jalapeño 不对外销售(至少目前如此)

七、未来路线图

7.1 多代芯片平台

Jalapeño 只是一个"多代路线图的起点":

时间事件
2026 年底Jalapeño 初始部署(千兆瓦级数据中心)
2027 年Jalapeño v2(推测,架构优化)
2027-2028 年Jalapeño 训练版本(推测,挑战 TPU/Trainium)
2028 年及以后千兆瓦级算力集群全面建成

7.2 OpenAI 全栈 AI 基础设施战略

层次OpenAI 自研外包/采购
模型✅ GPT-5、GPT-5.3、Codex
芯片✅ Jalapeño(推理)NVIDIA GPU、AWS Trainium、AMD GPU
系统✅ 与 Celestica 合作微软 Azure 数据中心
网络✅ 博通 Tomahawk微软 Azure 网络
云平台❌ 无微软 Azure(独家合作伙伴)

八、行业反响与专家观点

8.1 支持观点

专家观点
博通 CEO 陈福阳"Jalapeño 只是一个多代路线图的起点,目标是共同建设千兆瓦级算力集群。"
OpenAI 总裁 Greg Brockman"我们利用服务于用户的前沿模型,来优化运行未来模型的基础设施。"
业内人士"Jalapeño 的发布是科技巨头集体挑战英伟达市场主导地位的又一注脚。"

8.2 质疑观点

质疑点说明
不对外销售目前仅内部使用,第三方无法采购,对英伟达市场份额影响有限
软件生态OpenAI 需要自建软件栈,与 CUDA 生态竞争难度大
供货能力台积电产能有限,能否满足 OpenAI + 博通 + 其他客户的需求?
性能数据不透明OpenAI 未公布具体规格(算力、显存、带宽、TDP),难以客观评估

九、对开发者的意义

9.1 如果 OpenAI 未来出售 Jalapeño 给开发者...

场景当前(NVIDIA GPU)未来(Jalapeño)
推理成本基准-50%
推理延迟基准可能更低
软件栈CUDA + TensorRTOpenAI API(可能开源软件栈)
采购难度高(出口管制、供不应求)低(OpenAI 直接供应)

9.2 即使不出售,也值得关注

  • 推理成本降低 50% 会倒逼英伟达、AMD、英特尔降低 GPU 价格
  • AI 辅助设计芯片的新范式会被行业快速复制
  • 9 个月流片周期会成为行业新基准

十、总结

维度评价
技术创新⭐⭐⭐⭐⭐ 首款 AI 辅助设计的 AI 芯片,9 个月流片
成本优势⭐⭐⭐⭐⭐ 推理成本降低 50%,年节省数十亿美元
战略意义⭐⭐⭐⭐⭐ OpenAI 从纯模型公司转型为全栈 AI 基础设施提供商
市场影响⭐⭐⭐⭐ "去英伟达化"加速,科技巨头自研芯片阵营壮大
开放性⭐⭐ 目前仅内部使用,未来可能出售给第三方

最终建议

  • 🇨🇳 中国市场:继续关注华为昇腾、寒武纪 MLU、摩尔线程 MTT(Jalapeño 不对中国出售)
  • 🌍 国际市场:关注 Jalapeño 是否未来对外销售,以及其对英伟达市场份额的影响
  • 💡 开发者:关注 OpenAI API 降价可能性(推理成本降低 50% 可能部分让利给开发者)

参考资料


声明:本文部分规格为推测值,以 OpenAI 官方技术白皮书为准。OpenAI 将在未来数月内发布详细性能技术白皮书。

最后更新:2026-06-26

国产 AI 芯片三巨头对比(2026):昇腾、寒武纪、摩尔线程,谁是中国版 H100?

· 阅读需 8 分钟
AI Hardware Analyst

在美国对华芯片出口管制背景下,中国 AI 芯片市场正在形成"三足鼎立"格局。本文将深度对比华为昇腾寒武纪 MLU摩尔线程 MTT 三大国产 AI 芯片厂商的技术路线、产品规格、软件生态和商用进展。


核心要点

  • 华为昇腾:国产 AI 训练芯片领导者,昇腾 950 已量产,软件生态最成熟
  • 寒武纪 MLU690:"中国版 H100",算力接近 H200,能效比优势明显
  • 摩尔线程 MTT S5000:全功能 GPU 路线,2026 年 6 月实现对 Qwen3.5、GLM-5.2 的 Day-0 适配
  • 共同挑战:受美国出口管制影响,主要面向中国市场,国际市场受限

一、厂商概览

厂商成立创始人上市2025 营收主要客户
华为昇腾2018(部门)任正非未上市(华为全资)~¥20B(估算)中国政府、国企、军工
寒武纪2016陈天石(中科院)2020-07(科创板 688256)~¥5.2B字节跳动、阿里、百度
摩尔线程2020张建中(原 NVIDIA 中国)2023-12(科创板 688495)~¥1.5B(估算)政府、国企、游戏公司

战略定位差异

厂商技术路线核心优势主要挑战
华为昇腾AI 训练专用(Da Vinci 架构)软硬件协同优化、运营商渠道受美国制裁,制程受限
寒武纪AI 训练专用(MLUarch 架构)能效比高、价格有竞争力软件生态成熟度不足
摩尔线程全功能 GPU(MUSA 架构)图形 + AI 通用计算、Day-0 适配算力不及专用 AI 芯片

二、旗舰产品对比

1. 华为昇腾 950DT(2026 年旗舰)

项目参数
BF16 算力1,000 TFLOPS
显存144GB HiZQ 2.0(自研 HBM)
显存带宽4 TB/s
TDP400W
制程N+2(7nm 改进版)
发布2026-04
量产2026-Q2
单价~¥80,000(估算)

关键优势

  • 大模型推理吞吐量高:128GB 大显存,对 DeepSeek R1(671B MoE)友好
  • 软件生态最成熟:CANN 算子覆盖率 ~85%,支持 PyTorch、TensorFlow
  • 运营商渠道强:中国移动、中国电信大规模采购

关键劣势

  • 制程受限:N+2 性能不及 TSMC 4nm
  • 能效比一般:400W TDP,能效比 2.5 TFLOPS/W

2. 寒武纪 MLU690(2026 年旗舰)

项目参数
BF16 算力600 TFLOPS
显存64GB HBM3
显存带宽2 TB/s
TDP280W
制程TSMC 7nm
发布2025-Q4
量产2026-Q1
单价~¥140,000(估算)

关键优势

  • 能效比最高:280W TDP,能效比 2.14 TFLOPS/W(H100 的 1.5 倍)
  • 价格有竞争力:~$20,000,比 H100 便宜 33%
  • 已获得头部客户订单:字节跳动、阿里、百度

关键劣势

  • 显存容量小:64GB 限制大模型训练规模
  • 软件生态不成熟:NeuWare 算子覆盖率 ~75-85%,复杂 LLM 需要手工优化

3. 摩尔线程 MTT S5000(2025 年旗舰)

项目参数
FP16 算力~1,000 TFLOPS(推测)
显存80GB GDDR6X
显存带宽1.6 TB/s
TDP~350W
制程TSMC 4nm(推测)
发布2025-02
量产2025-Q2
单价~¥50,000(估算)

关键优势

  • 全功能 GPU:图形 + AI + 通用计算,应用场景更广
  • Day-0 适配能力强:2026 年 6 月实现对 Qwen3.5、GLM-5.2、MiniMax M3 的 Day-0 适配
  • 价格最低:~¥50,000,性价比高

关键劣势

  • 算力不及专用 AI 芯片:FP16 算力约为 H100 的 50%
  • 显存带宽低:1.6 TB/s(H100 的 48%),限制大模型训练性能

三、算力对比(BF16/FP16)

芯片BF16 算力显存显存带宽TDP能效比
华为昇腾 950DT1,000 TFLOPS144GB4 TB/s400W2.5 TFLOPS/W
寒武纪 MLU690600 TFLOPS64GB2 TB/s280W2.14 TFLOPS/W
摩尔线程 MTT S5000~1,000 TFLOPS80GB1.6 TB/s~350W~2.86 TFLOPS/W
NVIDIA H100989 TFLOPS80GB3.35 TB/s700W1.41 TFLOPS/W
NVIDIA H200989 TFLOPS141GB4.8 TB/s700W1.41 TFLOPS/W

关键洞察

  1. 华为昇腾 950DT 算力最高(1,000 TFLOPS),但能效比一般
  2. 寒武纪 MLU690 能效比最高(2.14 TFLOPS/W),TDP 仅 280W
  3. 摩尔线程 MTT S5000 全功能优势,但显存带宽低

四、软件生态对比

厂商软件栈框架支持算子覆盖率成熟度
华为昇腾CANNPyTorch, TensorFlow, MindSpore~85%⭐⭐⭐⭐ (4/5)
寒武纪NeuWarePyTorch-Cambricon, TensorFlow-Cambricon~75-85%⭐⭐⭐ (3/5)
摩尔线程MUSIFYPyTorch, TensorFlow, ONNX~70%⭐⭐⭐ (3/5)
NVIDIACUDA全支持~99%⭐⭐⭐⭐⭐ (5/5)

软件生态成熟度评估

华为昇腾 CANN

  • ✅ 优势:算子覆盖率最高,支持 MindSpore(自研框架)
  • ❌ 劣势:学习曲线陡峭,文档不完整

寒武纪 NeuWare

  • ✅ 优势:兼容 PyTorch、TensorFlow,迁移成本低
  • ❌ 劣势:复杂 LLM 模型需要手工优化

摩尔线程 MUSIFY

  • ✅ 优势:Day-0 适配能力强,支持 ONNX
  • ❌ 劣势:算子覆盖率最低,图形 + AI 双引擎复杂度高

五、商用进展对比

厂商2026 年商用进展主要客户出货量
华为昇腾昇腾 950 量产,中国移动大规模采购中国移动、中国电信、政府~100K 片/年(估算)
寒武纪MLU690 量产,字节跳动、阿里采购字节跳动、阿里、百度~50K 片/年(估算)
摩尔线程MTT S5000 量产,Day-0 适配 Qwen3.5政府、国企、游戏公司~30K 片/年(估算)

2026 年 6 月最新动态

华为昇腾

  • ✅ 昇腾 950DT 全面放量
  • ✅ 与中国移动签署 10 亿元采购协议

寒武纪

  • ✅ MLU690 量产出货
  • ✅ 字节跳动采购 ~20K 片

摩尔线程

  • ✅ 完成对 Qwen3.5、GLM-5.2、MiniMax M3 的 Day-0 适配
  • ✅ MTT S5000 第二代发布

六、选型建议

场景 1:万亿参数训练(GPT-4 级)

推荐华为昇腾 950DT

理由

  • ✅ 144GB 大显存,支持超大规模模型训练
  • ✅ 软件生态最成熟,算子覆盖率 ~85%
  • ✅ 运营商渠道强,获中国政府支持

备选:寒武纪 MLU690(能效比高,但显存容量小)


场景 2:百亿-千亿参数训练

推荐寒武纪 MLU690

理由

  • ✅ 能效比最高(2.14 TFLOPS/W),TCO 低
  • ✅ 价格有竞争力(~$20,000)
  • ✅ 已获得头部客户(字节、阿里)验证

备选:华为昇腾 920(算力更强,但能效比一般)


场景 3:AI 推理(云端)

推荐华为昇腾 950PR(推理专用)

理由

  • ✅ 推理性能优化好,实际吞吐量高
  • ✅ 128GB 大显存,对 MoE 模型友好
  • ✅ 软件栈成熟,部署成本低

备选:摩尔线程 MTT S5000(全功能 GPU,推理 + 图形)


场景 4:边缘 AI / 端侧推理

推荐摩尔线程 MTT S5000

理由

  • ✅ 全功能 GPU,支持图形 + AI
  • ✅ 价格最低(~¥50,000)
  • ✅ Day-0 适配能力强

备选:华为昇腾 310(低功耗,8W TDP)


场景 5:国产化替代项目(政府、国企)

推荐华为昇腾 950DT

理由

  • ✅ 中国政府首选,运营商大规模采购
  • ✅ 软硬件协同优化,性能稳定
  • ✅ 获得国家大基金支持

备选:寒武纪 MLU690(能效比高,价格有竞争力)


七、未来路线图

厂商2026 H220272028
华为昇腾950DT 放量960(FP8 ~2 PFLOPS)970(N+3 制程)
寒武纪MLU690 放量MLU790(5nm,BF16 ~1,000 TFLOPS)MLU890(3nm)
摩尔线程MTT S5000 第二代MTT S6000(HBM3,FP16 ~1,500 TFLOPS)MTT S7000

八、总结:谁是中国版 H100?

维度华为昇腾 950DT寒武纪 MLU690摩尔线程 MTT S5000
算力⭐⭐⭐⭐⭐ (5/5)⭐⭐⭐ (3/5)⭐⭐⭐ (3/5)
显存⭐⭐⭐⭐⭐ (5/5)⭐⭐ (2/5)⭐⭐⭐ (3/5)
能效比⭐⭐⭐ (3/5)⭐⭐⭐⭐⭐ (5/5)⭐⭐⭐⭐ (4/5)
软件生态⭐⭐⭐⭐ (4/5)⭐⭐⭐ (3/5)⭐⭐⭐ (3/5)
价格⭐⭐⭐ (3/5)⭐⭐⭐⭐ (4/5)⭐⭐⭐⭐⭐ (5/5)
综合能力⭐⭐⭐⭐ (4/5)⭐⭐⭐ (3/5)⭐⭐⭐ (3/5)

最终结论

  • 华为昇腾 950DT最接近 H100 的国产 AI 训练芯片,综合能力最强
  • 寒武纪 MLU690能效比最高的国产 AI 芯片,TCO 最低
  • 摩尔线程 MTT S5000最便宜的全功能 GPU,适合边缘 AI 和图形 + AI 场景

参考资料


声明:本文数据基于公开资料整理,实际规格以厂商官方为准。MirrorFrog 持续更新国产 AI 芯片数据,欢迎提交修正。


更新日志

  • 2026-06-23:初始版本发布

寒武纪 MLU690 vs NVIDIA H100 深度对比:国产 AI 芯片能否替代 H100?

· 阅读需 6 分钟
AI Hardware Analyst

2026 年,在美国对华芯片出口管制背景下,寒武纪 MLU690 作为"中国版 H100"备受关注。本文从算力、显存、功耗、软件生态、实测性能、价格等维度深度对比,帮助您做出选型决策。

核心结论(先看这里)

维度MLU690H100胜者差距
BF16 算力600 TFLOPS989 TFLOPSH100+65%
显存容量64GB HBM380GB HBM3H100+25%
显存带宽2 TB/s3.35 TB/sH100+68%
TDP280W700WMLU690-60%
能效比2.14 TFLOPS/W1.41 TFLOPS/WMLU690+52%
软件生态NeuWare(75% 覆盖率)CUDA(100% 覆盖率)H100差距大
价格~¥140,000~¥200,000MLU690-30%
供货国内现货受管制MLU690

一句话总结:MLU690 算力约为 H100 的 60%,但功耗仅 40%,价格仅 70%,适合中国市场 AI 训练和推理。


1. 规格对比(详细)

1.1 算力对比

精度MLU690H100 SXM5H200 SXM5说明
FP8~300 TFLOPS(推测)3,958 TFLOPS3,958 TFLOPSH100 支持 FP8,MLU690 可能不支持
BF16/FP16600 TFLOPS989 TFLOPS989 TFLOPSH100 领先 65%
FP32~150 TFLOPS(推测)60 TFLOPS60 TFLOPSMLU690 推测值,H100 实际更高
INT81,200 TOPS1,979 TOPS1,979 TOPSH100 领先 65%

关键发现

  • ✅ MLU690 在 BF16 精度下达到 H100 的 60% 算力
  • ⚠️ H100 支持 FP8(4 位),MLU690 可能不支持(需要确认)
  • ⚠️ H100 的 INT8 算力更高,适合推理场景

1.2 显存对比

项目MLU690H100H200说明
容量64GB HBM380GB HBM3141GB HBM3eH200 容量最大
带宽2 TB/s3.35 TB/s4.8 TB/sH200 带宽最高
类型HBM3HBM3HBM3eH200 使用最新 HBM3e

关键发现

  • ⚠️ MLU690 显存容量比 H100 少 20%(64GB vs 80GB)
  • ⚠️ MLU690 显存带宽比 H100 低 40%(2 TB/s vs 3.35 TB/s)
  • ❌ 运行 70B+ 参数模型时,MLU690 可能显存不足(需要模型并行)

1.3 功耗对比

项目MLU690H100H200
TDP280W700W700W
能效比(FP16/W)2.14 TFLOPS/W1.41 TFLOPS/W1.41 TFLOPS/W
8 卡服务器功耗~3.5kW~6kW~6kW
年电费(¥0.6/kWh)~¥18,400~¥36,800~¥36,800

关键发现

  • MLU690 功耗仅 H100 的 40%,数据中心电力成本大幅降低
  • MLU690 能效比领先 52%,更适合大规模部署
  • ✅ 对于推理场景(功耗敏感),MLU690 优势明显

2. 软件生态对比

2.1 框架支持

框架MLU690(NeuWare)H100(CUDA)说明
PyTorch✅ 支持(PyTorch-Cambricon)✅ 原生支持MLU690 需要额外安装插件
TensorFlow✅ 支持(TensorFlow-Cambricon)✅ 原生支持同上
JAX⚠️ 部分支持✅ 原生支持MLU690 支持有限
ONNX⚠️ 部分支持✅ 原生支持同上
vLLM⚠️ 适配中✅ 原生支持MLU690 需要等待社区适配

2.2 算子覆盖率

类别MLU690H100说明
基础算子✅ 95%✅ 100%卷积、矩阵乘法等
Transformer 算子✅ 85%✅ 100%Attention、LayerNorm 等
自定义算子⚠️ 需要手写✅ CUDA C++MLU690 开发难度大
LLM 推理优化⚠️ 基础支持✅ 完善(FlashAttention、PagedAttention)H100 领先

关键发现

  • ⚠️ NeuWare 生态仅 5-6 年发展,算子覆盖率约 75-85%
  • ❌ 复杂 LLM 模型(如 GPT-4、Claude)可能需要手工优化
  • ✅ 常见模型(Llama、Qwen、GLM)已基本适配

3. 实测性能对比

3.1 训练性能

模型MLU690(训练时间)H100(训练时间)加速比
Llama 7B~48 小时(推测)~30 小时1.6x
Llama 70B~7 天(推测)~4.5 天1.6x
Qwen 72B~8 天(推测)~5 天1.6x

注意:以上数据为推测,实际性能取决于软件优化程度。

3.2 推理性能

模型MLU690(tok/s)H100(tok/s)说明
Llama 7B~80 tok/s(推测)~120 tok/sH100 领先 50%
Llama 70B~20 tok/s(推测)~35 tok/sH100 领先 75%
Qwen 72B~18 tok/s(推测)~30 tok/sH100 领先 67%

关键发现

  • ⚠️ H100 推理性能领先 50-75%
  • ✅ 但 MLU690 功耗仅 40%,能效比更高
  • ✅ 对于成本敏感的推理场景,MLU690 更划算

4. 价格对比

4.1 硬件采购成本

项目MLU690H100H200
单卡价格(国内)~¥140,000~¥200,000~¥300,000
8 卡服务器(含整机)~¥1,200,000~¥1,800,000~¥2,600,000
成本差-+50%+117%

4.2 TCO(3 年)

项目MLU690H100说明
硬件采购¥1,200,000¥1,800,000MLU690 便宜 33%
电费(3 年)¥55,200¥110,400MLU690 便宜 50%
机房成本¥150,000¥250,000MLU690 便宜 40%
TCO(3 年)¥1,405,200¥2,160,400MLU690 便宜 35%

关键发现

  • MLU690 的 TCO 比 H100 低 35%
  • ✅ 对于大规模部署(100+ 卡),成本优势明显

5. 选型建议

5.1 选 MLU690,如果...

  • ✅ 您的业务主要在中国市场
  • ✅ 您受美国出口管制影响,无法采购 H100/H200
  • ✅ 您对功耗敏感(边缘数据中心、电力成本高的地区)
  • ✅ 您的模型是常见架构(Llama、Qwen、GLM)
  • ✅ 您有国产化替代需求(政府、国企、军工)

5.2 选 H100/H200,如果...

  • ✅ 您的业务在全球市场
  • ✅ 您需要训练顶级前沿模型(GPT-4 级)
  • ✅ 您的模型使用复杂算子(需要 CUDA 生态)
  • ✅ 您对性能要求极高(低延迟推理)
  • ✅ 您可以合法采购 H100/H200

5.3 混合部署(推荐)

场景推荐方案
训练H100(高性能) + MLU690(低成本扩充)
推理MLU690(成本敏感) + H100(低延迟)
国产化项目全部 MLU690
国际市场全部 H100/H200

6. 未来展望

6.1 MLU690 的不足

  • ⚠️ 软件生态不成熟:算子覆盖率 75-85%,复杂模型需要手工优化
  • ⚠️ 显存容量小:64GB 限制了对 70B+ 参数模型的支持
  • ⚠️ 互联性能弱:Cambricon Link 带宽低于 NVLink
  • ⚠️ 国际市场受限:受美国出口管制影响

6.2 MLU690 的改进方向

  • 📅 MLU790(2027 年):预计 5nm 制程,算力提升 2x
  • 📅 显存升级:下一代可能支持 HBM3e,容量提升至 128GB
  • 📅 软件优化:NeuWare 生态持续改进,算子覆盖率目标 95%

7. 总结

维度MLU690H100推荐场景
算力⭐⭐⭐⭐⭐⭐⭐⭐⭐H100 适合顶级训练
显存⭐⭐⭐⭐⭐⭐⭐H100 适合大模型
功耗⭐⭐⭐⭐⭐⭐⭐⭐MLU690 适合推理
生态⭐⭐⭐⭐⭐⭐⭐⭐H100 适合复杂模型
价格⭐⭐⭐⭐⭐⭐⭐⭐MLU690 适合大规模部署
国产化⭐⭐⭐⭐⭐MLU690 适合中国市场

最终建议

  • 🇨🇳 中国市场:优先选择 MLU690(国产化 + 低成本)
  • 🌍 国际市场:优先选择 H100/H200(性能 + 生态)
  • 💡 混合部署:训练用 H100,推理用 MLU690

参考资料


声明:本文数据基于公开资料和合理估算,实际性能以厂商官方测试为准。MLU690 的软件生态在快速发展中,建议持续关注 NeuWare 更新。

最后更新:2026-06-23

2026 H2 AI 芯片路线图重大更新:Qualcomm 入局、AMD MI400 三款型号揭晓、华为三代路线图

· 阅读需 7 分钟
AI Hardware Analyst

2026 年 6 月更新——AI 算力卡市场正在经历近年来最剧烈的格局变化。本文将为您梳理最新路线图动态。


核心要点

  • Qualcomm AI 200/250 正式进入数据中心 AI 推理市场,对标 NVIDIA H200
  • AMD MI400 系列 揭晓三款型号:MI430X(HPC)、MI440X(企业)、MI455X(旗舰)
  • 华为 公布三代路线图:950(2026)→ 960(2027-Q4)→ 970(2028-Q4)
  • Intel Jaguar Shores 时间线存疑,可能延迟至 2027 或之后
  • NVIDIA Rubin R200 已全面量产,Vera CPU + Rubin GPU 组合正式交付

1. Qualcomm:移动芯片巨头进军数据中心 AI

AI 100 → AI 200 → AI 250

Qualcomm 在 2025 年 10 月正式发布了 AI 200 数据中心推理芯片,标志着移动芯片巨头正式进入数据中心 AI 市场。

型号发布时间上市时间关键特性
AI 1002025-102026 H2机架级 AI 推理,768GB LPDDR/卡
AI 2502025-102027 H1近存计算架构,10x 有效内存带宽

为什么 Qualcomm 能成功?

  1. 低 TCO:LPDDR 内存比 HBM 便宜得多
  2. 能效优势:移动芯片设计经验,功耗控制出色
  3. 推理专用:不追求训练性能,专注推理场景
  4. 机架规格:直接液冷,160kW 机架级功耗,Ethernet 互联

市场影响

  • 对标 NVIDIA H200:AI 200 推理性能接近 H200,但 TCO 低 30-40%
  • 倒逼 NVIDIA:可能促使 NVIDIA 推出推理专用芯片(如 Rubin CPX)
  • 多样化选择:打破 NVIDIA 在推理市场的垄断

2. AMD MI400 系列:三款型号精准定位

在 CES 2026(2026 年 1 月)上,AMD 正式揭晓了 MI400 系列 的三款型号,精准覆盖不同市场:

MI430X(HPC + 主权 AI)

特性规格
定位HPC + 主权 AI
FP32/FP64支持(这是关键区别)
适用场景科学计算、气候模拟、国家 AI 基础设施
竞争对手NVIDIA 不做 FP64 的 AI 卡

MI440X(企业服务器)

特性规格
定位企业 8-GPU 服务器
兼容性兼容现有数据中心基础设施
适用场景企业 AI、私有云、边缘推理
竞争优势比 MI455X 更便宜,更易部署

MI455X(旗舰 AI 训练)

特性规格
定位旗舰 AI 训练 + 推理
优化精度FP4/FP8/BF16
Helios 机架核心组件
竞争对手NVIDIA Rubin R200

Helios 机架级解决方案

AMD 在 CES 2026 同时发布了 Helios 机架级 AI 解决方案:

  • 18 颗 Zen 6 CPU(2nm 制程)
  • 72 颗 MI455X GPU
  • 直接液冷
  • 预计 2026 H2 出货

3. 华为三代路线图:950 → 960 → 970

华为在全联接大会 2025(2025 年 9 月)公布了三代芯片路线图,时间线非常清晰:

昇腾 950 系列(2026)

型号发布时间关键特性
950PR2026-Q1PR(推理优化),已量产
950DT2026-Q4DT(Decode + 训练),预计全面放量

技术亮点

  • 新增支持 FP8/MXFP8/MXFP4
  • 互联带宽 2TB/s(相比 910C 提升 2.5 倍)

昇腾 960(2027-Q4)

  • 算力翻倍:相比 950 系列,各项规格翻倍
  • FP8:预计 ~2 PFLOPS
  • 工艺:N+3(等效 5nm)
  • 定位:对标 NVIDIA B200

昇腾 970(2028-Q4)

  • 三代旗舰:目前仅公布时间线,规格待定
  • 意义:华为首个覆盖完整代际的路线图
  • 信号:中国国产 AI 芯片已进入"规划驱动"阶段

4. Intel Jaguar Shores:时间线存疑

原定计划

  • 发布时间:2026 年
  • 架构:Xe-HPC + Gaudi 融合
  • 制程:18A(Intel 最先进制程)
  • 内存:可能采用 HBM4E(而非原计划的 HBM4)

最新动态

  • 可能延迟:部分消息源显示可能推迟至 2027 年
  • 竞争对手:AMD MI400 已揭晓,NVIDIA Rubin 已量产
  • 市场压力:Intel 在 AI 芯片市场节节败退,Jaguar Shores 是最后机会

对路线图的影响

如果 Jaguar Shores 延迟至 2027 年,Intel 在 AI 芯片市场将基本出局。


5. NVIDIA Rubin 平台:已全面量产

Rubin R200(2026-Q2 全面量产)

特性规格
HBM288GB HBM4
算力50 PFLOPS FP4
NVLinkNVLink 6(1800 GB/s)
制程TSMC 4NP

Rubin NVL72 机柜(2026 H2 出货)

  • 72 颗 Rubin GPU
  • 36 颗 Vera CPU
  • 1.8 EFLOPS FP4
  • 直接液冷

Vera CPU(首次亮相)

  • 架构:自研 CPU,替代 Grace
  • 定位:与 Rubin GPU 深度协同
  • 意义:NVIDIA 从 GPU 公司转型为计算平台公司

6. Google TPU v8:训练/推理正式拆分

TPU 8t(训练) + TPU 8i(推理)

Google 在 Cloud Next 2026 宣布 TPU v8 将正式拆分为训练版和推理版:

特性TPU 8t(训练)TPU 8i(推理)
优化方向高算力、高带宽低延迟、低成本
互联光学互联以太网
发布时间20272027

意义

  • 行业趋势:训练/推理芯片专用化
  • 跟随者:Qualcomm AI 200 也是推理专用
  • NVIDIA 压力:是否需要推出推理专用芯片?

7. Cerebras WSE-4:晶圆级引擎再进化

核心规格

特性规格
晶体管1.4 万亿
算力125 PFLOPS FP8
发布时间2026 H2
制程TSMC 5nm

竞争优势

  • 超大模型训练:单颗 WSE-4 可训练 10T+ 参数模型
  • 低延迟推理:整个模型在单颗芯片上,无通信开销
  • 软件栈成熟:Cerebras 软件栈已支持 PyTorch、TensorFlow

8. 市场格局分析

训练市场

排名厂商产品市场份额(预估)
1NVIDIARubin R20070%
2AMDMI455X15%
3GoogleTPU v8t10%
4华为昇腾 9605%(中国为主)

推理市场(新战场)

排名厂商产品优势
1NVIDIAH200 / Rubin CPX生态成熟
2QualcommAI 200低 TCO
3AMDMI440X兼容性好
4IntelGaudi 4价格低廉

9. 关键趋势

趋势 1:推理专用芯片崛起

  • Qualcomm AI 200:移动芯片巨头入局
  • NVIDIA Rubin CPX:NVIDIA 首次推出推理专用芯片
  • Google TPU 8i:训练/推理正式拆分

趋势 2:机架级解决方案成为标配

  • NVIDIA NVL72:72 GPU + 36 CPU
  • AMD Helios:18 CPU + 72 GPU
  • Qualcomm 机架:160kW 液冷机架

趋势 3:中国国产芯片进入"规划驱动"阶段

  • 华为三代路线图:950 → 960 → 970
  • 时间线清晰:2026-Q1 → 2027-Q4 → 2028-Q4
  • 意义:从"追赶"到"规划"

趋势 4:HBM 产能成为瓶颈

  • SK 海力士:HBM4 产能已被 NVIDIA 预订
  • 三星:HBM4E 样品已交付 AMD
  • 影响:MI400、Rubin R200 出货量受 HBM 产能限制

10. 采购建议

如果您在 2026 H2 采购

  1. 训练场景

    • 首选:NVIDIA Rubin R200(性能最强)
    • 备选:AMD MI455X(性价比更高)
    • 国产:华为昇腾 950DT(中国客户)
  2. 推理场景

    • 首选:NVIDIA H200(生态成熟)
    • 性价比:Qualcomm AI 200(如果可用)
    • 成本敏感:AMD MI440X
  3. HPC 场景

    • 唯一选择:AMD MI430X(支持 FP64)

如果您在 2027 采购

  • 等待 Rubin Ultra:性能可能是 R200 的 2x
  • 关注 MI500:AMD 下一代产品
  • 评估 TPU v8:如果已在用 Google Cloud

结论

2026 H2 将是 AI 芯片市场有史以来最卷的半年

  • NVIDIA 继续领跑,但优势缩小
  • AMD 三款型号精准定位,市场份额将持续提升
  • Qualcomm 入局推理市场,低 TCO 策略可能颠覆市场
  • 华为 三代路线图清晰,国产替代加速
  • Intel Jaguar Shores 成败在此一举

对于采购决策者,现在是最难做决定的时刻——因为每个选项都有明显的优缺点。

对于技术从业者,这是最好的时代——芯片性能每年翻倍,架构创新层出不穷。


参考资料

  • AI 算力卡未来路线图 - MirrorFrog 实时更新
  • NVIDIA Rubin R200 深度解析(见本站相关文章)
  • AMD MI400 系列 CES 2026 发布(见本站相关文章)
  • Qualcomm AI 100 发布分析(即将发布)

最后更新:2026-06-20
作者:Charles Qing
标签:#路线图 #市场分析 #采购决策

AMD MI455X CES 2026 震撼发布:4年AI芯片性能涨1000倍

· 阅读需 7 分钟
Industry Research Team

2026年1月5日,在CES 2026(国际消费电子展)首日,AMD董事会主席兼CEO苏姿丰博士在主题演讲中震撼发布:Instinct MI400系列AI加速卡

其中最引人注目的是MI455X——AMD史上性能最强的AI加速卡,采用2nm + 3nm混合制程432GB HBM4显存、FP4算力高达40 PFLOPS(FP8为20 PFLOPS)。

核心亮点

  • MI455X:FP4算力40 PFLOPS,FP8算力20 PFLOPS,相比MI355X提升10×
  • MI450:高性价比版,FP4算力28 PFLOPS,288GB HBM4
  • 制程升级:全球首款采用2nm + 3nm混合制程的AI芯片(GCD用2nm,MCD用3nm)
  • 显存升级:从MI350X的288GB HBM3e升级到432GB HBM4(MI455X)
  • 带宽升级:从MI350X的8 TB/s升级到19.6 TB/s(提升2.45×)
  • 架构升级:从CDNA 4升级到CDNA 5
  • 量产时间:MI455X 2026年Q4,MI450 2026年Q3

MI400系列完整规格

📌 重要更正(2026-06-16):经官方规格核对,MI455X 显存为 432GB HBM4(非早期报道的 288GB),FP4 算力为 40 PFLOPS。特此更正。

型号定位显存FP4 算力FP8 算力TDP(推测)
MI455X旗舰训练+推理432GB HBM440 PFLOPS20 PFLOPS~1,000W
MI450高性价比训练288GB HBM428 PFLOPS14 PFLOPS~800W
MI440X企业推理216GB HBM425 PFLOPS12.5 PFLOPS~600W
MI430XHPC / 科学计算192GB HBM420 PFLOPS10 PFLOPS~500W
MI400X通用 / 边缘推理128GB HBM412 PFLOPS6 PFLOPS~400W

关键升级(vs MI350系列)

  • 显存:HBM3e → HBM4,容量提升 50%(432GB vs 288GB)
  • 带宽:19.6 TB/s(vs MI350的 8 TB/s,提升 2.45×
  • 算力:FP4 40 PFLOPS(vs MI355X的 20 PFLOPS,提升
  • 制程:2nm + 3nm 混合制程(GCD用2nm,MCD用3nm)
  • 架构:CDNA 5(vs MI350的 CDNA 4)

与MI355X的性能对比

指标MI355X(2025)MI455X(2026)提升
FP4算力20 PFLOPS40 PFLOPS
FP8算力10 PFLOPS20 PFLOPS
显存容量288GB HBM3e432GB HBM41.5×
显存带宽8 TB/s19.6 TB/s2.45×
制程TSMC 3nm2nm + 3nm 混合新一代
架构CDNA 4CDNA 5新一代
TDP800-1000W~1,000W持平

苏姿丰在CES 2026上说

"4年前,MI250的AI性能是X。现在,MI455X的性能提升了1000倍。这就是AI芯片的进步速度。"

CDNA 5架构详解

MI400系列采用CDNA 5架构(MI355X用CDNA 4):

关键升级

  1. Matrix Core 升级:支持FP8/INT8/FP16,稀疏化加速
  2. HBM4控制器:支持12层HBM4( vs HBM3e的8层)
  3. Infinity Fabric 4.0:Die间/Die-GPU间互联带宽提升50%
  4. 稀疏化原生支持:MoE模型的Expert Parallel优化
  5. 长上下文优化:1M+ token KV Cache加速

与NVIDIA Blackwell / Rubin对比

指标AMD MI455XNVIDIA B200NVIDIA Rubin R200(2026 Q4)
FP4算力40 PFLOPS20 PFLOPS(稀疏 45 PFLOPS)~40 PFLOPS(推测)
FP8算力20 PFLOPS10 PFLOPS(稀疏 22.5 PFLOPS)~20 PFLOPS(推测)
显存432GB HBM4192GB HBM3e288GB HBM4
显存带宽19.6 TB/s8 TB/s13 TB/s
TDP~1,000W700-1000W~1,000W
制程2nm + 3nm 混合TSMC 4npTSMC 3nm
量产时间2026年Q42024年Q42026年Q4
软件生态ROCmCUDACUDA
优势显存容量、开放生态生态最成熟下一代架构
劣势软件生态差距显存较小尚未发布

结论:MI455X在FP4/FP8算力显存容量/带宽上领先B200,但软件生态仍是短板。与Rubin R200相比,纸面性能相近,但Rubin有CUDA生态护城河。

量产时间表

时间事件
2025年6月12日Advancing AI大会首次公布MI400系列规格
2026年1月5日CES 2026正式发布MI455X/MI450/MI440X
2026年Q3MI450开始送样
2026年Q4MI455X正式量产
2026年Q4MI440X(企业推理版)发布
2027年Q1MI430X/MI400X(HPC/边缘推理版)发布
2027年MI500系列(下一代)

AMD AI芯片路线图(2025-2027)

时间产品制程备注
2024年Q4MI325XTSMC 5nmHBM3e升级版
2025年Q3MI355X(MI350系列)TSMC 3nmCDNA 4,288GB HBM3e
2026年Q4MI455X(MI400系列)2nm + 3nm 混合CDNA 5,432GB HBM4
2027年Q1MI500系列TSMC 2nm(推测)下一代,性能再提升

软件生态:ROCm的进步与挑战

✅ 进步

  • PyTorch 2.5+:原生支持MI300X/MI455X
  • Hugging Face Transformers:官方支持AMD GPU
  • vLLM 0.8+:MI300X推理支持(实验性)
  • JAX:AMD正在适配(对标Google TPU)

⚠️ 挑战

  • 框架优化度:PyTorch在AMD GPU上的性能仍低于NVIDIA
  • 算子覆盖率:部分小众算子需要自己写HIP代码
  • 多卡通信:RCCL(对标NCCL)性能仍有差距
  • 开发者生态:教程、案例、社区活跃度远不及NVIDIA

与竞品对比

厂商产品FP4算力显存量产时间优势劣势
AMDMI455X40 PFLOPS432GB HBM42026 Q4显存容量最大、开放生态软件生态差距
NVIDIAB20020 PFLOPS192GB HBM3e2024 Q4生态最成熟显存较小
NVIDIARubin R200~40 PFLOPS288GB HBM42026 Q4下一代架构、CUDA生态价格昂贵
华为昇腾910C~1.6 PFLOPS64GB HBM2026 Q2中国本土化受出口管制
GoogleTPU 8t~9.2 PFLOPS~256GB HBM3e2027年底与Gemini集成仅Google Cloud

行业影响

1. 对NVIDIA的冲击

AMD MI455X在纸面性能上已经追上B200(FP4 40 PFLOPS vs 20 PFLOPS),甚至在显存容量上大幅领先(432GB vs 192GB)。

  • NVIDIA有CUDA生态护城河
  • NVIDIA有Vera Rubin平台(整体方案,2026 Q4发布)
  • AMD只能卖单卡/单机,NVIDIA卖AI工厂
  • MI455X量产时间(2026 Q4)与Rubin R200相同,正面竞争

2. 对国产芯片的压力

MI455X的发布意味着:国际主流AI芯片在2026年将进入2nm + HBM4时代

国产芯片(华为昇腾、寒武纪、沐曦等)需要:

  • 在2026-2027年追上5nm + HBM3e水平
  • 否则差距将从"1代"扩大到"2代"

3. 对云服务商的意义

MI455X给云服务商提供了NVIDIA之外的第二选择

  • 微软Azure:已部署MI355X,可能跟进MI455X
  • 谷歌Cloud:自研TPU,不会用AMD
  • 亚马逊AWS:自研Trainium/Inferentia,不会用AMD
  • 阿里云、腾讯云:可能采购MI455X作为NVIDIA替代方案

相关芯片

参考资料


本文基于AMD CES 2026官方公告、百度百科及知乎智东西现场报道整理,规格参数已核对官方来源。2026-06-16更新:修正MI455X显存(288GB → 432GB)和算力(FP8 6 PFLOPS → FP4 40 PFLOPS)

谷歌TPU 8i/8t 正式发布:训练与推理首次分家,2nm工艺赋能智能体时代

· 阅读需 7 分钟
Industry Research Team

2026年4月22日,在拉斯维加斯举行的Google Cloud Next '26大会上,谷歌正式发布了第八代张量处理器(TPU)。这是谷歌史上首次将AI训练与推理任务拆分至两款独立芯片:

  • TPU 8t:专为模型训练设计
  • TPU 8i:专注高并发推理任务

此次发布未引入新的物理概念,而是聚焦于解决AI数据中心的核心痛点:万卡集群扩展效率智能体AI工作负载优化每瓦性能提升

TPU 8i(推理专用):消除"等待室效应"

TPU 8i是谷歌和**联发科(MediaTek)**首次合作设计的推理专用芯片,旨在消除"等待室效应"——即用户请求被有意排队或延迟以实现硬件利用率最大化的情况。

TPU 8i 核心规格(推测)

参数TPU 8iTPU v7 Ironwood
定位推理专用推理为主
制程TSMC 2nm
Die设计双计算Die(推测)
显存8× HBM3e 12层(推测 ~192GB)8× HBM3(192GB)
显存带宽~7 TB/s(推测)7,380 GB/s
FP8 算力~4,614 TFLOPS(推测)4,614 TFLOPS
TDP(每芯片)1,300 W1,000 W
互联ICI 3D TorusICI 3D Torus
集成CPUArm Axion(64核)
散热风冷/液冷均可第4代液冷
公布时间2026-04-222025-08-25
量产时间2027年底2026年

关键特性

  • 高并发推理优化:专为Agentic AI设计,支持数千个步骤的推理链条
  • Arm Axion CPU集成:64核Neoverse V2,Host CPU + 数据预处理协同
  • 低延迟:消除"等待室效应",首Token延迟(TTFT)极低
  • 每瓦性能提升117%:相比Ironwood(同等价格)

TPU 8t(训练专用):Gemini 3/4的"发动机"

TPU 8t专为Google Gemini 3 / Gemini 4等frontier模型训练设计,是谷歌与**博通(Broadcom)**长期合作的延续。

TPU 8t 核心规格

参数TPU 8tTPU v7 Ironwood提升
定位训练专用推理为主形态拆分
制程TSMC 2nm新一代
Die设计双计算Die架构升级
显存HBM3e 12层(单芯片推测 ~256GB)8× HBM3(192GB)升级
显存带宽~7 TB/s(推测每芯片)7,380 GB/s持平
Pod芯片数9,600芯片9,216+4%
Pod HBM总量2 PB远超
Pod FP4算力121 EFLOPS~42 EFLOPS(推测)~3×
集成CPUArm Axion(64核)新增
TDP(每芯片)1,300 W1,000 W+30%
量产时间2027年底2026年

关键特性

  • MoE训练原生支持:Expert Parallel优化(DeepSeek / Mixtral风格)
  • Long-context训练:1M+ token上下文训练优化
  • RLHF/后训练:Online RL(DPO/PPO/GRPO)原生优化
  • Arm Axion CPU协同:数据预处理/权重初始化Offload到CPU
  • SparseCore加速:MoE路由和推荐系统

第八代TPU的战略意义

1. 训练与推理首次分家

此前,谷歌的TPU设计理念是"一个架构兼顾训练和推理"(如TPU v5p、v6e)。但智能体AI时代的到来改变了这一点:

  • 训练工作负载:大规模矩阵乘法、长时序反向传播、稀疏化MoE
  • 推理工作负载:高并发、低延迟、KV Cache密集型、动态批处理

这两种工作负载对芯片架构的要求截然不同。拆分后:

  • TPU 8t可以专注优化计算密度显存容量
  • TPU 8i可以专注优化推理吞吐每瓦性能

2. 与博通、联发科的双线合作

  • 博通(Broadcom):继续合作设计TPU 8t(训练),延续自TPU v1以来的长期伙伴关系
  • 联发科(MediaTek):首次合作设计TPU 8i(推理),引入移动芯片低功耗设计经验

这种"双线合作"策略使谷歌能够:

  • 在训练芯片上追求极致性能(与博通的高端ASIC经验结合)
  • 在推理芯片上追求极致能效(与联发科的移动芯片经验结合)

3. 对标NVIDIA Vera Rubin

对比Google TPU 8t + 8iNVIDIA Vera Rubin
策略训练/推理拆分统一架构(GPU+CPU)
制程TSMC 2nmTSMC 3nm(推测)
生态仅Google Cloud全球可用
软件JAX / PyTorch/XLACUDA / PyTorch
量产2027年底2026年秋季
优势与Gemini深度集成生态最成熟

技术深度解析

TSMC 2nm:为何选择2nm?

谷歌是首家在AI加速器上采用TSMC 2nm制程的厂商(NVIDIA Rubin用的是3nm)。2nm(N2)工艺相比3nm(N3E):

  • 晶体管密度提升:~15-20%
  • 功耗降低:~25-30%(同等性能)
  • 性能提升:~10-15%(同等功耗)

对于功耗已达1,300W的TPU 8t/8i来说,2nm是必须的——否则4nm/3nm无法在合理功耗内集成双计算Die和8×HBM3e。

Arm Axion CPU:Google自研CPU首次进入TPU节点

此前,TPU节点使用Intel Xeon或AMD EPYC作为Host CPU。TPU 8t/8i首次集成Google自研的Arm Axion CPU(64核Neoverse V2):

意义

  1. 数据预处理Offload:Tokenization、数据增强等可以完全在Axion上完成,不占用TPU算力
  2. 权重初始化:大模型训练的权重初始化可以在CPU上完成,加速训练启动
  3. 推理调度:多模型推理时,Axion负责请求调度和负载均衡

这标志着TPU节点向"超节点"演进:不再是纯加速器,而是TPU + Axion CPU协同系统,对标NVIDIA Vera CPU。

第4代液冷:1,300W的散热挑战

TPU 8t/8i的TDP达到1,300W(相比Ironwood的1,000W提升30%),这给数据中心散热带来巨大挑战。

谷歌采用第4代液冷方案

  • 冷板液冷:直接冷却GPU Die和HBM
  • 浸没式液冷:可选方案(超高密度部署)
  • 智能温控:根据工作负载动态调整泵速和风扇转速

量产时间表与应用场景

时间事件
2026-04-22Cloud Next '26正式公布
2026年下半年内部测试(Google DeepMind优先使用)
2027年底**正式量产,Google Cloud开放
2028年下一代TPU(可能为TPU 9)

目标应用场景

  • Frontier模型训练(Gemini 3/4、外部客户)
  • MoE大模型推理(高并发、低延迟)
  • 多模态AI(ViT + LLM同步推理)
  • 智能体AI(Agentic AI工作负载)

与竞品对比

厂商产品制程TDP量产时间
GoogleTPU 8i(推理)TSMC 2nm1,300W2027年底
GoogleTPU 8t(训练)TSMC 2nm1,300W2027年底
NVIDIARubin GPUTSMC 3nm(推测)~1,000W2026年秋季
NVIDIAVera CPUTSMC 3nm(推测)~500W2026年秋季
AMDMI455X(MI400)TSMC 3nm(推测)~700W2026年
华为昇腾950PR~500W2026年Q1

行业影响

  1. AI芯片进入2nm时代:谷歌率先采用TSMC 2nm,NVIDIA、AMD必然跟进
  2. 训练/推理拆分成为新趋势:其他厂商(如NVIDIA、AMD)可能会效仿
  3. 自研CPU成为标配:Google(Axion)、NVIDIA(Vera)、华为(鲲鹏)都在做CPU+加速器的协同设计
  4. 液冷成为必然选择:1,300W的TDP意味着风冷已经无法满足

相关芯片

参考资料


本文基于Google官方公告及公开资料整理,部分规格为推测值,以官方最终发布为准。

里程碑!华为昇腾910C完成1.6万亿参数大模型全参数训练

· 阅读需 7 分钟
Industry Research Team

2026年6月5日,深圳发布官宣重磅消息:深圳河套学院联合哈工大(深圳)、华为等团队,用1000颗华为昇腾910C芯片,成功完成1.6万亿参数DeepSeek-V4-Pro大模型全参数后训练

这不是一次试探性的尝试,而是一次里程碑式的技术突破。它用无可辩驳的工程结果证明:国产AI芯片足以支撑世界级超大参数模型训练

为什么这很重要?

AI芯片的两道坎:"推理"与"训练"

  • 推理(Inference):用现成模型聊天、写文案。此前国产芯片已经能做
  • 训练(Training):调整模型参数让它学习新能力。全参数训练要同时调整1.6万亿个参数,难度拉满

此前,万亿级参数模型的全参数训练一直被英伟达H100/H200垄断。国产芯片只能做推理,无法做大规模训练。

这次突破的意义:国产算力从"能用"跨越到"好用",从"推理"跨越到"训练"。

技术细节

训练配置

项目参数
芯片华为昇腾910C × 1,000颗
模型DeepSeek-V4-Pro
参数量1.6万亿(1600B)
训练类型全参数后训练(Full Parameter Post-Training)
训练框架昇思(MindSpore)+ torch_npu
完成时间2026年6月5日官宣

性能指标

指标数值评价
算力利用率>30%工业级水平(海外顶级芯片~40%)
关键训练算子效率提升14%相比上一代910B
通信带宽利用率>60%(推测)MoE模型的All-to-All通信
稳定性1000颗卡连续训练无故障集群稳定性达标

💡 关于30%算力利用率:很多人觉得30%不高,但在大模型训练领域,这已经是非常不错的工业级水平。就算用最顶级的海外芯片,很多团队的实际利用率也就在40%左右。

昇腾910C详细规格

昇腾910C是华为在2024年4月24日(华为分析师大会)公布的AI训练/推理芯片,理论算力峰值达到800 TFLOPS(BF16精度),与英伟达H100处于同等量级。

参数昇腾910C昇腾910BNVIDIA H100
架构Ascend 910CAscend 910BHopper
制程TSMC 7nm(推测)TSMC 7nmTSMC 4NP
BF16算力800 TFLOPS256 TFLOPS989 TFLOPS(稀疏)
显存64GB HBM(推测)64GB HBM2e(B1/B2)80GB HBM3
显存带宽~2TB/s(推测)600 GB/s(B1/B2)3.35 TB/s
TDP~400W(推测)300-400W700W
量产时间2026年4月(正式量产)2022年11月2022年3月

关键升级

  • 算力提升3×:从910B的256 TFLOPS提升到800 TFLOPS
  • 软件生态完善:torch_npu适配PyTorch,昇思框架成熟
  • 集群稳定性:1000颗卡连续训练无故障(这是最大的突破)

技术挑战与解决方案

挑战1:万亿级模型的显存需求

1.6万亿参数模型,仅模型参数就需要:

  • FP16精度:1.6T × 2 bytes = 3.2 TB
  • 加上梯度、优化器状态:至少10 TB显存

华为的解决方案

  • 模型并行(Model Parallel):将模型分布到1000颗910C上
  • ZeRO优化器:优化显存占用
  • 梯度累积:分阶段更新参数

挑战2:万卡集群的通信效率

1000颗芯片训练时,卡间通信成为瓶颈。MoE模型需要All-to-All通信(每个专家可能需要与其他所有专家通信)。

华为的解决方案

  • HCCS(Huawei Collective Communication Scheduler):自研高速互联协议
  • 分层通信:节点内NVLink + 节点间HCCS
  • 通信-计算重叠:在计算的同时进行数据传输

挑战3:训练稳定性

万亿级模型训练需要数周甚至数月,任何一颗卡故障都可能导致整个训练中断。

华为的解决方案

  • 故障检测与自动恢复:实时监测卡的状态,故障时自动重启并恢复训练状态
  • 检查点(Checkpoint)优化:高频保存训练状态(每N步保存一次)
  • 昇腾集群管理软件:专门为企业级训练设计

与竞品对比

厂商芯片1.6万亿参数训练生态成熟度可用性
华为昇腾910C已完成⭐⭐⭐(进步中)中国本土
NVIDIAH100/H200✅ 工业标准⭐⭐⭐⭐⭐全球(受出口管制)
AMDMI300X✅ 可行⭐⭐⭐⭐全球
GoogleTPU v5p/8t✅ JAX原生⭐⭐⭐⭐Google Cloud

结论:昇腾910C在硬件性能上已经追上H100,软件生态仍有差距,但这次训练成功证明了工程可行性

行业影响

1. 国产算力的"遵义会议"

这次突破被业内称为国产算力的"遵义会议"——从此从被动防守转向战略反攻。

具体影响

  • 打破"国产芯片只能推理"的偏见
  • 证明国产芯片可以做frontier模型训练
  • 为国产大模型(如DeepSeek-V4、文心5.0)提供算力底座

2. 对英伟达的冲击

华为昇腾910C完成万亿级训练,意味着中国AI产业对英伟达的依赖度降低

场景此前现在
推理国产芯片可用国产芯片好用
训练必须用H100/H200可以用910C
大规模训练必须用H100集群可以用910C集群

3. 对国产芯片产业的提振

这次突破将带动整个国产AI芯片产业链:

  • 芯片设计:寒武纪、沐曦、摩尔线程等加速迭代
  • 晶圆制造:中芯国际、华虹等获得更多订单
  • 封装测试:长电科技、通富微电等受益

华为昇腾芯片路线图(2025-2028)

时间芯片定位
2025年Q1昇腾910C旗舰训练/推理(已量产)
2026年Q1昇腾950PR推理优化(~500 TFLOPS BF16)
2026年Q4昇腾950DT数据中心训练
2027年Q4昇腾960下一代旗舰
2028年Q4昇腾970再下一代

训练实战经验分享

深圳河套学院团队在训练中积累了宝贵经验:

✅ 成功经验

  1. 渐进式训练:从小模型(7B)开始,逐步扩大到1.6T
  2. 混合精度训练:BF16主训练 + FP32梯度累积
  3. 通信优化:All-to-All通信与计算重叠
  4. 故障恢复:每1000步保存一次检查点

⚠️ 遇到的挑战

  1. 显存碎片:长训练过程中显存碎片化严重,需要定期整理
  2. 通信瓶颈:MoE模型的All-to-All通信占训练时间的30%+
  3. 软件Bug:torch_npu偶有内存泄漏,需要重启训练进程

相关芯片

参考资料


本文基于公开报道整理。向深圳河套学院、哈工大(深圳)、华为等团队表示敬意——你们用工程实践证明了中国AI算力的可行性。

Intel Gaudi 4 / Jaguar Shores 最新进展:重返AI竞赛,HBM4内存加持

· 阅读需 7 分钟
Industry Research Team

2026年3月18日,Intel在Intel AI Summit上正式发布:Habana Gaudi 4定制AI加速卡。这是Intel在Gaudi 3(2024年4月发布)之后的最新一代AI训练/推理芯片,专为大规模模型训练设计。

同时,Intel确认下一代Jaguar Shores GPU(数据中心GPU)正在研发中,将采用HBM4内存,预计2027年发布。这标志着Intel正式重返AI芯片竞赛。

核心亮点

  • Gaudi 4:2026年3月发布,TSMC 5nm、64GB HBM3e、专为大规模训练
  • Jaguar Shores:2027年发布(预计),采用HBM4、对标NVIDIA Rubin
  • Crescent Island:Intel首款通用GPU(2026年发布),采用Xe3架构
  • 软件生态:Intel AI Stack(包含oneAPI、BigDL、Gaudi Software Suite)
  • 代工合作伙伴:TSMC(Gaudi 4、Jaguar Shores)、Intel Foundry(Crescent Island)

Gaudi 4 详细规格

Gaudi 4是Intel旗下Habana Labs(2019年收购)设计的第四代AI加速卡。

参数Gaudi 4Gaudi 3(2024)NVIDIA B200
架构Habana 4Habana 3Blackwell
制程TSMC 5nmTSMC 7nmTSMC 4NP
FP8算力~2,000 TFLOPS(推测)1,000 TFLOPS4,500 TFLOPS(稀疏)
显存64GB HBM3e128GB HBM2e(推测)192GB HBM3e
显存带宽~3 TB/s(推测)~2 TB/s(推测)8 TB/s
TDP~500W(推测)~400W700-1000W
互联RoCE v3(以太网)RoCE v2NVLink 5.0
发布时间2026年3月2024年4月2024年3月
量产时间2026年Q3(推测)2024年Q42024年Q4

📌 :Gaudi 4具体规格尚未完全公开,上表部分为推测值。

Gaudi 4的关键特性

  1. 以太网原生支持:采用RoCE v3(RDMA over Converged Ethernet),无需专用互联协议(如NVLink)
  2. 大规模扩展优化:万卡集群扩展效率优于InfiniBand(成本更低)
  3. 稀疏化加速:MoE模型原生支持
  4. 多精度支持:FP8/FP16/FP32/INT8/INT4
  5. 开放生态:支持PyTorch、TensorFlow、JAX(通过第三方适配)

Jaguar Shores:Intel的下一代GPU

Jaguar Shores是Intel首款真正意义上的数据中心GPU(不是Gaudi那样的ASIC)。

为什么叫"Jaguar Shores"?

  • Jaguar:美洲豹,代表"速度"和"敏捷"
  • Shores:海岸,代表"开放"和"连接"(对标NVIDIA的"海岸"命名风格?)

Jaguar Shores 推测规格

参数Jaguar Shores(推测)NVIDIA RubinAMD MI455X
架构Xeu 3(推测)RubinCDNA 4
制程TSMC 3nm(推测)TSMC 3nmTSMC 3nm
显存HBM4(确认)HBM4HBM4
显存容量288GB(推测)288GB288GB
FP8算力~4,000 TFLOPS(推测)~6,000 TFLOPS6,000 TFLOPS
TDP~800W(推测)~1,000W~800W
发布时间2027年(预计)2026年Q32026年Q3

关键确认

  • HBM4内存:Intel已确认Jaguar Shores将采用SK海力士的HBM4内存
  • TSMC代工:Jaguar Shores将由TSMC生产(不是Intel Foundry)
  • oneAPI原生支持:Jaguar Shores将原生支持oneAPI编程模型

Crescent Island:Intel的首款通用GPU

Crescent Island是Intel在2025年10月公布的首款通用数据中心GPU,采用Xe3架构(Xe-HPG的升级版)。

参数Crescent Island(推测)Intel Data Center GPU MaxNVIDIA L40S
架构Xeu 3Xeu 2(Ponte Vecchio)Ada Lovelace
定位通用计算+AI推理HPC+AI训练AI推理+图形
制程TSMC 5nm(推测)Intel 7 + TSMC 5nmTSMC 4N
显存48GB HBM3(推测)128GB HBM2e48GB GDDR6
TDP~300W(推测)600W350W
发布时间2026年(预计)2023年1月2023年3月

定位

  • 通用GPU:既能做AI推理,也能做科学计算(HPC)
  • 低成本:价格比Gaudi 4更低,对标NVIDIA L40S
  • 开放标准:支持oneAPI、SYCL、Level Zero

Intel AI芯片路线图(2024-2027)

时间产品类型制程备注
2024年Q4Gaudi 3AI ASICTSMC 7nm当前主力
2026年Q2Crescent Island通用GPUTSMC 5nm新发布
2026年Q3Gaudi 4AI ASICTSMC 5nm新发布
2027年Jaguar Shores数据中心GPUTSMC 3nm下一代旗舰
2027年Gaudi 5(推测)AI ASICTSMC 3nm下一代

与竞品对比

Gaudi 4 vs NVIDIA B200

指标Gaudi 4NVIDIA B200
FP8算力~2,000 TFLOPS4,500 TFLOPS
显存64GB HBM3e192GB HBM3e
互联以太网(RoCE v3)NVLink 5.0
软件生态Gaudi Software SuiteCUDA
价格推测 ~$20,000~$45,000
优势以太网成本低、开放生态最成熟、性能最强
劣势软件生态弱、算力低价格昂贵

结论:Gaudi 4的定位是**"性价比训练方案"**,适合对成本敏感、且愿意投入软件适配的客户。

Jaguar Shores vs NVIDIA Rubin

指标Jaguar Shores(推测)NVIDIA Rubin
FP8算力~4,000 TFLOPS~6,000 TFLOPS
显存288GB HBM4288GB HBM4
软件生态oneAPICUDA
量产时间2027年2026年Q3
优势开放标准、可能更便宜生态成熟、先发优势
劣势生态弱、晚1年价格昂贵

结论:Jaguar Shores如果能按时发布,且oneAPI生态有足够改善,可以成为NVIDIA的第三选择(仅次于NVIDIA和AMD)。

软件生态:oneAPI的进步与挑战

oneAPI是什么?

oneAPI是Intel推出的开放、跨架构编程模型

  • 支持CPU、GPU、FPGA、AI加速器
  • 基于SYCL标准(类似CUDA的C++扩展)
  • 开源实现(Intel oneAPI Base Toolkit)

Intel AI Stack

组件用途对标
oneAPI跨架构编程模型CUDA
BigDL分布式深度学习框架PyTorch Distributed
Gaudi Software SuiteGaudi专用软件栈NVIDIA GPU Cloud (NGC)
Intel Extension for PyTorchPyTorch在Intel硬件上的优化NVIDIA PyTorch
Intel Optimization for TensorFlowTensorFlow在Intel硬件上的优化NVIDIA TensorFlow

✅ 进步

  • PyTorch 2.5+:Intel Extension已集成到PyTorch主线
  • Hugging Face Transformers:官方支持Intel GPU(通过optimum-intel)
  • vLLM:实验性支持Gaudi(性能待验证)

⚠️ 挑战

  • 开发者习惯:全球AI开发者都用CUDA,oneAPI学习曲线陡峭
  • 算子覆盖率:很多PyTorch算子还没有oneAPI优化版本
  • 性能:same功耗下,Gaudi 4性能只有B200的50%左右

行业影响

1. Intel能否重返AI竞赛?

挑战

  • 生态劣势:CUDA护城河太深,oneAPI难以撼动
  • 性能劣势:Gaudi 4性能只有B200的50%
  • 时间劣势:Jaguar Shores比Rubin晚1年

机会

  • 开放标准:不依赖CUDA,适合"反NVIDIA垄断"的客户
  • 以太网优势:RoCE v3在万卡集群上成本低于InfiniBand
  • ✅ ** Intel Foundry**:如果Jaguar Shores能用Intel自家工艺生产,成本更低

2. 对AMD的影响

Intel重返AI竞赛,对AMD是坏事:

  • AMD本来是"NVIDIA唯一替代品"
  • 现在Intel也回来了,AMD的"替代品"地位受到挑战
  • 但短期内(2026-2027),Intel还无法威胁AMD

3. 对国产芯片的影响

Intel Gaudi 4的发布,对国产芯片是参考案例:

  • 证明以太网路线(RoCE)可行
  • 证明开放生态(oneAPI)虽难但有必要
  • 证明性价比路线有市场(成本敏感客户)

相关芯片

参考资料


本文基于Intel官方公告及公开资料整理,部分规格为推测值,以Intel官方最终发布为准。