31 篇博文 含有标签「GPU」

数据中心 GPU 的竞争看规格表，但真正的胜负手有一半藏在内核驱动里。Linux 7.4 的 DRM 更新合入，三家厂商的开源策略差异一次看全。

AMD：消费级补课 + 数据中心加码​

HDMI 2.1 FRL 默认开启——一场持续多年的拉锯战收官：

• 此前 HDMI Forum 封锁开源 HDMI 2.1 实现，Linux 用户无法输出 4K 高刷/8K 信号
• 解禁后 AMD 5 月开始提交补丁，7.2 首次合入但默认关闭；7.4 补齐 VRR、FreeSync、ALLM 后默认启用
• 意义：A 卡 Linux 游戏与专业显示的体验短板被补平

PerfOpt IOMMU 默认启用——AI 侧的「免费升级」：

• iGPU 绕过大部分 IOMMU 地址转换开销直接访问系统内存，同时保留基本读写权限
• Phoronix 在预发布内核实测：Ryzen AI APU 本地 AI/LLM 性能提升 18–23%，上代 APU 同样受益
• 权衡：以部分 DMA 隔离换更低 DMA 延迟，保守用户可用 amdgpu.iommu_perfopt=0 关闭

数据中心两项：**UALink over Ethernet（UALoE）**合入 AMDGPU 上游——开放标准互联对超大规模 HPC/AI 客户的意义在于降低集群集成摩擦；Ryzen AI Max 400（Gorgon Halo）NPU 获内核支持，AI PC 的 Linux 开发者生态提速。

Intel：为 D 系列铺路​

Xe 内核驱动在 7.4 的更新偏「基础设施」：

• 迁移队列新增 CPU 绑定与 ULLS 低延迟提交机制——图形性能直接受益
• vRAM 健康检查与劣化显存处理——显存老化/异常有了底层方案，这对长生命周期推理卡（正是 Intel GPU D 系列的定位）是必要能力
• 开发重心已明显转向即将到来的 GPU D 系列（Crescent Island） 加速器——此前 OCP 2026 正式发布，160GB（最高 480GB）LPDDR5X、1.3 PFLOPS FP8

NVIDIA：Rust 重写进行时​

• Nova 驱动：大量 Rust 代码持续涌入，目标是长期替代 Open RM 内核模块
• Nouveau：继续收到稳定性修复，但战略地位已被 Nova 取代
• 观点：英伟达开源驱动的补课速度明显加快，历史上「AMDGPU 开源体验碾压」的格局正在被侵蚀

结论​

开源驱动栈的竞争逻辑正在变化：当 AI 基础设施的采购把「开源生态成熟度」纳入评估，内核上游的提交量就成了可量化的军备指标。AMD 用 UALoE 押注开放互联，Intel 为推理卡打长寿基础，NVIDIA 用 Rust 补历史欠账——三条路线的共同点是，谁都买不起「驱动不是短板」这句话的代价了。

数据来源与口径说明​

• Linux 7.4 DRM 合入内容、PerfOpt 18-23%（Phoronix 实测）、amdgpu 内核参数：Phoronix（2026-10-24），PBX Science 转述
• 改装厂/停产为 Tom's Hardware 口径（与本篇无关，见另文）
• Intel D 系列定位：Intel OCP 2026 官方发布口径

当数据中心把 GDDR7 和 GB202 裸片的产能吸干，消费级市场的价格发现机制就只剩下投机。一张官方建议价约 1.6 万元的显卡，渠道价 6 万元——这不是显卡牛市，这是供应链被 AI 改装厂「物理抽干」后的真空。

价格与供应现状​

凤凰网科技 10 月 25 日早报汇总：

• RTX 5090：官方约 1.6 万元 → 华强北渠道价炒至 6 万元
• RTX 5080：翻倍至 1.7 万元
• 英伟达否认停产传闻，但官方承认产能受限，根源在 GDDR7 显存供应不足
• 海外美元口径：渠道价已突破 8,500 美元（Tom's Hardware 援引灰色市场报价）

改装厂：泄露视频里的「拆卡经济」​

Tom's Hardware 10 月 24 日发布的泄露视频揭示了需求的真实去向：

• 中国的工业规模改装厂正在成千上万张地拆解零售 RTX 5090，把 GB202 裸片与 GDDR7 颗粒重新焊到涡轮散热的服务器卡上
• 据报道，英伟达已暂停 RTX 5090 消费级生产，把 GB202 硅片转向利润率更高的 RTX Pro 6000 Blackwell SKU
• 一张卡被拆出 GPU + 显存 + 供电，重组为 AI 推理卡后的价值远超零售价——价差本身就是改装产业链的燃料

结构性原因：三层争夺​

第一层：显存。GDDR7 与 HBM 争夺同一批先进封装与存储产能——HBM 涨价潮（此前分析）已把存储厂的优先级全面导向数据中心，GDDR7 供给被动收紧。

第二层：硅片。GB202 这类大裸片的晶圆配额，在消费卡与利润率高数倍的专业卡之间没有悬念。5090 停产传闻虽被否认，「产能受限」是官方承认的事实。

第三层：出口管制。高端数据中心卡对华受限，让「改装消费卡跑 AI」成为灰色市场的理性选择——一颗被拆解的 5090 在 AI 服务器里的产出，数倍于它在游戏主机里的价值。管制的初衷是限制中国 AI 算力，结果先抽干了全球玩家的显卡货架。

各方处境​

• 玩家/创作者：成为整条链路的最终买单者，高端卡进入「一卡难求」状态
• AMD：RX 9000 系列成为「唯一理性价位的高端选择」，行业评论认为这是 AMD 抢占高端消费市场的窗口期
• 英伟达：短期利润最大化（GB202 转专业卡），长期透支游戏品牌的用户信任
• 存储厂：GDDR7 提价扩产，但产能转向仍以 HBM 为先

结论​

5090 的价格曲线是 AI 算力挤压效应最直观的仪表盘：当 6 万元成为一张游戏卡的渠道价，说明消费市场已经被挤到了供应链的最末位。对买家的建议很简单——如果不是刚需，等 GDDR7 扩产落地（观察 2027 年上半年存储厂扩产节奏）再做决定；对行业观察者，盯住「改装厂拆卡量」这个非官方指标，它比任何财报都更早反映灰色 AI 算力需求的温度。

数据来源与口径说明​

• 华强北价格、停产传闻与官方回应、GDDR7 根源：凤凰网科技 IT 早报（2026-10-25）
• 改装厂拆解视频、GB202 转向 RTX Pro 6000：Tom's Hardware（2026-10-24）
• 美元渠道价与 AMD 窗口期判断：AMD News Daily 行业摘要（2026-10-24），含评论性内容
• 停产为「据报道」口径，英伟达官方否认了「停产」但承认「产能受限」

「ASIC 即将取代 GPU」这句话在 2026 年流传很广。但同期另外一组数据同样可靠：据公开报道，NVIDIA 在 2026 年上半年仍保留了 AI 加速器收入的 75% 到 81%。两句话同时为真，说明所谓替代正在发生的其实是分工重构，而不是此消彼长。

份额曲线与它的误读方式​

多家机构给出的预测方向一致。国信证券测算 2026 年 ASIC 芯片出货量约 770 万片、份额 45%，2027 年将超过 GPU 达到 58%，2030 年约 73%。高盛预测 AI 驱动的 ASIC 需求将在 2027 年与 GPU 需求平分秋色。TrendForce 预测 2026 年定制 AI 芯片出货量增长 44.6%，而同期商用 GPU 出货量增速为 16.1%——这是 AI 时代开启以来定制芯片增速首次显著超过通用 GPU。ASIC AI 服务器出货量预计从 2026 年占 AI 服务器总市场的 27.8% 提升到 2030 年的 39.5%。

这些数字最容易被误读的地方在于：出货份额不等于价值份额，也不等于算力份额。ASIC 的定义就是面向特定工作负载设计的芯片，它的每单位算力成本天然更低、上架量天然更小。用「片数」衡量一块 1.7 TB/s 内存的 TPU 和一块 288GB HBM4 的加速卡谁更重要，方法本身就是错的。

维度	通用 GPU	定制 ASIC
训练吞吐（TPS）	更优，万卡集群成熟度更高	快速追赶中
推理单位成本	毛利结构给硅片成本加上明显溢价	在目标工作负载上优 2 至 4 倍
算法灵活性	高，模型架构变化可适应	低，架构变更需重新设计
电力效率	单芯片功耗高、功率密度大	单位有效算力功耗通常更优
软件生态	CUDA 生态十余年积累	XLA、Neuron SDK 等可用但成熟度低
可得性	任何买家可获得	基本被云厂商封闭在自有云内
迭代周期	12 至 18 个月	每代 2 至 3 年

据 SemiAnalysis 与 Bernstein 的研究估计，在大规模推理部署中 ASIC 相比通用 GPU 的 TCO 优势达 40% 到 65%。AWS 官方称 EC2 Trn2 实例相较基于 GPU 的 P5e 与 P5en 实例，在大模型训练与部署上有 30% 到 40% 更好的性价比；SemiAnalysis 测试数据显示 Ironwood 的每百万 token 成本约 0.181 美元，低于 B200 的 0.222 美元与 B300 的 0.276 美元。

四个案例说明的四种路径​

Google 是最成熟的样本。据公开报道，其自研芯片已推动 2026 年第一季度云收入同比增长 63%；2026 年 5 月与黑石集团成立合资公司 TPU Cloud，黑石初始承诺出资 50 亿美元（含杠杆最高 250 亿美元），目标 2027 年上线约 500MW 容量——这是 TPU 诞生十年来首次在 Google Cloud 体系外进行大规模商业化销售。供应链上，Google 已向 Intel 下单生产超过 300 万颗 TPU，联发科也在切入下一代 TPU v10 的设计供应链，打破了博通的长期独占格局。

AWS 走的是外部客户路线。据公开报道，Amazon 于 2026 年 6 月 18 日确认洽谈向其他公司的数据中心出售 Trainium 芯片；内部芯片部门年收入的运行率已突破 200 亿美元，Anthropic 已承诺部署超过 100 万颗 Trainium 芯片、签约高达 5GW 的芯片容量。

OpenAI 提供了另一种范式。据公开报道，OpenAI 于 2026 年 6 月 24 日与博通联合发布首款定制推理芯片 Jalapeño，Celestica 负责板卡与机架集成，台积电负责制造。其总裁 Greg Brockman 表示依托自研大模型辅助优化，从顶层设计到流片仅耗时 9 个月；物理样品已于发布当日交付，计划 2026 年末小规模首批部署、2027 年爬坡、2028 年上半年规模化量产，远期规划总耗电最高 10GW。这条路径的关键在于不自建芯片团队，而是「模型公司定义架构 + 半导体公司实现制造」。

Meta 提供的是失败样本。据公开报道，Meta 于 2025 年 9 月以超 20 亿美元收购 RISC-V 芯片初创公司 Rivos，但半年后整合受挫，原因是现有员工与 Rivos 团队在薪酬和战略路线上冲突、围绕依赖 Meta 现有 IP 还是 Rivos 技术产生内斗，导致多个项目延期，有消息称项目已在内部被实质性取消。

这四个案例指向同一个判断：自研成功的关键变量不是预算规模，而是是否复用了成熟的硅片实现能力。Meta 的路径是收购团队，OpenAI 的路径是复用博通。

软件生态的锁定才是真边界​

一个容易被低估的事实是：定制芯片节省下来的钱，有相当一部分被吞进了迁移成本。NVIDIA 的 CUDA 生态有超过 400 万开发者、十余年的库积累；XLA、Neuron SDK、ONNX Runtime 功能上可用但成熟度低得多。迁移到一个为特定模型调优过的 ASIC，模型可能需要额外工作才能搬回 GPU 或另一朵云。

不过这笔账正在被改写。一方面，模型层正在收敛——主流开源权重让「同一模型跑在不同硬件上」的可行性提高；另一方面，异构推理的需求真实存在。NVLink Fusion 的出现本身就是证据：AWS 的 Trainium4 与 NVIDIA GPU 共用同一机架占位、冷却系统与配电系统，d-Matrix 则计划让自家 Raptor XPU 承担延迟敏感的 decode 阶段、NVIDIA GPU 承担计算密集的 prefill 阶段，二者在同一个机架架构内完成异构解耦。主流路线已经不是二选一。

另一个变化是采购入口的多样化。Anthropic 目前同时运行在 AWS Trainium、Google TPU、Azure GPU 以及洽谈中的 Microsoft Maia 四个硬件平台上；OpenAI 在使用 Trainium、AMD、Cerebras 的同时开始部署自研 Jalapeño。多芯片策略已经从前沿实验室的备用方案变成基础设施层的常态。

供应链侧的连带影响​

ASIC 崛起改变的不只是芯片本身。据公开报道，博通与迈威尔合计控制全球约 95% 的定制 AI ASIC 共同设计市场。博通 2026 财年第二季度 AI 半导体收入达 108 亿美元，同比增长 143%。Google 正在弱化对博通的依赖、引入联发科与迈威尔等设计伙伴，这种供应链分散会削弱单一设计伙伴的份额。

瓶颈也在转移。随着 ASIC 规模化部署，产业瓶颈正从算力转向连接：scale-up 方向的交换芯片与 CPO 技术受益于柜内连接升级，Trainium3 的机柜方案带来了大量增量 PCIe 芯片需求；scale-out 方向则由光模块与光互连承接需求。

展望​

2026 年之后真正的分工边界，是用「工作负载的可预测程度」划出来的，而不是用训练与推理来划。

可预测的负载——固定模型结构、稳定的请求模式、明确的成本压力——ASIC 的成本优势可以直接兑现，这解释了为什么推理侧是 ASIC 的主战场。不可预测的负载——新架构探索、小批量实验、多模态混合负载——GPU 的灵活性无可替代，这也是为什么即使 ASIC 份额上升，训练和前沿研究的默认选择仍然是 GPU。

最可能出现的终局不是谁吃掉谁，而是分层：通用 GPU 承担前沿研发与不可预测负载，ASIC 承担规模化、可预测的推理流量，两者通过开放的 scale-up 互连在同一机架内协同。这个判断有一个前提值得持续跟踪——软件栈的成熟度。如果 Neuron SDK 或 XLA 这类工具链的迁移成本在未来两年显著下降，ASIC 的份额曲线可能比上述预测更陡；如果生态锁定持续，58% 也许就是相当长时间内的上限了。

2022 年 8 月，成立仅三年的壁仞科技发布了 BR100：台积电 7nm、CoWoS 封装、双 Chiplet 设计，INT8 算力 2048 TOPS，宣称性能对标英伟达同代旗舰的三倍以上。这是当时中国通用 GPU 离世界最先进水平最近的一次。两个月后，一切被按下了暂停键。

纸面规格：至今仍属激进的野心​

BR100 的规格即使放在今天看依然激进。它采用壁仞自研指令集与双 chiplet 架构，核心参数如下：

参数	BR100	BR104（同代次旗舰）
FP16 算力	1024 TFLOPS	512 TFLOPS
INT8 算力	2048 TOPS	1024 TOPS
FP32 算力	256 TFLOPS	128 TFLOPS
显存	64GB HBM2e	32GB HBM2e
显存带宽	约 2.3 TB/s	约 2.3 TB/s
制程封装	台积电 7nm，2.5D CoWoS，双 Chiplet	台积电 7nm
整卡功耗	550W	300W

BR100 还率先采用 PCIe 5.0 接口，并通过自研 BLink 片间互联支持多卡扩展。在设计层面，它证明了国内团队完全有能力定义一流的大芯片。

两次制裁：供应链的釜底抽薪​

BR100 的参数恰好踩在美国出口管制红线之上。2022 年 10 月美国 BIS 新规生效，台积电随即停止为壁仞代工；2023 年 1 月，壁仞紧急推出被外界视为"降规"版本的 BR106 以绕开限制；2023 年 10 月，公司被正式列入实体清单，先进制程代工通道彻底关闭。两次打击之间，联合创始人先后离职，团队经历了极短时间内的产线切换与产品迭代，研发节奏被迫中断，新一代芯片开发一度搁浅。

这段经历揭示了国产大芯片最脆弱的一环：设计能力可以追赶，但流片通道、HBM 供应和先进封装一旦被切断，纸面性能再高也无法变成产品。

曲折后的重生：从参数竞赛到商业闭环​

转机出现在 2024 年之后。随着国内云厂商将算力预算硬性切给国产芯片，壁仞完成了向系统级方案的转型：2025 年 8 月双芯配置的 BR166 量产并成为收入主力；软件端通过 BIRENSUPA 平台实现 CUDA 兼容与大模型优化；2025 年世界人工智能大会上，又联合伙伴推出智算一体机与基于光互连交换的超节点方案。

财务数据也随之反转：2024 年公司营收仅 3.37 亿元，2025 年达 10.35 亿元，同比增长 207%，毛利率改善至 53.8%。2026 年 1 月 2 日，壁仞在港交所上市，成为"港股 GPU 第一股"，首日收涨约 76%；2026 年上半年预计收入 11.5 亿至 13 亿元，同比暴增约二十倍，亏损收窄约八成。

小结：纪录易破，交付难成​

BR100 的故事给行业留下三条启示：其一，芯片公司在地缘政治面前的抗风险能力，与技术领先性同等重要；其二，规格竞赛不等于商业成功，量产交付、软件生态与客户结构才是护城河；其三，国产替代的真实需求是"稳定可得"而非"极限参数"，这正是壁仞完成转型的市场逻辑。纪录可以被刷新，但只有走完从流片到集群交付的全流程，一颗 GPU 才算真正成立。

"超大规模集群唯一确定的事，就是故障。"Meta 在 Llama 3 405B 训练论文里公布的 54 天故障账单，是目前最详实的万卡集群硬件运维样本。本文以它为底，聊聊 GPU 故障的真实分布、RMA 流程怎么设计、备件池要多大。

一份真实的故障账单​

Meta 用 16384 张 H100 训练 Llama 3 405B，54 天快照期内共发生 466 次任务中断：47 次是固件升级等计划内维护，419 次是意外中断——平均每天近 8 次，约每三小时一次。其中约 78% 归因于确认或疑似的硬件问题，尽管如此，团队仍把有效训练时间保在了 90% 以上，绝大多数故障由自动化系统处置，仅 3 次需要大量人工介入。

中断原因（419 次意外中断）	次数	占比
GPU 本体故障（含 NVLink）	148	30.1%
GPU HBM3 显存故障	72	17.2%
软件缺陷	54	12.9%
交换机与线缆	35	8.4%
计划外主机维护	32	7.6%
GPU SRAM 故障	19	4.5%
CPU、内存、SSD、电源等传统部件	合计不到 20 次	约 4%

结论很清晰：GPU 及其显存是绝对的第一故障源，两者合计占意外中断的近一半；而 CPU 这类传统部件在 54 天里只坏了 2 颗。GPU 承受 700W 高热应力，天然比 CPU 脆弱。

RMA 流程设计：快诊断比快换件更重要​

大集群 RMA 的瓶颈通常不在换件速度，而在定位速度。一个训练任务中断，可能是 GPU、NVLink、网卡、交换机或软件任意一环，逐台人工排查根本来不及。可落地的实践包括：

• 建立自动化诊断流水线：任务中断后，调度器自动拉黑可疑节点，用底层诊断工具跑 GPU 显存、NVLink、带宽压测，几分钟内给出"可复用、需复检、需换件"三级结论；
• 用 ECC 错误率做预测性维护：HBM 出现可纠正 ECC 错误的卡，故障概率显著高于基线，主动下线比等它崩溃成本低得多；
• 警惕静默数据腐蚀（SDC）：算错但不报错的卡最危险，定期跑 SDC 筛查基准，把"会算错的卡"挡在下一个任务之前；
• checkpoint 与快速重启是兜底：Meta 把 checkpoint 写入时间压缩到分钟级，配合 NCCL 飞行记录器快速定位 hang 住的任务，这才撑起了 90% 的有效训练时间。

备件池与厂商 SLA：谈判桌上见真章​

万卡集群的备件策略要按"故障率乘以修复时间"倒推。按公开数据粗算，万卡集群每月坏几十张卡属于正常范围，备件池比例通常在 1% 到 3% 之间，再配供应商的托盘级或整机级换件 SLA。谈判时重点盯三个数字：上门响应时间、备件本地库存深度、批量返修的周转周期。另据业界经验值，返修卡重新上线前必须过一遍完整的老化与 SDC 筛查，否则故障卡回流集群会形成"惯犯"。

写在最后​

给正在扩大集群规模的团队三条建议：第一，从第一天就把故障当常态设计，自动化诊断、自动拉黑、自动重调度是万卡集群的生存底线，人工工单撑不过千卡；第二，建立硬件健康档案，每张卡从上机起记录 ECC、温度与历史故障，RMA 决策基于数据而非感觉；第三，把 RMA SLA 写进采购合同并定期演练，别等坏了才知道厂商的"次日响应"是工作日口径。大模型训练的竞争力，一半在算法，一半在这些不起眼的运维流程里。

对很多运维同学来说，GPU 服务器只是一个"会发烫的黑盒子"。但要排障、扩容、与厂商博弈保修，你得知道盒子里面长什么样。本文以最经典的 8 卡 HGX H100 机型为解剖对象，顺带对照新一代 GB200 机架的变化。

先算一笔功耗账​

一台典型的 8 卡 HGX H100 服务器：8 颗 SXM5 GPU，单卡 TDP 700W，合计 5600W；基板上 4 颗 NVSwitch 交换芯片，每颗功耗在百瓦上下；双路 Xeon 各 350W；再加上 32 条 DDR5 内存、8 块 NVMe、风扇墙，整机满载约 6.5 至 7kW。供电侧通常配 6 个 3000W 钛金电源，3+3 冗余。

部件	数量与规格	功耗估算
GPU（SXM5）	8 颗，单卡 700W	约 5600W
NVSwitch 交换芯片	4 颗，位于 GPU 基板	约 400W
CPU	双路 Xeon Platinum，各 350W	约 700W
内存与存储	32 条 DDR5 加 8 块 NVMe	约 300W
风扇墙与其他	10 把重型 PWM 风扇	约 300W
整机满载	——	约 6.5 至 7kW

供电设计有个容易被忽视的坑：瞬态功耗。GPU 在计算与等待同步之间快速切换，整机功耗可能在毫秒级摆动数千瓦，对机房 PDU 与 UPS 提出远超传统服务器的要求。这也是大规模 GPU 集群频繁触发电网告警的原因之一。

散热与互联：气流的尽头是液冷​

风冷版 8 卡 H100 机型多为 5U 到 8U 机箱，靠从前往后的强制风道加风扇墙压住 7kW 热负荷，进风温度与风扇转速管理直接决定 GPU 是否降频。但工程界已经形成共识：H100 满血运行时液冷冷板是更优解，冷板直接贴合 GPU 与 NVSwitch，机房侧水温一般控制在 25 至 45 摄氏度之间，温水冷还能提高自然冷却时长。

互联是 GPU 服务器区别于普通服务器的核心。8 颗 GPU 通过第四代 NVLink 全互联，再经 4 颗 NVSwitch 实现 any-to-any 高带宽通信，聚合带宽 900GB/s——这是单机 8 卡能当一张"大卡"用的物理基础。网卡配置通常为 8 张 400G ConnectX-7，与 GPU 一一对应，为 Rail-optimized 布线做准备。

管理平面：BMC 是你最好的朋友​

每台机器都有独立于主系统的 BMC（IPMI 或 Redfish 接口），可以不看操作系统就读取 GPU 温度、功耗、风扇转速、电源状态。成熟的 GPU 运维体系应该做到三件事：第一，所有健康指标从 BMC 与 DCGM 双通道采集，交叉验证；第二，电源、风扇、NVSwitch 的告警分级处置，NVSwitch 故障意味着整机 GPU 域降级，必须尽快替换；第三，固件版本（BMC、GPU VBIOS、交换机）纳入统一管理，避免"某台机器固件特别老"这类隐蔽问题。

对照新一代平台：GB200 NVL72 把"服务器"的概念扩展成了整机架——18 个计算托盘加 9 个 NVLink 交换机托盘，GPU 与 NVSwitch 全部上冷板，电源与铜排集中在机架中部。维护单元从"一台机器"变成"一个托盘"，热插拔与漏液检测成了机架级能力。

写在最后​

给运维团队三条落地建议：第一，新机型到货先做功耗与温度画像，记录满载下的功耗曲线与关键点温度，作为后续异常检测的基线；第二，把 NVSwitch 与 HBM 的告警当成最高优先级，它们的故障影响面远大于单卡；第三，与供应商明确托盘级或整机级的备件 SLA，万卡规模下"寄修"节奏根本跟不上故障速度。看懂硬件，才有资格谈自动化运维。

国产 AI 芯片有两条路：一条是自建生态，长痛但自主；另一条是兼容现有生态，短痛但受制于人。海光选择了后者——DCU 系列"类 CUDA"的通用并行计算架构，加上底层兼容 ROCm 的 DTK 软件栈，让大量存量 CUDA 代码几乎不用改写就能跑起来。这在信创市场上是独一无二的卖点。

K100 AI：规格与定位​

海光 DCU 当前的主力出货型号是 K100 AI 加速卡，综合官方与公开采购资料，核心规格如下：

参数	K100 AI	备注
FP16/BF16 算力	192 TFLOPS	部分实测资料记约 180 TFLOPS
INT8 算力	392 TOPS	适合量化推理
FP32 算力	49 TFLOPS	兼顾科学计算
显存	64GB HBM2e	带宽约 896 GB/s（部分资料记 1.2 TB/s）
功耗	350W	PCIe 4.0 x16 接口
对标	约为 A100 的六至八成水平	单卡价格约为 A100 的一半

从规格看，K100 AI 不是算力最强的国产卡，但它的强项在于"友好"：整机环境仍是 x86 加 Linux，CentOS、Ubuntu、麒麟系统，GCC 编译器、MPI、Slurm 调度器全部原样保留，运维团队的学习成本接近于零。

DTK 软件栈：迁移成本低于一成的底气​

海光的 DTK（DCU Toolkit）基于 ROCm 异构计算架构深度定制，编程模型与 CUDA 高度相似。据公开报道，存量 CUDA 代码的迁移成本可低于 10%，PyTorch、TensorFlow、PaddlePaddle 等框架以及 vLLM、SGLang 等推理引擎均有适配，累计适配的大模型超过 365 款，包括 Qwen、Llama 系列等主流开源模型。实测层面，单卡可流畅支持 27B 级别模型的推理，配合 INT8 量化可覆盖更大参数规模。

这套体系的另一层价值在于 HPC：分子动力学、计算流体力学等传统科学计算代码同样基于 CUDA 或 ROCm 生态，海光是少数能同时承接 AI 与 HPC 混合负载的国产平台。

商业表现与下一代布局​

海光的独特性还在于它是国内少有的同时拥有 x86 CPU 与 GPGPU 双产品线的公司。2025 年公司营收 143.77 亿元，同比增长 57%，净利润 25.45 亿元，研发投入占营收近三成二。DCU 出货约 8.3 万颗，落地以金融、政务、制造等传统行业 AI 改造和运营商中小规模智算集群为主。

下一代 K200 据公开报道将于 2026 年第三季度批量交付，规格大幅跃升：FP16 算力 256 TFLOPS，配备 128GB HBM3e 显存、2.4 TB/s 带宽，最大支持 2048 卡集群。届时海光在显存和互联上的短板有望明显补齐。

小结：渐进式国产替代的最优解之一​

海光 DCU 的启示在于：国产替代未必需要一次革命。对于存量 CUDA 资产庞大、团队缺乏芯片适配经验、希望先跑通再扩容的企业，K100 AI 提供了迁移摩擦最小的路径。它的算力上限决定了不适合冲击千亿参数大训练，但在推理服务与混合计算负载中，它是稳妥且现货充足的选择。追求最小改动的团队，海光应当是选型清单上的第一个名字。

在国产 GPU 的宣传语境里，峰值算力常常被放大到失真。天数智芯是少数反着来的公司：2021 年发布的天垓 100 是国内首款完成规模量产的全自研通用 GPU 云端训练产品，2023 年的天垓 150 则在显存与生态适配上持续做深。不喊最强的口号，先交付能用的产品，这条"实干路线"值得单独解析。

规格：为大模型训练配平的板卡​

天垓 150（板卡型号 BI-V150）基于第二代自研通用 GPU 架构 ivcore11，采用台积电 7nm 工艺，规格综合官方与高校采购公示信息如下：

参数	天垓 100（BI-V100）	天垓 150（BI-V150）
发布时间	2021 年 3 月	2023 年
FP32 算力	约 37 TFLOPS	48 TFLOPS
FP16 算力	约 147 TFLOPS	192 TFLOPS
INT8 算力	约 295 TOPS	384 TOPS
显存	32GB HBM2	64GB HBM2e
显存带宽	未公开	1.2 TB/s
功耗	250W	350W

显存从 32GB 翻倍到 64GB 是天垓 150 最关键的一步。大模型训练需要同时容纳参数、激活、梯度与优化器状态，64GB HBM2e 配合 1.2 TB/s 带宽，使其能承载主流开源大模型的训练与微调任务。

软件生态：把迁移成本当核心指标​

天数智芯官方强调系统架构、指令集、核心算子到软件栈全部自主研发，同时把"开发易迁移"作为产品卖点：工具链内置 CUDA 通用计算加速库，支持 PyTorch、TensorFlow 等框架与 ixrt 推理引擎；大模型侧已适配 LLaMA、Qwen 等体系，兼容 DeepSpeed、Megatron-LM、Colossal-AI 等训练框架，推理侧对接 vLLM、TGI；并对主流开源模型提供发布即适配的快速响应。公司还运营 DeepSpark 开源社区，围绕模型、算法与评测构建开发者生态。

产品矩阵与资本里程碑​

围绕天垓 150，天数智芯已形成三条产品线：天垓系列负责云端训练，智铠系列负责云端推理（智铠 100 于 2022 年 12 月发布，150W 功耗下提供 96 TFLOPS FP16 与 384 TOPS INT8），彤央系列则把算力延伸到边缘与终端，TY1200 平台可离线运行 35B 级模型。

天垓 150 在市场上强调"异构混训"能力——企业不必替换全部现有 GPU 资产，国产卡可以逐步加入既有集群，这种渐进式思路显著降低了客户决策阻力，高校、智算中心的采购公告中屡见其身影。资本层面，公司于 2026 年 1 月 8 日登陆港交所，发行价 144.60 港元，募资净额约 35 亿港元；2026 年 7 月又发布了新一代天垓 300，训练产品线继续向上延伸。

小结：慢就是快​

天垓 150 没有惊艳的参数，但每一项规格都指向真实可交付的训练负载。从天垓 100 的首次量产到天垓 150 的显存翻倍，再到天垓 300 的接棒，天数智芯用五年时间验证了一条朴素路线：先让客户用起来，再让产品强起来。对于看重长期供应稳定性、需要异构混训方案的用户，天垓 150 至今仍是一张值得认真评估的训练卡。

作为全球 AI 生态活力第三的国家，印度正试图回答一个问题：一个拥有庞大开发者群体却几乎没有先进芯片制造能力的国家，如何建立自己的主权算力体系。

IndiaAI 使命：算力、模型与数据三条线并进​

IndiaAI 使命于 2024 年 3 月获批，五年总预算约 10372 亿卢比（约 12 亿美元量级），算力是其第一根支柱。据印度政府向议会提交的说明，共享算力设施接入的 GPU 数量从 2026 年 3 月的超过 3.8 万张增长到 6 月的超过 4.5 万张，通过算力门户以补贴价格向初创公司与学术界开放；截至 2026 年 8 月，已有 237 个项目获批使用补贴算力，累计核销超过 9318 万 GPU 小时。政府还为新德里 NIC 数据中心下单了一套约 1.1 EFLOPS 的高性能 AI 计算系统。

模型侧，官方从 506 份申请中遴选出 20 个本土基础模型提案，包括 12 个大型多模态模型与 8 个小型语言模型。已发布的成果包括 Sarvam AI 的 300 亿与 1050 亿参数模型、BharatGen 的多语言模型系列等。数据平台 AI Kosh 已汇聚超过 1.4 万个数据集与 331 个 AI 模型。据斯坦福 2025 年全球 AI 活力报告，印度 AI 竞争力与生态活力位列全球第三，GitHub AI 项目贡献量全球第二。

印度主权算力关键指标	数据（截至 2026 年）
IndiaAI 使命预算	约 10372 亿卢比（五年）
共享算力池 GPU	超过 4.5 万张
获批使用算力的项目	237 个，9318 万 GPU 小时
本土基础模型提案	20 个（12 个多模态、8 个小模型）
半导体项目	12 个，投资承诺超 1.64 万亿卢比
数据中心装机容量	从 2020 年 375 兆瓦增至约 1575 兆瓦

Semicon 2.0：从政策框架走向制造落地​

芯片制造是印度算力主权的另一半拼图。Semicon 1.0 以 7600 亿卢比构建生态，已批准 10 个半导体制造单元，其中 1 个实现商业量产、3 个进入试产；塔塔电子在古吉拉特邦的晶圆厂投资达 91526 亿卢比量级，目标产能每月 5 万片，覆盖 28 纳米至 110 纳米节点。2026 年 7 月获批的 Semicon 2.0 将投入提升至 127500 亿卢比，重点扩展芯片设计、设备材料、先进封装与人才培养。

设计生态的积累同样值得注意：根据设计挂钩激励计划，24 个芯片设计项目获资助，103 家无厂设计公司获得 EDA 工具支持；截至 2026 年 4 月，75 家机构已完成 211 款芯片流片，其中 7 款成功制造，涵盖包括台积电 12 纳米在内的多个工艺节点。国家超算任务下，基于 RISC-V 开源指令集的本土处理器、GPGPU 与加速器研发也在推进。此外，印度在 2026 年印度 AI 影响力峰会上加入了 Pax Silica 联盟，与美国等伙伴共同维护硅供应链安全。

小结​

印度的算力自主战略呈现清晰的双层结构：短期用共享算力池和补贴模式满足爆发性的训练需求，长期则通过半导体制造与设计激励培育本土供应链。考虑到其 GPU 目前几乎全部依赖进口，真正的主权算力仍需多年建设，但从流片数量、产能落地到基础模型涌现，这条路径的每一步都在提速。对于观察全球 AI 芯片格局的产业人士而言，印度是继中日韩之后最值得跟踪的变量。

微调和预训练是两种完全不同的算力需求：梯度状态和优化器显存占了全参训练的大头，而 LoRA 把这部分几乎清零。理解这张显存账，你就能明白为什么很多人用一张 4090 就能微调 70B 模型。

一、先算显存账：三种方法的差异有多大​

全参 SFT 时，显存占用约等于参数量乘以 16 至 20 字节：权重（FP16 两字节）加梯度（两字节）加 AdamW 优化器状态（八字节）加激活值。一个 70B 模型全参微调需要约 1,120 至 1,400GB 显存，也就是至少 14 至 18 张 80GB 卡，这是标准 8 卡机的两倍多。

LoRA 冻结主干权重、只训练低秩适配器，可训练参数通常只占总量的千分之一量级，省掉梯度与优化器状态后，显存接近推理水平：70B 模型 FP16 权重约 140GB，8 卡 80GB 机即可全精度 LoRA。QLoRA 再把主干权重量化到 4-bit，70B 模型的权重压到约 35 至 40GB，理论上单张 48GB 卡就能跑，24GB 卡可以处理 13B 级模型。

模型规模	LoRA（FP16 主干）	QLoRA（4-bit 主干）	全参 SFT
7B 至 8B	约 16GB，单卡 24GB	约 6GB，单卡 12GB	约 140GB，双卡 80GB
13B 至 34B	约 28 至 70GB，单卡 80GB 或双卡 48GB	约 9 至 20GB，单卡 24GB	约 280 至 680GB，8 至 10 卡 80GB
70B 至 72B	约 150GB，双卡 80GB 或 8 卡 A800	约 40GB，单卡 48GB 或 80GB	约 1.2TB 起，16 卡以上集群
100B+ MoE	8 卡 141GB H200 起步	8 卡 80GB 逼近极限	不推荐，考虑改用 LoRA

二、五档推荐配置​

第一档：个人开发者与课程实验（0.8 万至 2 万元）。 单张 RTX 4090 24GB 或二手 3090。4090 时租低至 2 至 4 元，先租后买更稳。这档能完成 7B/8B 的 QLoRA 微调和 13B 的 Q4 QLoRA，足够做 RAG 场景的领域适配。

第二档：小型团队微调站（8 万至 15 万元）。 双卡 4090 或单卡至双卡 5090（32GB）。5090 带宽约 1,792GB/s，比 4090 高约七成，同模型生成速度明显更快，适合 13B 至 34B 的 QLoRA 与 7B 级 LoRA。

第三档：企业微调平台（60 万至 120 万元）。 8 卡 A800 二手机或 4 卡 A100 80GB。80GB HBM 显存的价值在于可以把 34B 模型的 FP16 LoRA 放进单卡、70B 的 QLoRA 稳定单卡，省去多卡并行带来的通信与工程复杂度。

第四档：严肃领域模型研发（180 万至 240 万元）。 8 卡 H100 或 H200。H200 的 141GB 大显存让 70B 模型在单机内完成全精度 LoRA 与大批量 SFT，配合 NVSwitch 的机内带宽，训练吞吐优势明显。

第五档：拿不到进口卡的团队（100 万至 200 万元）。 Atlas 800T A2（8 卡昇腾 910B，单卡 64GB），7B 至 70B 的 LoRA 均有成熟案例，配套文档与社区踩坑记录最多，是国产侧微调的默认起点。

三、结尾建议​

三条实用结论：第一，能 QLoRA 就不要全参 SFT——绝大多数领域适配任务，QLoRA 的效果与全参 SFT 差距有限，而成本差一个数量级；第二，显存买到"模型加两成余量"即可，微调对带宽不敏感，没必要为带宽溢价买单；第三，微调任务天然是短周期、突发型的，如果月均利用率低于三成，租赁比自建划算得多——4090 租一张跑一个月不过千余元，先把实验矩阵跑完，再决定要不要买卡。