寒武纪 MLU590 正式发布后怎么用：规格解读与三个适用场景
寒武纪 MLU590（商品名思元590）在 2024 年首次亮相后，于 2026-07-01 官方正式发布并商用上市，定位新一代 AI 训练旗舰。从我们站内的搜索数据看，"寒武纪mlu590" 相关查询的点击率在各芯片词里名列前茅——需求真实存在，但很多读者对它的规格口径和适用边界并不清楚。本文基于 MLU590 卡片 做一次梳理。
规格速览
| 项目 | 参数 |
|---|---|
| 制程 | 7nm + Chiplet 封装 |
| FP16 算力 | 256 TFLOPS（部分来源标注 345 TFLOPS） |
| INT8 算力 | 512 TOPS |
| 显存 | 96 GB HBM2e |
| 显存带宽 | 约 2 TB/s |
| TDP | 350W |
| NPU 核心 | 128 |
| 互联 | MLU-Link |
两点提醒：
口径要对齐。FP16 256 TFLOPS 是多来源一致的基准数，另有部分来源标注 345 TFLOPS——对比其他卡时务必确认口径再比，不要拿甲家的稀疏峰值去打乙家的密集值。
能效是官方强调的卖点。按卡片记录，MLU590 的能效比约 52.3 TFLOPS/W，官方口径下超过 H20 的 49.8 TFLOPS/W——这是寒武纪首款在能效上反超 H20 的芯片。
三个适用场景
场景一：中大模型推理。96GB HBM2e 是 MLU590 的显眼规格——比昇腾 910B 的 64GB 大一档，与 H20 的 96GB 持平。约 2 TB/s 的带宽配合 512 TOPS INT8，做量化后的大模型推理在容量上不吃亏。对显存敏感、想避开 H20 供货波动的推理业务，MLU590 值得进入候选清单。
场景二：训推一体的国产化集群。MLU590 定位训练旗舰、兼顾推理，配合 MLU-Link 互联和寒武纪的软件栈（含 INT8/FP8 训练后量化工具），适合想用同一款卡统一训练与推理池的团队——减少异构卡混部的运维成本。
场景三：从 MLU370 升级。按卡片对比数据，MLU590 相对 MLU370 是 FP16/INT8 翻倍、TDP 增加 75% 的代际跃升。已有 MLU370 集群、软件栈和数据管道的团队，升级路径是现成的，迁移成本远低于从 CUDA 切换。
边界在哪
MLU590 的 FP16 算力仍低于昇腾 910C（780 BF16 TFLOPS）和旗舰级 Hopper/Blackwell 卡；CUDA 生态积累的差距也不是短期可追平的。对极限训练吞吐敏感的头部场景，它更适合作为国产集群的组成部分而非唯一答案。寒武纪最新的财报与出货动态见 Q3 财报季汇总。
怎么验证它适不适合你
把 350W TDP、你的电价和目标利用率丢进 TCO 计算器，与 H20、MLU690 等候选一起算 3 年总拥有成本；再在 全库对比表 里对齐精度口径横向比较。规格只是起点，TCO 和生态迁移成本才是决策变量。
想系统了解算力卡术语与选型框架，见 AI 算力卡指南。