Skip to main content

天数智芯开放日:1.05 倍吞吐、每百万 Token 降 40%,哪些能信

· 4 min read
Industry Research Team

11 月 2 日到 4 日,天数智芯在上海办了媒体开放日,第一次让媒体看天垓300 真机。同台的还有 AFD 分离方案、IXL144 超节点、天数智算软件栈和彤央端侧终端。信息量不小,但口径分成三层,混着读容易高估。

第一层是第三方实测。今年完成的测试里,典型 PD 分离部署下天垓300 折算单卡端到端吞吐达到"某国际顶尖 GPU"的 1.05 倍,64K 长上下文 Attention 也是 1.05 倍,多模态生成推理吞吐提升约 2% 到 5%,推荐类在线业务吞吐提升 21%。厂商发布稿没点对照型号,外界普遍解读成 H200。产业链文章直接写成 H200 的 1.05 倍,本站按未点名的原始口径记。天垓300 卡片 里也是这么标的。

这个数值得认真对待的地方在于,它比的是整条推理链路的端到端输出,不是理论峰值。差距只有 5%,说明在特定的模型和部署条件下,国产通用 GPU 已经摸到主流推理卡的可用区间。但也别外推:给定模型、给定 PD 分离配置、给定上下文长度,换任何一个条件结果都可能变。

第二层是公司测算。IXL144 超节点单柜 144 颗 GPU、约 10.1 TB 显存,每百万有效 Token 成本比国际主流方案低约 40%。这个 40% 是天数智芯自己算的,成本模型里怎么计电费、折旧、利用率、软件人力,外界看不到。同类"每 Token 成本"口径在国产超节点发布里已经出现好几次,横向比之前得先问分母。新一代 P2P 互联引擎说要把域内单次传输延迟从 3 到 5 微秒压到 1 微秒,用的是"目标"二字,不是实测。

软件栈那组数字也是厂商现场实测:PD 分离部署的环境准备从 1 小时压到 10 分钟、人工操作从数十步到 1 步;某调优任务周期从 7 天压到 2 小时内;Agent 加 FlyDSL 协同后,过去 10 人天的适配工作 1 人小时级完成、编译速度提升 90% 以上。理想条件下"用 1% 的编译时间实现 99% 的运行性能"这句尤其要留个心眼,它写的是"理想状态"。

第三层是条件性工程估算。以 1024 张卡对已有预训练基座做一次强化学习,在 40B 激活参数的中心情景下,约 26 天完成约 1T 总参数 MoE 模型的 500 亿生成 Token 任务。参数全带条件,属于规划推演,不是跑出来的。

端侧那条线反而更具体。彤央 TY1200 标称 300 TOPS 稠密算力(不是稀疏峰值),Qwen3.8-27B、Qwen3.6-35B-A3B 实测为 NVIDIA Thor T5000 的 1.2 倍,Cosmos-R2-2B 和 8B 分别是 158% 和 180%。36氪报道里所有演示离线跑:基于 MiniMax 开源视频模型平均 6 分钟生成一段 1056×608、5 秒的视频,合同审核、投资 BP 分析在本地完成。下一代 TY2000 预告标称 600 TOPS,还没东西可看。

把这些放在 11 月初的国产算力背景里,能看出一条挺清楚的分工:推理侧已经在拼端到端成本和部署效率,训练侧刚走到头部模型预训练的门口(DeepSeek V5 那条消息)。国产芯片现在拿出来的不再只是峰值算力,而是超节点、软件栈、部署工时这些过去没人愿意讲的东西。这是好事,也意味着以后看发布会不会更费劲:得先分清哪个数是第三方测的、哪个是自家算的、哪个只是目标。

想按自己的负载核一遍成本,TCO 计算器 里的电费、PUE、使用年限都能调;规格横向比可以看 完整对比表。