Google TPU Ironwood（v7）深度解析：96GB→192GB 的推理怪兽
当 AI 的重心从训练转向推理，芯片设计的第一性原理也随之改变。Ironwood 是 Google 十年 TPU 路线上第一次明确"为推理而生"的一代，也是迄今为止性能最强、规模最大的一代。
从训练优先到推理优先
2025 年 4 月的 Google Cloud Next 大会上，Google 正式发布第七代 TPU——Ironwood；同年 11 月宣布全面商用。与此前历代不同，Ironwood 是第一款专为"推理时代"设计的 TPU，目标场景是思考型（thinking）大模型、混合专家（MoE）架构和高并发推理负载。
这个定位转变的背景很直接：推理模型需要对同一段提示进行多步生成，计算量远超传统问答式模型，且用户侧对延迟极其敏感。Google 的判断是，推理阶段的瓶颈不在算术单元，而在内存容量、内存带宽和芯片间通信——这决定了 Ironwood 的三大设计重心。
单芯片规格：算力、内存与互连
Ironwood 单芯片集成两个计算 die，FP8 峰值算力 4614 TFLOPS，BF16 为 2307 TFLOPS。内存与互连的提升幅度尤为可观：
| 指标 | Ironwood（v7） | 相对上代 Trillium |
|---|---|---|
| HBM3e 容量 | 192 GB（8 组堆栈） | 提升至 6 倍 |
| 内存带宽 | 约 7.3 TB/s | 提升至 4.5 倍 |
| ICI 芯片间互连（双向） | 1.2 TB/s | 提升至 1.5 倍 |
| 每瓦性能（FP8） | 提升至 2 倍 | 约 2 倍 |
| SparseCore | 第四代，面向超大规模嵌入 | 持续增强 |
192GB 的片上内存意味着单芯片即可容纳 70B 级模型的权重与 KV cache，配合 SparseCore 对推荐、排序类嵌入负载的加速，Ironwood 把 TPU 的能力边界从纯大模型扩展到金融与科学计算领域。据公开报道，新一代 TPU 单芯片功耗最高可达约 980W，因此必须 100% 采用液冷散热，Google 为此部署了第三代液冷基础设施。
集群层面：9216 颗芯片一个 Pod
Ironwood 提供两种标准配置：256 颗芯片和 9216 颗芯片。满配 Pod 的 FP8 总算力达 42.5 ExaFLOPS，全 Pod 可直接寻址的 HBM 总量约 1.77PB，创下共享内存超算的公开纪录。支撑这一规模的关键是光学电路交换机（OCS）与 3D 环面网络：故障节点可以被绕开，业务从检查点快速恢复，可靠性和可维护性（RAS）贯穿整个设计。
在软件侧，Pathways 执行架构允许把数十万颗 TPU 组合成一个统一算力池。Anthropic 已宣布计划使用多达 100 万颗 TPU 服务 Claude 模型家族；据公开报道，Meta 亦在评估大规模采购，Google 甚至将 2026 年 TPU 出货量目标上调了 50%。
观察与小结
Ironwood 的竞争力不来自单点规格，而来自"芯片—互连—散热—软件"的垂直整合。相比以通用 GPU 为核心的集群，TPU 路线牺牲了部分通用性，换来更高的系统效率与更低的单位 token 成本——这正是推理时代最看重的指标。对于构建推理密集型业务的企业，Ironwood 及其背后的 AI Hypercomputer 体系值得纳入选型视野；对于国产与第三方芯片厂商，Google 证明了自研加速器在超大规模下可以与 GPU 正面竞争，这条路径的方法论比任何单颗芯片都更有参考价值。