跳到主要内容

Google Cloud TPU 8t (训练专用)

产品概述

Google TPU 8t 是 2026-04-22 Google Cloud Next '26 公布的最新一代训练专用 TPU,与同期公布的 TPU 8i 推理专用形成 8t + 8i 拆分架构。采用 TSMC 2nm 制程、双计算 Die 设计、8×HBM3e 12层 显存堆栈。单 Pod 集成 9,600 芯片,HBM 总量 2 PB,总算力 121 EFLOPS FP4(Ironwood 的 3×)。继承与 Broadcom(博通) 的长期合作。

TPU 8t 专为 Google Gemini 3 / Gemini 4 等 frontier 模型训练设计,集成 Arm Axion CPU(Google 自研 64 核 Arm Neoverse V2)实现 TPU + CPU 协同。配备 SparseCore 加速 MoE 路由和推荐系统。量产目标 2027 年底

核心规格

| 项目 | 参数 |

发布2026-04-22
架构TPU 8t(训练专用)
制程TSMC 2nm
Die 设计双计算 Die
显存HBM3e 12层(单芯片推测 ~256GB)
HBM 带宽~7 TB/s(推测每芯片)
Pod 芯片数9,600 芯片
Pod HBM 总量2 PB
Pod FP4 算力121 EFLOPS(3× Ironwood)
集成 CPUArm Axion(Google 自研,64 核 Neoverse V2)
SparseCore加速 MoE / 推荐系统
互联ICI 3D Torus
散热第4代液冷
TDP1,300 W
代工合作伙伴Broadcom(博通)
公布时间2026-04-22(Google Cloud Next '26)
量产目标2027 年底

📌 8t 命名:TPU 8 代 + t = training(训练)。8t 与 8i 同代,仅用于训练

TPU 8t vs TPU v7 Ironwood(训练对比)

指标TPU v7 IronwoodTPU 8t提升
形态推理为主训练专用形态拆分
制程TSMC 2nm新一代
Die 设计双计算 Die架构升级
显存8× HBM3(192GB)8× HBM3e 12层升级
Pod 芯片数9,2169,600+4%
Pod HBM2 PB远超
Pod FP4 算力~42 EFLOPS(推测)121 EFLOPS~3×
集成 CPUArm Axion 64 核新增
量产已开放2027 年底

TPU 8t 训练范式优化

优化方向内容
MoE 训练Expert Parallel 原生支持(DeepSeek / Mixtral 风格)
Long-context 训练1M+ token 上下文训练优化
RLHF / 后训练Online RL(DPO / PPO / GRPO)原生优化
多模态训练视觉-语言联合训练(ViT + LLM 同步)
AXIOMArm Axion CPU 协同(数据预处理 / 权重初始化)

Arm Axion CPU 集成

项目参数
架构Arm Neoverse V2(64 核)
TDP180 W
作用Host CPU + 数据加载 + 预处理 + 推理调度
意义Google 自研 Arm CPU 首次进入 TPU 节点

Axion 集成 = TPU 节点向"超节点"演进:TPU 8t 不再是纯加速器,而是 TPU + Axion CPU 协同系统,对标 NVIDIA Vera CPU。

部署推荐配置

场景推荐配置
Gemini 3 训练TPU 8t pod 9,216 颗(单 pod 即可训练 frontier 模型
Llama 4 训练TPU 8t pod(千亿级模型)
多模态训练TPU 8t + Vision Transformer
科学计算TPU 8t + JAX 0.5+
RLHF 后训练TPU 8t(TPU 8t 原生优化

软件生态

  • JAX 0.5+:Google 主力训练框架
  • PyTorch/XLA 2.5+:PyTorch 兼容
  • TensorFlow 2.17+:旧框架
  • Paxml / Orbax:Google 内部 LLM 训练栈
  • MaxText:Google 参考实现
  • vLLM 0.8+(实验性):推理支持

适用场景

  • Frontier 模型训练(Gemini 3/4、Anthropic、外部客户)
  • MoE 大模型训练(原生支持)
  • Long-context 训练(1M+ token)
  • 多模态训练(ViT + LLM)
  • ❌ 推理场景(应用 TPU 8i 而非 8t)
  • ❌ 非 Google Cloud 部署

厂商信息

项目内容
厂商Google Cloud
首次公布2026-04-22(Google Cloud Next 2026)
产品页https://cloud.google.com/tpu
云端部署仅 Google Cloud
代号Trillium 2

相关产品