NVIDIA GH200 Grace Hopper
产品概述
NVIDIA GH200 Grace Hopper 超级芯片将 72 核 Arm Grace CPU 与 1 颗 Hopper H200 GPU 通过 900 GB/s NVLink-C2C 一致性总线融合为单颗封装，提供 CPU-GPU 统一内存地址空间。整芯片 TDP 1000 W（含 CPU、GPU 与 HBM），较传统 x86+H100 方案功耗降低约 5 倍、带宽提升 7 倍。
战略地位：GH200 是 NVIDIA 从「GPU 加速卡」走向「CPU+GPU 融合超级芯片」的关键产品，专为内存密集型（万亿参数 LLM、大表推荐系统、向量数据库）负载设计。DGX GH200 由 256 颗 GH200 构成 1 EFLOPS、144 TB 统一内存的单一巨型系统。
核心规格
| 项目 | 参数 |
|---|---|
| 架构 | Grace（Arm Neoverse V2）+ Hopper |
| 制程 | TSMC 4nm |
| CPU | 72 核 NVIDIA Grace（Arm），480 GB LPDDR5X |
| GPU | 1× Hopper H200，96 GB HBM3（可扩展 144 GB HBM3e） |
| FP8 算力 | 3,958 TFLOPS |
| FP16 算力 | 1,979 TFLOPS |
| FP32 | 134 TFLOPS |
| INT8 算力 | 3,958 TOPS |
| 显存 | 96 GB HBM3（高配 144 GB HBM3e） |
| 显存类型 | HBM3 |
| 显存带宽 | 4.8 TB/s（96GB 版）/ 6.35 TB/s（144GB 版） |
| CPU 内存带宽 | 最高 500 GB/s（LPDDR5X） |
| 互联 | NVLink-C2C 900 GB/s（CPU↔GPU） |
| TDP | 1000 W（整芯片，含 CPU+GPU+HBM） |
| 发布时间 | 2023 年发布，2024 年量产 |
关键特性
- 统一内存：Grace CPU 与 Hopper GPU 共享 96-144 GB HBM3 地址空间，CUDA Unified Memory 无需手动拷贝
- NVLink-C2C 900 GB/s：较 PCIe 5.0 x16 提升 14 倍
- 液冷原生：单节点 1000W 可部署于 1U 液冷机箱
- 生态成熟：CUDA / cuDNN / NCCL / TensorRT / OpenACC 全栈，PyTorch / JAX / TensorFlow 原生 Grace 二进制
厂商信息
| 项目 | 内容 |
|---|---|
| 公司 | NVIDIA Corporation |
| 官网 | https://www.nvidia.com |
| 发布 | 2023 年 |
| 架构 | Grace Hopper |
适用场景
- ✅ 云端万亿参数训练（DGX GH200 集群）
- ✅ 生成式 AI 推理农场（单卡可加载 175B FP16 模型）
- ✅ HPC 统一内存加速（OpenFOAM / WRF / GROMACS）
- ✅ 边缘 AI 超融合服务器
相关产品对比
- NVIDIA H200 - 独立 Hopper GPU
- NVIDIA GB200 - Blackwell 代机柜级超级芯片
- NVIDIA H100 - Hopper 旗舰加速卡