Skip to main content

AMD Instinct MI325X (CDNA 3 Refresh)

产品概述

AMD Instinct MI325X 于 2024 年下半年发布,是 MI300X 的显存升级版本。从 192GB HBM3 升级到 256GB HBM3e,带宽从 5.3 TB/s 提升到 6.48 TB/s。直接对标 NVIDIA H200。

核心规格

项目参数
架构CDNA 3
显存256 GB HBM3e
显存带宽6.48 TB/s
FP16 Matrix1,307 TFLOPS(与 MI300X 相同)
FP8 Matrix2,614 TFLOPS
TDP750 W
形式OAM

MI300X vs MI325X vs H200

指标MI300XMI325XH200
显存192 GB256 GB141 GB
带宽5.3 TB/s6.48 TB/s4.8 TB/s
显存类型HBM3HBM3eHBM3e
FP8 算力2,614 TFLOPS2,614 TFLOPS3,958 TFLOPS

厂商信息

项目内容
制造商AMD, Inc.
官网https://www.amd.com
驱动https://www.amd.com/en/support/accelerators/amd-instinct.html
ROCm6.0+ 推荐

适用场景

  • 大模型推理(>100B 参数)
  • MoE 模型
  • 长上下文推理
  • LLM 微调

相关产品对比