跳到主要内容

Tenstorrent AI Accelerator

厂商: Tenstorrent

分类: ASIC 专用加速卡

架构: Tensix / RISC-V

简介

Tenstorrent 的 AI 加速器(Wormhole/Grayskull/Blackhole)采用独特的 Tensix 架构,融合 RISC-V 核心与 AI 张量计算单元。由传奇芯片架构师 Jim Keller 领导,开源软件栈。

规格参数

型号算力显存/内存接口TDP制程
Wormhole n300200 TFLOPS (BF16)64GB LPDDR5PCIe 5.0 + 以太网200W6nm
Grayskull e15050 TFLOPS (BF16)16GB GDDR6PCIe 4.075W12nm

官方网站

访问官方网站

驱动下载

Linux

相关文档

操作系统支持

WindowsLinuxmacOSAndroid

版本历史

版本发布时间说明
TT-Metalium 1.02024RISC-V 开源软件栈

性能基准

型号任务性能指标
Wormhole n300LLM 推理中等规模推理优化
Grayskull e150边缘 AI入门级

定价信息

型号参考价格备注
Wormhole n300~$699-999开发者卡
Grayskull e150~$399-599入门开发者卡

快速安装

Linux (Ubuntu 22.04)

# 1. 安装 Tenstorrent 驱动
pip install tt-torch

# 2. 验证
tt-smi

Tenstorrent GitHub 获取驱动和工具。

代码示例

Python (PyTorch TT)

import torch
import tt_lib

# 使用 Tenstorrent 后端
device = tt_lib.device.CreateDevice()
tt_lib.device.SetDefaultDevice(device)

# tt-torch 提供 PyTorch 后端
x = torch.randn(1024, 1024)
# 自动路由到 Tenstorrent 硬件

架构特色

  • Tensix 核心: 基于 RISC-V 的可编程张量核心,每个核心包含矩阵引擎和路由引擎
  • Wormhole 互联: 高带宽片间/卡间互联,支持网格拓扑
  • 开源路线: 硬件设计和软件栈开源,开发者社区活跃

模型兼容性

模型/框架支持情况备注
PyTorch✅ tt-torch后端开发中
Cerebras NN类似数据流架构
LLM 推理⚠️社区适配中
通用 AI⚠️生态发展初期

相关产品

如果你在评估替代方案,以下产品可能也适合你的场景: