SambaNova SN50 (2026)
SambaNova SN50 是 SambaNova 于 2026 年 2 月 24 日正式发布的 第五代 RDU(可重构数据流单元) AI 加速芯片,专为 **Agentic AI(智能体 AI)**生产场景设计,在推理速度、长上下文支持和总拥有成本(TCO)三个维度实现行业领先。
核心规格
| 项目 | 参数 |
|---|---|
| 架构 | 第五代 RDU(Reconfigurable Data Unit) |
| 发布时间 | 2026 年 2 月 24 日 |
| 客户交付 | 2026 年下半年 |
| 适用场景 | Agentic AI 推理、多模型编排、长上下文推理 |
| 设计 | 风冷(适配现有数据中心供电) |
| TDP | 150000 W |
性能表现
推理速度(SemiAnalysis InferenceX 测试)
| 模型 | SN50 | NVIDIA B200 | 加速比 |
|---|---|---|---|
| Llama 3.3 70B(1K 输入/1K 输出,FP8) | 895 tokens/s | 184 tokens/s | 4.87× |
| GPT-OSS 120B | 详见官方数据 | — | 最高 5× |
| DeepSeek 671B(MoE) | 详见官方数据 | — | 最高 5× |
✅ SambaNova 官方宣称 SN50 最大速度比竞品芯片快 5 倍。
总拥有成本(TCO)
运行 Agentic AI 工作负载,SN50 的 TCO 比 GPU 方案低 3 倍:
| 测算模型 | SN50 优势 |
|---|---|
| Llama 70B | TCO 降低 ~3× |
| GPT-OSS 120B | TCO 降低 ~3× |
| DeepSeek 671B | TCO 降低 ~3× |
✅ 数据来源:给定延迟预算下的平均吞吐量优势测算。
三级内存架构
SN50 采用 HBM + SRAM + 主机内存 三级存储结构,支持超大规模模型:
┌─────────────────────────────────────────────┐
│ SN50 三级内存架构 │
├─────────────────────────────────────────────┤
│ HBM(高带宽内存) │ ← 热数据(权重 + KV Cache)
│ SRAM(片上静态内存) │ ← 算子中间结果
│ 主机内存(Host Memory) │ ← 超长上下文(10M+ token)
└─────────────────────────────────────────────┘
| 能力 | 参数 |
|---|---|
| 最大模型规模 | 10T+(10 万亿)参数 |
| 最大上下文长度 | 10M+ token |
| 加速器互连 | 最多 256 个 RDU 通过多 TB/s 链路连接 |
| 网络带宽 | 比上一代 SN40L 提升 4 倍 |
Intel 战略协作
SambaNova 与 Intel 达成多年战略协作,覆盖三大方向:
| 协作方向 | 内容 |
|---|---|
| AI 云扩展 | 基于 Intel Xeon 基础设施搭建 SambaNova 垂直整合 AI 云,支持大语言/多模态模型低延迟推理 |
| 集成 AI 基础设施 | 结合 SambaNova 系统与 Intel CPU、加速器、网络技术,支持推理、代码生成、多模态、智能体工作流 |
| 市场落地 | 通过 Intel 全球渠道联合销售推广,共同打造异构 AI 数据中心方案 |
与上一代 SN40L 对比
| 项目 | SN40L(第四代) | SN50(第五代) |
|---|---|---|
| 单加速器算力 | 1× | 5× |
| 网络带宽 | 1× | 4× |
| 最大模型 | 1T 参数 | 10T+ 参数 |
| 最大上下文 | 1M token | 10M+ token |
| 加速器扩展 | 64 个 | 256 个 |
| 散热设计 | 风冷 | 风冷 |
| 适用场景 | 推理 + 轻量训练 | Agentic AI 推理为主 |
适用场景
| 场景 | 说明 |
|---|---|
| Agentic AI 推理 | 多步骤推理、工具调用、环境交互的复杂计算 |
| 长上下文推理 | 10M+ token 超长文档理解、代码仓库级推理 |
| 多模型编排 | 同时运行多个异构模型(LLM + 视觉 + 语音) |
| 近实时请求处理 | 低延迟、高吞吐的在线推理服务 |
行业意义
SN50 的发布标志着 AI 推理芯片从"训练衍生"向"推理专用"的范式转变:
- Agentic AI 元年:2026 年智能体 AI 进入生产,SN50 专为该场景优化
- TCO 优势:风冷 + 低功耗 + 高吞吐,TCO 比 GPU 低 3 倍
- 内存为中心:三级内存架构解决"内存墙"问题,支持 10T+ 参数模型
- 开放生态:与 Intel 合作,基于 x86 生态而非专有架构
参考来源
相关芯片
- SambaNova SN40L — 上一代第四代 RDU
- Intel Gaudi 3 — Intel 推理加速卡(竞品)
- NVIDIA B200 — NVIDIA Blackwell 推理 GPU(竞品)