跳到主要内容

SambaNova SN50 (2026)

SambaNova SN50 是 SambaNova 于 2026 年 2 月 24 日正式发布的 第五代 RDU(可重构数据流单元) AI 加速芯片,专为 **Agentic AI(智能体 AI)**生产场景设计,在推理速度、长上下文支持和总拥有成本(TCO)三个维度实现行业领先。

核心规格

项目参数
架构第五代 RDU(Reconfigurable Data Unit)
发布时间2026 年 2 月 24 日
客户交付2026 年下半年
适用场景Agentic AI 推理、多模型编排、长上下文推理
设计风冷(适配现有数据中心供电)
TDP150000 W

性能表现

推理速度(SemiAnalysis InferenceX 测试)

模型SN50NVIDIA B200加速比
Llama 3.3 70B(1K 输入/1K 输出,FP8)895 tokens/s184 tokens/s4.87×
GPT-OSS 120B详见官方数据最高
DeepSeek 671B(MoE)详见官方数据最高

✅ SambaNova 官方宣称 SN50 最大速度比竞品芯片快 5 倍

总拥有成本(TCO)

运行 Agentic AI 工作负载,SN50 的 TCO 比 GPU 方案低 3 倍

测算模型SN50 优势
Llama 70BTCO 降低 ~3×
GPT-OSS 120BTCO 降低 ~3×
DeepSeek 671BTCO 降低 ~3×

✅ 数据来源:给定延迟预算下的平均吞吐量优势测算。

三级内存架构

SN50 采用 HBM + SRAM + 主机内存 三级存储结构,支持超大规模模型:

┌─────────────────────────────────────────────┐
│ SN50 三级内存架构 │
├─────────────────────────────────────────────┤
│ HBM(高带宽内存) │ ← 热数据(权重 + KV Cache)
│ SRAM(片上静态内存) │ ← 算子中间结果
│ 主机内存(Host Memory) │ ← 超长上下文(10M+ token)
└─────────────────────────────────────────────┘
能力参数
最大模型规模10T+(10 万亿)参数
最大上下文长度10M+ token
加速器互连最多 256 个 RDU 通过多 TB/s 链路连接
网络带宽比上一代 SN40L 提升 4 倍

Intel 战略协作

SambaNova 与 Intel 达成多年战略协作,覆盖三大方向:

协作方向内容
AI 云扩展基于 Intel Xeon 基础设施搭建 SambaNova 垂直整合 AI 云,支持大语言/多模态模型低延迟推理
集成 AI 基础设施结合 SambaNova 系统与 Intel CPU、加速器、网络技术,支持推理、代码生成、多模态、智能体工作流
市场落地通过 Intel 全球渠道联合销售推广,共同打造异构 AI 数据中心方案

与上一代 SN40L 对比

项目SN40L(第四代)SN50(第五代)
单加速器算力
网络带宽
最大模型1T 参数10T+ 参数
最大上下文1M token10M+ token
加速器扩展64 个256 个
散热设计风冷风冷
适用场景推理 + 轻量训练Agentic AI 推理为主

适用场景

场景说明
Agentic AI 推理多步骤推理、工具调用、环境交互的复杂计算
长上下文推理10M+ token 超长文档理解、代码仓库级推理
多模型编排同时运行多个异构模型(LLM + 视觉 + 语音)
近实时请求处理低延迟、高吞吐的在线推理服务

行业意义

SN50 的发布标志着 AI 推理芯片从"训练衍生"向"推理专用"的范式转变:

  1. Agentic AI 元年:2026 年智能体 AI 进入生产,SN50 专为该场景优化
  2. TCO 优势:风冷 + 低功耗 + 高吞吐,TCO 比 GPU 低 3 倍
  3. 内存为中心:三级内存架构解决"内存墙"问题,支持 10T+ 参数模型
  4. 开放生态:与 Intel 合作,基于 x86 生态而非专有架构

参考来源

相关芯片