Skip to main content

Etched Sohu：All-in Transformer 的专用 ASIC 押注

· 3 min read
AI Compute Cards Wiki Editorial
Industry Research Team

GPU 是瑞士军刀，Etched 想做一把只切一种菜的刀。这家由哈佛辍学生创办的公司赌的是：既然超过九成生成式 AI 负载都是 Transformer，为什么还要为通用性付费？

把 Transformer 烧进硅片​

Sohu 是一颗只为 Transformer 设计的推理 ASIC，采用台积电 4nm 工艺。它的激进之处在于架构哲学：GPU 需要为 CUDA 图形、光栅化、通用 SIMD 等历史包袱保留大量面积，而 Sohu 把注意力机制、前馈网络、层归一化这些 Transformer 的标准操作直接固化为硬件数据流，省去控制逻辑与调度开销，把节省出的硅面积全部换成矩阵计算单元。

Etched 宣称由此带来极高的实际利用率（据其称真实负载下可达九成以上），这解释了其惊人的纸面数字：

指标8 卡 Sohu 服务器（公司宣称）8 卡 H100（对比口径）
Llama 70B 推理吞吐超过 50 万 token/s约 2.3 万 token/s
单芯片内存144 GB HBM3E80 GB HBM3
支持模型规模经张量与专家并行可达 100 万亿参数—
支持架构仅限 Transformer 及其变体通用

需要强调的是，这些数字均来自公司自述，尚缺乏独立第三方基准的全面验证，读者应将其视为方向性参考而非实测结论。

商业进展与资本故事​

Etched 2022 年成立，2023 年 3 月完成 540 万美元种子轮，2024 年 6 月由 Primary Venture Partners 与 Positive Sum 联合领投 A 轮，Peter Thiel 等天使参投；据公开报道，其累计融资超过 6 亿美元，估值一度达到约 50 亿美元量级。供应链方面与台积电合作流片，并与 Rambus 协作压缩芯片面积、加速上市节奏。

公司的软件策略同样是开源导向：宣称驱动、内核与服务栈将全部开源，开发者可以基于 PyTorch 生态直接迁移 Transformer 模型。目标客户是云厂商与高并发推理平台——实时语音智能体、代码树搜索、多播投机解码这类需要海量 token 吞吐的场景。

最大的风险：把所有鸡蛋放进 Transformer 的篮子​

专用化的反面是僵化。Sohu 不能运行 CNN、RNN 等非 Transformer 模型，混合负载的集群仍需 GPU 兜底；更深层的问题是架构演进风险——如果主流模型架构发生实质变化（比如状态空间模型或线性注意力大规模商用），已固化的硬件设计可能一夜贬值。这正是所有领域专用 ASIC 面临的经典困境：专用化红利与架构锁定风险的对称性。此外，从流片到大规模量产交付的工程爬坡，对一家年轻公司而言也是严峻考验。

小结与建议​

Sohu 代表了 AI 芯片光谱上最激进的一端：用架构锁定换取十倍量级的效率。判断其成败的关键时间窗口在未来一两年的实际交付与第三方评测。对采购方而言，现阶段合理的姿势是"小规模试点、窄场景验证"——选一个纯 Transformer、流量稳定、对成本敏感的推理业务做 PoC，用实测数据决定是否扩大部署；在软件成熟度得到验证之前，GPU 仍应作为混合架构的底座保留。