微软 Maia 100 架构复盘：云巨头的第一块自研 AI 芯片
2023 年 11 月的 Ignite 大会上，微软一口气发布了两颗自研芯片：Cobalt 100 CPU 与 Maia 100 AI 加速器。前者进展顺利，后者则成为观察云厂商自研芯片难度的一个绝佳样本。
架构与规格：一块围绕数据中心设计的 ASIC
Maia 100 是一颗大型 ASIC：台积电 5nm 工艺加 CoWoS-S 封装，裸片面积约 820 平方毫米，集成 1050 亿晶体管，是当时该工艺节点上最大的芯片之一。核心规格如下：
| 规格项 | Maia 100 |
|---|---|
| 制程与封装 | 台积电 5nm，CoWoS-S |
| 裸片面积 | 约 820 平方毫米 |
| 晶体管数量 | 约 1050 亿 |
| 内存 | 64 GB HBM2e，总带宽 1.8 TB/s |
| 片上 SRAM | 数百 MB 量级，用于暂存 KV cache |
| 热设计功耗 | 支持 700W，云端预配置约 500W |
| 网络接口 | 12 个 400GbE，自定义 RoCE 类以太网协议 |
| 数据格式 | FP32、BF16、FP8 及微软主导的 MX 微缩放格式 |
值得注意的是内存选择：Maia 100 采用的是偏成熟的 HBM2e 而非更新的 HBM3，反映出首发产品在供应链成熟度与成本之间的保守权衡。张量单元之外，芯片还配有超标量向量处理器与异步 DMA 引擎，可以在后台预取数据，让计算与搬运充分重叠；多层 Mesh 片上网络则把大矩阵（Prefill）与小矩阵（Decode）流量分开调度，以保住高 QPS 下的尾延迟。
系统级创新：真正的亮点在芯片之外
Maia 100 最有价值的部分其实是芯片之外。微软没有沿用标准机架，而是设计了更宽的定制机架，并开发了一套"侧挂"（Sidekick）液冷系统——一个类似散热器的独立机柜，把冷却液循环到贴在芯片表面的冷板上。这套闭式液冷架构让微软可以在既有数据中心里部署高功耗 AI 服务器，这是"数据中心即一台计算机"思路的典型体现。
软件侧，微软选择拥抱开源生态：Maia SDK 与 PyTorch、ONNX Runtime 深度集成，并引入 OpenAI 的 Triton 语言降低算子开发门槛。开发路径也很务实——Copilot、Bing 等内部业务优先部署，企业客户则继续在 Azure 上租用英伟达与 AMD 的旗舰实例，形成"自研加开放"的双轨制。
复盘：三条教训
第一，落地速度慢于预期。据公开报道，Maia 100 从发布到规模化商用经历了远超计划的爬坡期，内存选型偏旧、软件生态从零起步都是原因；微软不得不在 2025 年 11 月的 Ignite 上推出接续产品 Maia 200 以追赶竞品。第二，自研芯片无法脱离客户的真实负载迭代——微软虽与 OpenAI 有深度协同设计，但随着 OpenAI 转向与博通等伙伴自研，Maia 的验证闭环被削弱。第三，系统级创新（液冷、机架、网络）虽然不如芯片参数吸睛，却决定了能否真正部署。
小结
Maia 100 是一份诚恳的"第一版答卷"：架构不激进、内存不冒进、软件借力开源，赌的是系统级整合能力。它没有颠覆什么，但它验证了一条路——云厂商的自研芯片不必一击必胜，而要在迭代中建立自己的设计能力与供应链话语权。这个教训对所有正在启动自研芯片项目的团队都适用。