跳到主要内容

Apple Neural Engine

厂商: Apple

分类: NPU 神经网络处理器

架构: Neural Engine (ANE)

简介​

Apple A 系列和 M 系列芯片内置的神经网络引擎（ANE），专为机器学习推理加速设计。提供 16 核架构，算力高达 38 TOPS。通过 Core ML 框架调用，支持模型压缩和部署。

规格参数​

型号算力显存/内存接口TDP制程
A18 Pro ANE38 TOPS (INT8)统一内存集成 SoC6WN3E (3nm)
M4 ANE38 TOPS (INT8)统一内存集成 SoC10WN3E (3nm)
M3 ANE18 TOPS (INT8)统一内存集成 SoC10WN3B (3nm)

官方网站​

访问官方网站

驱动下载​

macOS​

相关文档​

操作系统支持​

WindowsLinuxmacOSAndroid
❌❌✅❌

版本历史​

版本发布时间说明
Core ML 72024M4/A18 Pro，增强 Transformer 模型
Core ML 62023M3/A17 Pro 支持

性能基准​

型号任务性能指标
A18 Pro ANECore ML 推理38 TOPS
M4 ANECore ML 推理38 TOPS
M4 ANEStable Diffusion (Core ML)~5s/img

定价信息​

型号参考价格备注
ANE随 Apple SoC 提供iPhone/iPad/Mac 内置

快速安装​

macOS / iOS​

ANE 通过 Core ML 框架自动调用，无需额外安装。

# 安装 coremltools 用于模型转换
pip install coremltools

代码示例​

Python (Core ML)​

import coremltools as ct
import numpy as np

# 将 PyTorch 模型转换为 Core ML
traced_model = torch.jit.trace(model, example_input)
mlmodel = ct.convert(traced_model, inputs=[ct.TensorType(name="input", shape=example_input.shape)])
mlmodel.save("Model.mlpackage")

# 推理使用 Apple Neural Engine
import coremltools as ct
model = ct.models.MLModel("Model.mlpackage")
predictions = model.predict({"input": input_array})

架构特色​

  • Neural Engine (ANE): Apple 专用神经网络加速器，独立于 CPU 和 GPU 运行，功耗极低
  • Core ML 优化: 模型自动路由到 ANE 执行，支持神经网络和传统机器学习
  • 统一内存: ANE 与 CPU/GPU 共享内存，模型加载零拷贝

模型兼容性​

模型/框架支持情况备注
Core ML✅ 原生最佳支持
PyTorch✅ 转换coremltools 转换
TensorFlow✅ 转换coremltools 转换
Stable Diffusion✅Core ML 版本
小型 LLM✅侧载支持

相关产品​

如果你在评估替代方案，以下产品可能也适合你的场景：