ExecuTorch 推出面向 Arm Cortex-M CPU 的后端,使 PyTorch 模型无需格式转换即可直接部署在微控制器上,并借助 Arm CMSIS-NN 实现加速。该后端支持 Scalar、DSP 和 MVE/Helium 全部能力层级,统一了工作流程,同时为异构 SoC 提供与 Ethos-U NPU 并行的 CPU 执行路径。在 Alif Ensemble E8 上对 MLPerf Tiny 五个模型中的四个进行基准测试,每个模型在单颗 Cortex-M55 核心上运行时间不超过 21.5 毫秒,内存占用低于 90 KiB。运行时核心小于 20 KiB 闪存,配合算子选择性构建,代码体积随模型而非框架扩展。这一进展消除了跨框架转换与数值不匹配的调试负担,让 PyTorch 生态得以覆盖资源极度受限的常驻设备。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅