AWS 发布开源项目 TorchNeuron,为 Trainium 芯片提供原生 PyTorch 后端。该集成基于 PyTorch 社区的 PrivateUse1 设备后端和 torch.accelerator API 等加速器无关扩展点,使现有模型代码、库和工具可直接运行在 Trainium 上。TorchNeuron 支持 eager 执行(含性能更优的自适应 eager 模式)、用于生产性能的 torch.compile,以及用于自定义内核的 Neuron Kernel Interface,覆盖 Trainium2 和 Trainium3。配套的 Neuron Explorer 可借助 torch.profiler 追踪从框架到硬件的执行过程,将事件关联至源码行以定位瓶颈。项目以 Apache 2.0 协议开源,于 10 月 20 日进入公开测试阶段。此举降低了开发者使用 Trainium 的门槛,使其无需脱离 PyTorch 生态即可获得该芯片的性能与规模优势。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅