📖 AI 总结

IBM 为 Spyre 加速器构建的 PyTorch 软件栈，将其 torch.compile 后端从自研的 sendnn 迁移至基于 PyTorch Inductor 的开源后端。迁移中大部分 Inductor 代码无需改动，真正的工作集中在三处：Spyre 的数据搬运方式、片上存储管理以及核心间任务分配，这些均与 Inductor 内置的 GPU 假设存在根本差异。Spyre 是一款面向企业推理的 75 瓦 PCIe 数据流加速器，由 32 个小核心通过环形网络互联，每核配备 2MB 本地暂存器，以 128 字节的固定数据块传输数据。编译器分两阶段：先用 Inductor 扩展将计算图降为 SuperDSC 中间表示，再由专有编译器 DeepTools 转为硬件指令。结果表明 Inductor 是合适的扩展基础，新编译器体积约为被替代方案的七分之一，IBM 正与上游合作将所依赖的扩展点标准化，以惠及其他外部硬件后端。