📖 AI 总结

Google 与 Meta 的 PyTorch 团队合作，开源了 TorchTPU——一个让 PyTorch 模型原生运行在 Cloud TPU 上的后端，于 2026 年 10 月 20 日的 PyTorch 大会上发布。它通过 PyTorch 的 PrivateUse1 接口接入，使 TPU 与 GPU、CPU 并列成为原生 PyTorch 设备，并取代此前的 PyTorch/XLA，官方建议所有新工作负载采用。TorchTPU 支持 SPMD 与 MPMD 执行，提供严格、调试和 DeferAndFuse 三种即时模式，生产环境可通过 torch.compile 经 StableHLO 和 OpenXLA 编译到 TPU。测试覆盖从 v5e 到 8192 颗 Ironwood 芯片，推理支持 FP8、MXFP4 和 NVFP4 检查点。自报数据显示，在 Ironwood 上用 TorchTitan 训练 Qwen 3 8B 可达 52% MFU；但未调优的即时模式在微调场景下每步耗时 11.49 秒，充分调优后降至 2.78 秒，说明开箱性能与优化后差距明显。