📖 AI 总结

苹果研究团队提出Trajectory-Shaped Discrete Flow Matching（TS-DFM）方法，针对离散流匹配生成文本需数百次前向计算、蒸馏后学生模型性能受限的问题，指出瓶颈在于训练轨迹本身而非学生模型容量。传统轨迹由无评估的随机跳跃构成，早期错误会逐步传播并被学生模仿。TS-DFM引入轻量级“能量指南针”，在每个中间点评估候选续写并选择最连贯路径，且仅在训练阶段使用，不增加推理成本。在1.7亿参数语言模型上，8步学生模型困惑度比1024步教师模型低32%，速度快128倍，并在多种源分布和三个不同规模评估器下保持一致优势，其困惑度优于数据量多6倍或模型大5倍的离散生成基线。