📖 AI 总结

苹果机器学习研究团队提出了一种名为“探针引导”的新方法，用于引导流匹配模型。该方法利用现有扩散模型冻结的内部状态构建引导信号，原理与自动引导相似，但无需在推理时增加额外前向传播，并能确保弱模型与强模型具有相似的动力学特性。研究团队将该方法应用于连续扩散语言模型，在无条件生成任务上取得了新的最优性能；在17亿参数的扩散语言模型上，探针引导在多项选择题基准测试中持续带来提升。此外，研究还借助探针分析了传统自动引导机制，发现弱模型必须来自训练中的低熵区域。这些发现既为改进扩散语言模型提供了实用途径，也加深了对自动引导内在机制的理解。