本文提出了一种名为“最速引导”(Steepest Guidance)的新框架,用于流模型与扩散模型的推理时对齐。研究指出,尽管Doob的h变换在理论上为推理时对齐提供了优雅的解决方案,且多数现有方法均基于此原理,但在实际推理阶段估计由该变换导出的最优引导仍十分困难。为此,作者将推理时对齐重新建模为概率测度空间中的序贯优化问题,并基于最大化目标函数局部改进的原则构建了该框架。论文对所提方法进行了理论分析,并通过大量实验验证了其有效性。该工作为扩散与流模型的推理时对齐提供了一种兼具实用性与理论依据的新思路。
| 推理时对齐 | 在生成模型采样过程中施加引导,使输出符合特定目标或约束,而无需重新训练模型。 |
| 流和扩散模型 | 两类通过逐步去噪或连续流变换从噪声生成数据的深度生成模型。 |
| Doob的h-变换 | 一种通过条件化随机过程来构造引导漂移项的概率工具,为推理时对齐提供理论基础。 |
| 最速引导 | 本文提出的新框架,将推理时对齐视为概率测度空间中的序列优化,并沿目标局部改进最大的方向进行引导。 |
| 概率测度空间 | 由概率分布构成的函数空间,用于将生成模型的演化建模为分布层面的优化问题。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅