🔥 今日值得一读 最速引导新框架:推理时对齐流扩散模型,实验验证有效!
Steepest Guidance: A Practical and Principled Approach to Inference-Time Alignment of Flow and Diffusion-based Models
arXiv ML (stat.ML) 🔥 重点 #扩散模型#推理时对齐#生成模型 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
为扩散/流模型提供实用的推理时对齐方法,可提升生成内容与人类偏好的匹配度。

📖 AI 总结

本文提出了一种名为“最速引导”(Steepest Guidance)的新框架,用于流模型与扩散模型的推理时对齐。研究指出,尽管Doob的h变换在理论上为推理时对齐提供了优雅的解决方案,且多数现有方法均基于此原理,但在实际推理阶段估计由该变换导出的最优引导仍十分困难。为此,作者将推理时对齐重新建模为概率测度空间中的序贯优化问题,并基于最大化目标函数局部改进的原则构建了该框架。论文对所提方法进行了理论分析,并通过大量实验验证了其有效性。该工作为扩散与流模型的推理时对齐提供了一种兼具实用性与理论依据的新思路。

🔑 关键词速览

推理时对齐在生成模型采样过程中施加引导,使输出符合特定目标或约束,而无需重新训练模型。
流和扩散模型两类通过逐步去噪或连续流变换从噪声生成数据的深度生成模型。
Doob的h-变换一种通过条件化随机过程来构造引导漂移项的概率工具,为推理时对齐提供理论基础。
最速引导本文提出的新框架,将推理时对齐视为概率测度空间中的序列优化,并沿目标局部改进最大的方向进行引导。
概率测度空间由概率分布构成的函数空间,用于将生成模型的演化建模为分布层面的优化问题。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅