扩散迁移新突破：共享结构让目标分布生成更准更快！
Two-Stage Score Estimation for Group-Specific Diffusion Models
📖 AI 总结
该研究提出一个面向组别特定扩散模型的统计框架，用于解决目标分布观测数据有限时如何借助相关分布间的共享结构实现准确生成的问题。方法将分数函数分解为共享的池化分数与目标特定的偏移项，在池化密度的Besov正则性假设和偏移项的稳定分层组合模型下，推导出分别刻画两部分学习代价的收敛速率，并明确了较简单的偏移项在何种条件下比独立拟合具有更快的风险界收敛速度。研究进一步证明，在适当的边界与正则性假设下，偏移项在扩散时间趋近于零时保持有界且联合正则，从而使下界时间截断可以多项式速度消失，并给出扩散模型作为密度估计器的全变差保证。合成模拟与图像基准实验为框架提供了概念验证。
🔑 关键词速览
| 扩散迁移 | 将预训练的扩散模型知识迁移到数据有限的目标分布上的方法。 |
| 得分函数 | 扩散模型中用于描述数据分布对数密度的梯度的函数，指导生成过程。 |
| Besov正则性 | 一种衡量函数光滑性的数学条件，常用于非参数统计中控制估计的收敛速率。 |
| 全变差保证 | 衡量生成分布与真实分布之间差异的理论界限，确保模型作为密度估计器的准确性。 |
| 分层组合模型 | 一种将复杂函数分解为多个层次简单组件的建模方式，用于分析偏移量的结构。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅