扩散模型不重训也能控概率！低似然异常样本生成新方法来了
Score-based Outlier Generation via Controlling the Radon-Nikodym Derivative
📖 AI 总结
本文提出一种基于测度论的离群点生成方法，通过控制Radon-Nikodym导数来显式调控生成样本的似然水平。作者将离群点定义为对数似然分布中的低似然事件，并保证以可指定幅度赋予其更高概率质量。基于该形式化框架，研究推导出似然重加权对扩散分数函数的影响，发现其等价于以似然分布的Radon-Nikodym导数作为控制项对分数函数进行缩放，从而可在不重新训练扩散模型的情况下获得更新后的分数函数。作者进一步利用扩散模型背后的Ornstein-Uhlenbeck半群，构造指数插值控制器以逼近真实控制项。实验表明，该方法能够可控地生成低似然样本，同时保持与数据几何结构的一致性。该工作为压力测试算法和理解系统在罕见条件下的行为提供了新的生成工具。
🔑 关键词速览
| Radon-Nikodym导数 | 测度论中描述两个测度之间密度关系的导数，用于似然重加权。 |
| 扩散模型 | 一类生成模型，通过逐步加噪和去噪过程学习数据分布。 |
| 分数函数 | 对数概率密度关于数据的梯度，在扩散模型中用于生成样本。 |
| Ornstein-Uhlenbeck半群 | 描述扩散过程时间演化的数学半群，用于构建控制器。 |
| 似然重加权 | 通过调整概率权重来改变样本似然分布的技术。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅