本文提出了一种名为CARE(条件感知表示正则化)的轻量级即插即用正则化框架,用于改进扩散模型的训练。研究指出,现有正则化方法通常忽略了直接决定生成目标的内置条件信号(如类别标签或文本),而条件信号会显著影响特征分布。CARE的核心思路是根据条件相似度动态调制特征分布,利用内置条件信号引导表示空间,使相似条件对应的特征形成更紧密的聚类,且无需显式对齐损失或外部监督。实验表明,CARE在类别到图像和文本到图像任务中均能提升视觉保真度与收敛稳定性:在ImageNet上,40万训练步内FID降低19.08%,实现3.5倍加速;在文本到图像生成中,20万次迭代后FID降低16.61%,并改善了生成样本与文本提示的语义对齐。此外,CARE可与现有正则化方法无缝结合,带来额外性能提升。
| CARE (Condition-Aware Representation Regularization) | 一种根据条件相似度动态调制特征分布的轻量级即插即用正则化框架。 |
| Diffusion Models | 扩散模型,一类通过逐步去噪过程生成数据的生成模型。 |
| FID (Fréchet Inception Distance) | 评估生成图像质量的常用指标,值越低表示生成分布与真实分布越接近。 |
| Representation Regularization | 表示正则化,通过约束模型内部特征表示来提升泛化性和生成质量的技术。 |
| Conditioning Signals | 条件信号,如类别标签或文本提示,用于指导扩散模型的生成目标。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅