像素扩散新突破：一半参数逼近SOTA，FID仅1.91！
Persistence Forcing: Exploiting Feature Specialization in Pixel-Space Diffusion
📖 AI 总结
本文研究像素空间扩散Transformer（DiT）中隐藏特征的精细化方式。作者指出，自然图像在不同粒度上具有层次结构，全局结构可紧凑表示，而局部纹理需要更丰富的表示，但现有DiT对特征沿深度进行均匀细化，未体现这一差异。为此，作者提出异构细化策略，为不同特征组分配不同的细化预算，由此形成有序的特征分化：细化较少的“持久特征”主要编码全局视觉结构，细化较多的“活跃特征”则逐渐专注于局部高频细节。基于这一发现，作者提出Persistence Forcing（PerF），让持久特征持续条件化活跃特征，使稳定的全局信息引导细节的逐步细化，并在采样中形成有助于全局结构一致性的引导方向，与无分类器引导互补。在ImageNet 256×256上，PerF-L取得1.91的FID，以约一半参数量接近JiT-H的1.86；PerF-H进一步在256×256和512×512上分别达到1.63和1.76的FID。
🔑 关键词速览
| Pixel-space Diffusion Transformers (DiTs) | 直接在像素空间操作的扩散Transformer模型，无需潜在空间编码。 |
| Heterogeneous Refinement | 为不同特征组分配不同细化预算的异构处理策略。 |
| Persistent Features | 稀疏细化的特征，主要编码全局视觉结构。 |
| Active Features | 频繁细化的特征，专门化于局部高频细节。 |
| Persistence Forcing (PerF) | 利用持久-活跃特征组织进行图像生成的方法。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅