🔥 今日值得一读 新图像编辑术:白改灰可改黑不改,精准控制随心所欲!
Overpainting: Localized Context-aware Diffusion Image Editing
arXiv CV (cs.CV) 🔥 重点 #图像编辑#扩散模型#局部编辑#LoRA 🕐 09-11 12:00
👨‍💼 主理人解读 · 为什么值得关注
用三值掩码精确控制编辑区域,兼顾严格与宽松编辑,适合修图工具与内容创作。

📖 AI 总结

这篇论文提出了一种名为“Overpainting”的图像编辑方法,旨在同时实现对编辑位置的精确定位和对该区域原有内容的感知。其核心创新在于引入三值掩码(trimap)机制:白色像素必须编辑,灰色像素可选编辑,黑色像素禁止编辑,从而兼顾精确与宽松两种控制需求。技术实现上,作者通过联合注意力机制与低秩适配,结合注意力丢弃策略,对预训练扩散编辑模型进行改造,以平衡噪声、源图像和掩码图像之间的信息流动。此外,论文还提出了一套自动化训练数据生成流程,利用现有语言编辑模型生成候选图像对,经筛选后提取三值掩码。该方法在多种编辑任务上展现出良好的通用性,为局部可控的图像编辑提供了新思路。

🔑 关键词速览

Overpainting一种图像编辑操作,允许在指定区域内进行编辑,同时考虑该区域原有的内容。
Trimap一种图像分割表示,将像素分为必须编辑(白色)、可以编辑(灰色)和不得编辑(黑色)三类。
Joint Attention一种注意力机制,允许模型同时关注多个输入(如噪声、源图像和掩码)之间的关联。
Low-rank Adaptation一种参数高效微调方法,通过低秩矩阵分解来适应预训练模型,减少可训练参数。
Attention-dropout在注意力机制中应用dropout,以平衡不同输入信息流,防止过拟合。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅