🔥 今日值得一读 推理增强重建让多模态模型边理解边生成,双任务同步提升!
ReasonUni: Reasoning-Augmented Reconstruction Advances Unified Multimodal Models
arXiv CV (cs.CV) 🔥 重点 #多模态#统一模型#训练方法 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
可用于提升统一多模态模型在图像理解与生成中的结构推理能力,改善编辑指令遵循。

📖 AI 总结

该论文提出ReasonUni,一种面向统一多模态模型(UMMs)的推理增强重建式后训练框架。现有基于重建的方法多聚焦于感知层面,对结构、意图与变换的推理监督不足。ReasonUni将图像理解与图像生成这对对偶任务通过推理环节更紧密耦合:模型先根据原图与编辑指令推理应编辑什么、如何编辑,并描述目标状态,再据此生成目标图像。为联合优化理解与生成两个模块,作者提出TreeGRPO——一种树结构强化学习方法,对每条推理路径采样多个候选图像,聚合视觉奖励后以统一目标更新双模块。多基准实验表明,该框架在理解与生成任务上均取得一致提升,证明推理增强的重建能为统一多模态模型带来真正的互益效果。

🔑 关键词速览

UMM (Unified Multimodal Model)统一多模态模型,指在同一模型中同时具备图像理解与图像生成能力的模型。
ReasonUni本文提出的推理增强重建式后训练框架,让模型先推理编辑意图再生成目标图像。
TreeGRPO一种树结构强化学习方法,通过采样多条推理路径与候选图像并聚合视觉奖励来联合优化理解与生成模块。
Reconstructive Post-training重建式后训练,一种利用图像重建任务对预训练多模态模型进行后续训练的策略。
I2T / T2I图像到文本理解与文本到图像生成,是统一多模态模型中的一对对偶任务。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅