该论文提出了一种名为C3-UniMM的统一多模态建模框架,旨在解决现有方法在跨模态理解与生成中缺乏结构一致性约束的问题。作者引入了结构化潜在因果图作为共享的跨模态语义空间,并设计统一的多模态编码模块,使理解与生成在同一因果语义结构下协同优化。同时,论文提出统一解码空间,以增强跨模态生成过程中的结构保持与语义可逆性。理论分析表明,该方法显著提升了跨模态映射的可逆性与机制不变性。在多项理解、生成及组合泛化任务上的实验结果显示,C3-UniMM的性能优于现有统一多模态基线模型,为多模态人工智能的因果一致性建模提供了新思路。
| Causal Cycle Consistency | 因果循环一致性,一种确保跨模态映射在因果结构下可逆且机制不变的原则。 |
| Super Alignment | 超级对齐,一种通过共享语义空间和统一编码块实现多模态理解与生成协同优化的方法。 |
| Structured Latent Causal Graph (SLCG) | 结构化潜在因果图,一种作为共享跨模态语义空间的因果结构表示。 |
| Unified Decoding Space | 统一解码空间,一种在生成过程中保持结构完整性和语义可逆性的解码机制。 |
| Compositional Generalization | 组合泛化,指模型对未见过的模态组合或结构进行合理推断的能力。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅