🔥 今日值得一读 视觉令牌歧义真相曝光!SJD-SV即插即用,图像生成加速性能飙升
SJD-SV: Speculative Jacobi Decoding with Semantics Verification for Autoregressive Image Generation
arXiv CV (cs.CV) 🔥 重点 #自回归生成#推理加速#推测解码 🕐 09-15 12:00
👨‍💼 主理人解读 · 为什么值得关注
解决图像生成中token歧义导致的验证错误,可加速自回归图像模型推理并提升质量。

📖 AI 总结

本文针对自回归图像生成中的加速方法——推测性雅可比解码(SJD)展开研究。作者通过可视化分析发现,SJD在token验证阶段普遍存在token歧义问题,其根源在于视觉token与文本token不同,通常只对应局部、微小且不清晰的视觉细节,单一token难以准确表达完整语义。为此,作者提出SJD-SV方法,利用token之间的强校正特性识别语义感知的token子序列,将验证从逐token级别提升到语义子序列级别,从而加速图像生成。该方法具有即插即用特性,可直接集成到现有SJD及其变体中。在多个数据集上的实验表明,集成SJD-SV后,现有SJD方法均取得显著性能提升。该工作已被ICML 2026接收。

🔑 关键词速览

Speculative Jacobi Decoding (SJD)一种用于加速自回归图像生成的投机解码方法,通过并行验证多个令牌来减少生成步骤。
Token Ambiguity令牌歧义,指单个视觉令牌因对应局部模糊细节而难以准确表达语义,导致验证时出现歧义。
Semantics Verification语义验证,在语义感知的令牌子序列级别进行验证,而非逐令牌验证,以提高效率和准确性。
Autoregressive Image Generation自回归图像生成,一种按顺序逐个生成图像令牌的生成模型范式。
Plug-in即插即用,指该方法可无需修改直接集成到现有SJD及其变体中。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅