🔥 今日值得一读 扩散语言模型加持,深度研究端到端提速约6倍!
DiffResearch: Accelerating Deep Research with Diffusion Language Models
arXiv AI (cs.AI) 🔥 重点 Agent论文方法大模型 🕐 今天 12:00

📖 AI 总结

该论文提出DiffResearch,一个以扩散语言模型(dLLM)为核心的多智能体深度研究框架,旨在解决自回归模型因从左到右解码而导致的端到端延迟瓶颈。研究在保持智能体结构、检索代码、提示与评估不变的前提下,将骨干模型在扩散模型与自回归模型之间切换,并在100个Deep Research Bench任务上对比。结果显示,扩散骨干的端到端速度约快6倍,主要来自规划与长文写作阶段的数量级加速。作者还提出dFast分解模式,可在生成完成前读取中间去噪状态并提取子查询,单独使用时分解速度中位数提升1.99倍且报告质量无损,并在RACE评分标准下取得三种配置中的最佳总分。在公开系统级排行榜快照中,基于更强扩散模型的实例排名高于多个商业系统。该工作表明扩散语言模型可显著降低深度研究的交互延迟,并已以Apache-2.0许可开源。

🔑 关键词速览

DiffResearch一个开放的多智能体深度研究框架,将扩散语言模型置于每个阶段的核心。
扩散语言模型 (dLLM)一种基于扩散过程的语言模型,与自回归模型不同,它通过去噪生成文本。
自回归语言模型 (AR)传统的从左到右逐词生成的语言模型。
dFast一种分解模式,通过读取中间去噪状态在生成完成前提取子查询,加速分解过程。
Deep Research Bench一个用于评估深度研究系统性能的基准测试集。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅