苹果研究团队提出了一种名为“基于选择的结构化推理”(SSR)的新框架,旨在解决多模态搜索智能体在推理过程中效率低下的问题。传统智能体在每次行动前需生成自由形式的推理内容,而小模型因容量有限,往往产生冗长却无助于行动的推理,导致推理成本高昂。SSR将推理过程重新定义为“选择”而非开放式生成:模型从预设的可复用自然语言推理候选中,根据当前上下文选择最合适的推理路径,无需额外任务头。这种设计支持并行评分,通过教师强制预填充和共享上下文KV缓存,实现候选内及候选间的并行计算。研究团队在七个多模态搜索基准上,使用2B和4B模型进行评测,涵盖多种强化学习目标和监督微调。结果显示,SSR在任务表现不降的前提下显著提升效率:平均成功率与同规模领先搜索智能体相当,每轮推理延迟降低超过90%,每题总模型推理延迟减少28%至54%。该工作为构建高效多模态搜索智能体提供了新思路。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅