Meta、麻省理工学院与华盛顿大学的研究人员提出上下文语言模型(CLM),将上下文视为可无限更新的动态文件,使大模型具备自主编辑上下文的能力,从而摆脱对人工设计的摘要、压缩和检索等外部机制的依赖。CLM可改写历史消息、保留关键事实、删除冗余信息,并支持通过自然语言指令引导管理策略,还能迭代生成可复用的上下文管理技能文档。研究探索了零样本、上下文学习和强化学习三种方式,实验显示性能与计算效率均有明显提升,例如零样本条件下在BrowseComp-Plus上准确率提升11.4%、浮点运算量减少21.5%,强化学习方案将Qwen3.5-9B准确率从28.8%提升至42.5%。该研究的意义在于把上下文管理从外部辅助控制转为模型内在行为,但作者也指出信息丢失、提示词注入等安全风险以及模型判断失误等未解难题,社区对其生产可用性仍存保留态度。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅