该论文提出LAMB框架,用于解决长时程语言智能体在记忆压缩中容易丢失证据、过早舍弃合理假设的问题。其核心是将信念状态表示为潜在的多假设结构,通过Common-Delta分解把共享的交互证据与加权的竞争性假设分量结合起来,并利用动作-结果预测产生的相对证据驱动假设的循环更新,无需生成文本记忆;默认配置下以固定token的信念前缀将各假设分别暴露给策略,信念模块与策略通过动作模仿及辅助的状态、结果、观测区分目标联合训练。在ALFWorld、BabyAI、ScienceWorld和Crafter四个环境上的实验显示,LAMB达到或超过PABU,其中ALFWorld的SR@30和ScienceWorld成功率分别提升6.0和22.0个百分点,Crafter成就进度提升26.37点,ALFWorld冗余动作率下降17.70个百分点。结果表明潜在多假设信念可作为紧凑记忆支撑有效的长时程决策。
| LAMB | 一种用于长时程语言智能体的循环框架,通过潜在多假设信念实现紧凑记忆。 |
| Common–Delta factorization | 一种分解方法,将共享的交互证据状态(Common)与表示竞争性假设的加权组件(Delta)相结合。 |
| belief-state methods | 一类通过维护信念状态来编码记忆的方法,信念状态表示智能体对未观测状态的信念。 |
| long-horizon language agents | 需要在长时间跨度内执行多步决策和交互的语言模型智能体。 |
| PABU | 一种基线方法,用于与LAMB在多个环境中的性能进行比较。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅