本文研究交互式智能体如何通过主动提问实现用户意图对齐。作者指出,澄清提问只有在智能体能将用户回答转化为更优决策时才有价值,而训练过程会改变智能体处理不完整信息的方式,使同一提问的价值随之变化。为此,作者提出CLEAT框架,将澄清价值控制器与任务策略基于共享交互结果进行协同训练,并定义“残差查询价值”来衡量提问相对于直接执行所带来的任务效用增益,通过同一交互历史下的配对采样进行估计。在Qwen3-4B上,CLEAT在四个基准的十项评测设置中均取得最高平均分,在UserGym Travel和IN3欠指定判断准确率上分别超出最强基线13.2和6.5个百分点。消融实验表明,协同训练即使移除控制器仍能提升任务策略,而让澄清指导随策略演化动态调整可带来额外收益。
| CLEAT | 一种通过价值引导的智能体协同训练框架,用于交互式智能体的澄清学习。 |
| 残差查询价值 | 衡量在当前策略下,通过询问而非直接执行所获得的任务效用增益。 |
| 协同训练 | 同时训练澄清价值控制器和任务策略,利用共享的交互结果进行优化。 |
| 交互式意图对齐 | 通过澄清对话使智能体行动与用户未明确表述的目标和约束保持一致。 |
| 欠规范判断 | 识别用户指令中信息不完整或模糊的情况,以决定是否需要澄清。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅