该研究系统评估了大型推理模型在日常逻辑推理中的表现,并将其与非推理模型在受控提示条件下进行对比。研究团队构建了基于语言学和语用推理现象的基准测试,发现三个关键结果:当日常推理偏离形式逻辑规则时,推理模型的表现往往下降;部分采用思维链提示的非推理模型在日常推理任务上反而优于同类推理模型;额外指令提示对推理行为的控制作用有限。这些发现表明,当前推理模型尚不能可靠地捕捉日常推理模式,暴露出后训练阶段的局限,提示需要改进训练目标并在多样化推理形式上加强评估。
| Large Reasoning Models (LRMs) | 利用测试时计算(如思维链、自我反思)来增强推理能力的大型语言模型。 |
| Test-time Computation | 在模型推理阶段(而非训练阶段)分配额外计算资源以提升输出质量的技术。 |
| Everyday Logical Reasoning | 日常生活中的逻辑推理,常依赖语用和语境,偏离形式逻辑规则。 |
| Chain-of-Thought Prompting | 通过提示引导模型逐步展示推理过程,以提升复杂任务表现的方法。 |
| Post-training | 在预训练模型基础上进行的进一步训练(如指令微调、强化学习),以对齐下游任务。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅