🔥 今日值得一读
大模型解数学题一加无关从句就崩，四阶段流水线揪出操作规划这一脆弱环节！
A Four-Stage Decomposition of Word-Problem Solving and Mechanistic Fragility in LLM Math Reasoning
📖 AI 总结
这篇论文针对大语言模型在小学数学应用题上表现出的矛盾现象——常规题目准确率很高，却会被一个无关从句轻易击溃——提出了机制层面的解释。作者发现，模型的内部计算可分解为四个依次进行的阶段：图式抽象、运算规划、操作数绑定和计算，每个阶段在特定层段中生成各自独立的中间表示。借助这一框架，研究者进一步定位了干扰项引发失败的根源，发现错误集中发生在运算规划这一单一阶段，并由一组注意力头负责实现，其因果作用通过双向验证得到确认。该工作为理解大模型数学推理及其受干扰时的脆弱性提供了机制性视角，也提示模型能力与鲁棒性之间存在结构性张力。
🔑 关键词速览
| 四阶段分解 | 将数学应用题求解过程分解为模式抽象、操作规划、操作数绑定和计算四个顺序阶段。 |
| 模式抽象 | 从问题文本中提取问题类型或结构模式的阶段。 |
| 操作规划 | 确定解决问题所需数学运算序列的阶段，也是干扰项导致失败的关键阶段。 |
| 操作数绑定 | 将具体数值与规划中的操作数变量关联起来的阶段。 |
| 注意力头 | Transformer模型中执行注意力机制的并行计算单元，此处特指实现操作规划的一组头。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅