🔥 今日值得一读
大模型推理白费算力？BELT砍掉41%生成token还不掉准确率！
Same Beliefs, Different Policies: Learning Reusable Representations for Early Stopping in LLM Reasoning
📖 AI 总结
该研究针对推理型大语言模型常在得出正确答案后仍继续推理、浪费算力甚至改错答案的问题，将“何时停止”视为元推理问题，提出BELT方法，把结果预测与停止控制解耦：先从冻结模型隐藏状态中学习关于当前与未来答案的信念表示，再在其上拟合线性停止策略。由于预测目标与token价格无关，同一探针可通过重拟合策略或调整阈值适配不同精度—成本权衡。在五个分布外数学基准上，BELT在Qwen3-1.7B和OLMo-3-7B-Think上分别减少41%和51%的生成token且不损失准确率；数学训练的模型无需代码或智能体数据即可迁移至编程与智能体任务，权衡表现不逊于端到端控制器。在OLMo3上，其探针参数量比最强基线OS-Pruner单个检查点少21.2倍，训练GPU时数少55倍。
🔑 关键词速览
| 元推理 (metareasoning) | 关于推理过程本身的推理，即模型对自身推理活动进行监控和调控，例如决定何时停止推理。 |
| BELT (BELief-based Termination) | 本文提出的方法，将结果预测与停止控制分离，基于冻结大语言模型的隐藏状态学习信念表示，并拟合线性停止策略。 |
| 分布外 (OOD, Out-of-Distribution) | 指测试数据分布与训练数据分布不同，用于评估模型的泛化能力。 |
| 探针 (probe) | 在冻结的模型特征上训练的小型预测器，用于提取特定信息（如答案正确性信念），而不改变原模型参数。 |
| 准确率-成本权衡 (accuracy-cost trade-off) | 在模型推理中，平衡答案准确性与计算成本（如生成token数量）之间的关系，寻求在可接受成本下最大化准确率。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅