思维链推理只看对错?新方法追踪答案分布轨迹,竟能区分成功与失败的推理模式!
Answer-Distribution Trajectories: A Stochastic-Dynamics View of LLM Reasoning
arXiv LG (cs.LG) 重要 #推理分析#LLM#随机过程 🕐 09-08 12:00

📖 摘要

提出答案分布轨迹,以随机动力学视角追踪LLM推理过程。

🔑 关键词速览

Answer-Distribution Trajectories一种表示方法,追踪推理过程中模型对答案的完整预测分布,以揭示推理的动态过程。
Chain-of-thought reasoning一种推理方法,通过生成中间步骤来连接输入和最终答案,增强模型的推理能力。
Entropy profiles追踪推理过程中不确定性演变的度量,但无法识别导致不确定性的具体假设。
Stochastic dynamics一种研究系统随时间演变的视角,强调随机性和动态过程,此处用于类比推理过程。
Dynamical reasoning profile描述推理轨迹特征的框架,包括探索、修正、运动和承诺等动力学属性。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅