新模型复现人类归纳学习,AI推理效率碾压纯LLM!
Induction and Inquiry via Probabilistic Reasoning over Language and Code
arXiv AI (cs.AI) 重要 #认知科学#概率推理 🕐 09-03 12:00

📖 AI 总结

该研究提出了一种结合自然语言与源代码的“心智程序”计算模型,用以解释人类如何从稀疏、流式的噪声数据中高效获取和更新抽象知识。模型通过LLM引导的贝叶斯学习算法顺序推断心智程序,同时满足数据与计算效率、不确定性表达以支持主动探究、以及表征无限概念所需的灵活性三个关键条件。在多项行为实验中,该模型成功复现了人类归纳学习与主动探究的定量特征,包括锚定效应和花园路径效应等。相比之下,纯大语言模型或经典贝叶斯模型要么无法完成任务,要么无法匹配人类行为,要么计算成本过高。研究提示,人类持续增长知识的一种方式是在类语言与类程序表征间维持多重假设,并以近似贝叶斯方式修正,而底层神经机制(LLM)使这种推理在计算上可行且可学习。

🔑 关键词速览

LLM-guided Bayesian learning一种结合大型语言模型与贝叶斯推断的学习算法,利用LLM生成假设并指导概率更新。
mental programs将知识编码为结合自然语言和源代码的内部表征形式,用于模拟人类概念推理。
anchoring认知偏差,指个体在推断时过度依赖初始信息或假设的现象。
garden-pathing认知现象,指在理解或推理过程中被初始解释误导,导致暂时性错误。
Bayesian updates基于贝叶斯定理,根据新证据修正假设概率的过程。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅