新指标MPE量化记忆预测价值，最小记忆长度被马尔可夫阶锁定！
Memory Prediction Excess: A Probabilistic Quantity for Predictive Gain and Memory Length in Stochastic Processes
📖 AI 总结
本文提出"记忆预测超额"（MPE）这一概率量，用于量化随机过程预测中历史信息的实际价值。MPE定义为利用全部观测历史所获得的最优条件预测精度，与仅依赖静态边缘分布的最优预测精度之差，衡量的是记忆带来的平均预测增益。作者证明了MPE的基本性质：其值恒非负；存在依赖静态精度的上界，且该上界当且仅当未来几乎是过去的确定性函数时取到；并刻画了MPE退化为零的情形。文章进一步引入归一化版本，取值于单位区间，作为预测效率的无量纲度量，并通过比较不同长度历史的预测表现导出下界，证明期望最优预测精度随历史长度单调递增。该框架被推广至有限长度历史，提出有限历史MPE及"最小记忆长度"概念，即达到与完整历史同等预测性能所需的最短历史。对于有限阶马尔可夫链，作者证明该最小记忆长度受马尔可夫阶数约束。整体而言，该工作从条件概率与预测精度出发，为记忆的预测效用提供了区别于经典信息论视角的概率论分析工具。
🔑 关键词速览
| Memory Prediction Excess (MPE) | 一种量化指标，衡量使用全部历史相对于仅使用静态分布对预测准确率的平均提升。 |
| Finite-History MPE (FH-MPE) | MPE的扩展，用于衡量仅保留最近有限次观测时所能获得的预测增益。 |
| Minimal Memory Length | 达到与使用全部历史相同预测性能所需的最短历史长度。 |
| Finite-Order Markov Chains | 一种随机过程，其未来状态仅依赖于最近固定数量的过去状态。 |
| Predictive Efficiency | 归一化后的MPE，取值在0到1之间，表示预测效率的无量纲度量。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅