秩1拟合把0.9998质量压在重复坐标上，预测程序却用0.992新息方差精准命中信号！
Least Squares for Time Series Forecasting
📖 AI 总结
这篇论文比较了时间序列预测中两种基于最小二乘的建模思路：一种直接最小化解码潜变量在待报告坐标上的预测误差，另一种则先以固定秩拟合完整的下一时刻向量、再冻结编码器并附加预测头。作者从理论上证明，在标量目标和线性解码器条件下，秩不低于一的潜变量表示与普通最小二乘等价，各向同性约束仅相当于重缩放，重新拟合解码器后预测结果不变。关键实验显示，在一个后三个坐标共享同一自回归结构的四维序列上，秩一向量拟合将0.9998的权重集中在重复坐标上，对剩余信号的预测误差为边缘方差2.794，而预测程序将全部权重放在信号上，误差仅为0.992；秩二时两种方法结果一致。研究还发现，将拟合的单步系数0.803反复迭代，开环误差会从一步的0.992迅速升至八步的2.700。该工作揭示了表示学习目标与预测目标之间的错位，对时间序列模型的设计具有参考意义。
🔑 关键词速览
| LeNEPA | 一种时间序列预测方法，通过回归下一个潜在变量来定义表示损失。 |
| 最小二乘 | 一种数学优化技术，通过最小化误差平方和来拟合模型。 |
| 潜在变量 | 在统计模型中不能直接观测但可通过其他变量推断的变量。 |
| 自回归 | 一种时间序列模型，其中当前值基于其自身过去的值进行预测。 |
| 新息方差 | 时间序列模型中不可预测部分（新息）的方差，反映预测误差。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅