长程相关数据学习理论突破：精确路径速率揭示学习误差几何！
Weighted Empirical Risk Minimization for Machine Learning under Long-Range Dependence: Exact Pathwise Rates and Learning-Error Geometry
📖 AI 总结
该研究针对长程依赖数据下、采用正则加权经验风险最小化训练的平滑参数模型，建立了一套精确的几乎必然学习理论。训练观测取自平稳高斯序列的固定有限窗口，样本权重为正规变化函数。核心发现是：当总体最优点的损失梯度具有Wiener混沌秩m且低频系数非零时，在长记忆内部区域，有限滞后得分在迭代对数尺度上约化为单一加权Hermite混沌，由此得到几乎必然的Bahadur表示、学习参数的精确上极限律，以及m≥2时完整学习轨迹的泛函聚簇集。多项式学习指数由记忆参数与混沌秩共同决定，且在容许幂加权下保持不变，而精确路径常数与聚簇几何则依赖权重。秩一情形下对容许幂指数的全局优化表明所有最优解均为正。时间序列预测与分类示例验证了上述结果。
🔑 关键词速览
| 长程相关 | 一种时间序列中相隔很远的观测值仍存在显著相关性的现象，也称长记忆性。 |
| 加权经验风险最小化 | 在经验风险最小化中对不同样本赋予不同权重的学习方法。 |
| 维纳混沌秩 | 在维纳混沌展开中，表示随机变量或函数的最低阶非零项的次数。 |
| Bahadur 表示 | 一种将统计估计量表示为线性项和余项之和的渐近展开，用于分析估计量的性质。 |
| 几乎必然 | 概率论中描述事件以概率1发生的性质，即事件发生的概率为1。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅