神经网络不确定性传播新突破！闭式公式+递归方程，Lorenz-63和Kuramoto-Sivashinsky实测准确，高维系统也能搞定！
Uncertainty propagation in auto-regressive random neural network models
📖 AI 总结
该研究提出了一种在随机神经网络模型中传播不确定性的分析与粒子方法，其中输入和网络参数均被视为随机变量。基于Leaky ReLU激活函数的分段线性结构，作者推导了网络输出对输入和参数扰动的局部近似，该近似在激活模式不变时精确，并据此得到输出概率密度函数、特征函数及均值协方差的解析表达式。研究进一步将该框架扩展到由随机神经网络表示一步演化映射的自主动力系统，通过重复映射形成自回归模型，并推导出随时间递归传播状态与参数不确定性的方程，显式考虑了迭代中产生的状态-参数交叉协方差。在Lorenz-63系统和Kuramoto-Sivashinsky方程上的数值实验表明，该方法能在可预测性时域内实现准确传播，并适用于高维动力系统。
🔑 关键词速览
| Uncertainty propagation | 不确定性传播，指通过模型将输入或参数的不确定性传递到输出的过程。 |
| Auto-regressive model | 自回归模型，一种利用过去值预测当前值的统计模型，此处指随机神经网络映射的迭代应用。 |
| Leaky ReLU | 带泄漏的修正线性单元，一种分段线性激活函数，允许负输入有小斜率。 |
| Piecewise-linear structure | 分段线性结构，指函数在不同区间由线性函数定义，便于解析处理。 |
| Cross-covariance | 交叉协方差，衡量两个随机变量（如状态和参数）之间相关性的统计量。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅