神经网络均值+Matérn核修正，低数据误差5.38%碾压6.49%，OCO-2两波段反超高斯过程！
Neural means and kernel corrections for operator learning
📖 AI 总结
该研究提出将神经网络均值与精确Matérn核回归相结合的方法，用于算子学习中的残差和特征校正，并在两个公开基准问题上验证了效果。在结构力学基准上，该方法达到4.55%的测试误差，与最佳架构持平；在低数据场景下误差为5.38%，优于已发表的6.49%。在OCO-2辐射传输模拟器上，该方法在三个光谱波段中的两个上优于已发表的高斯过程模拟器。研究发现，同一核函数在原始状态上落后神经网络十倍，但在网络特征上反超，原因是目标函数的平方原生空间范数在固定有效维度下下降约四十倍，并给出了理论证明。此外，残差相关性分析表明，各架构间的共享成分与数据特性相关，而非模型差异。研究还提供了预测堆叠结果的二阶矩恒等式、最优恢复证明及分布无关覆盖带等支持性结果。
🔑 关键词速览
| Matérn kernel | 一种用于高斯过程和核回归的协方差函数，具有平滑度参数，适用于多种空间统计和机器学习任务。 |
| operator learning | 学习从函数空间到函数空间的映射，常用于求解偏微分方程或模拟物理系统。 |
| emulator | 一种快速近似模型，用于替代昂贵的数值模拟或物理实验，常用于参数估计和不确定性量化。 |
| residual | 模型预测值与真实值之间的差异，残差分析用于改进模型或评估拟合质量。 |
| coverage band | 一种不确定性区间，保证在给定概率下覆盖真实值，常用于模型预测的可靠性评估。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅