高斯过程首次实现大规模精确推断,训练成本仅O(n log²n)!
Adaptive multi-resolution Gaussian processes: Scalable exact inference with naturally data-sparse covariance matrices
arXiv ML (stat.ML) 重要 #高斯过程#可扩展推断#概率机器学习 🕐 今天 12:00

📖 AI 总结

这篇论文提出了一种自适应多分辨率高斯过程框架,旨在解决高斯过程在大规模数据集上难以兼顾计算效率与模型精度的问题。其核心创新在于构建具有自适应多分辨率基函数的天然数据稀疏协方差矩阵,基函数直接锚定于样本点,无需引入辅助点,并通过缩小支撑域限制矩阵块大小以保证稀疏性。协方差矩阵的逆通过稀疏Cholesky求逆算法精确高效计算,同时引入增广基函数以改善预测不确定性。理论分析与数值实验表明,该模型可实现精确推断,训练成本为O(n log² n),预测成本为O(log^d n),为可扩展且高保真的高斯过程回归提供了有原则的框架。

🔑 关键词速览

高斯过程一种概率机器学习模型,用于对函数分布进行建模,常用于回归和分类任务。
自适应多分辨率基函数一种能够根据数据自适应调整分辨率的基函数,用于构建稀疏协方差矩阵。
数据稀疏协方差矩阵一种协方差矩阵,其非零元素自然稀疏,无需额外近似即可实现高效计算。
稀疏Cholesky逆算法一种利用矩阵稀疏性高效计算Cholesky分解及其逆的算法。
增广基函数在原有基函数基础上扩展的基函数,用于提高预测不确定性的估计精度。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅