单个GPU搞定390万星系光度红移，密度估计比肩最强表格模型！
Scalable Logistic Gaussian Process Density Regression with Kinetic Langevin Sampling
📖 AI 总结
本文提出一种可扩展的贝叶斯条件密度估计方法，基于逻辑高斯过程构建。模型对对数条件密度采用可分离协方差结构：响应维度使用圆上截断傅里叶基表示的Matérn核，协变量维度则通过Nyström特征表示，并支持具有输入依赖幅度和长度尺度的非平稳核。与拉普拉斯近似或变分推断不同，作者直接对有限特征模型的隐场进行采样；在给定超参数下，其后验具有强对数凹性和一致有界的Hessian矩阵，因而可通过在Kronecker白化坐标中模拟带对称小批量分裂的动能Langevin动力学来抽样。边际似然梯度依据Fisher恒等式以后验期望形式给出，其偏差由采样步长和运行长度控制，预测时对非高斯潜后验求平均而非围绕众数的高斯近似。在包含多达390万训练样本的光度红移基准上，该方法仅用单块GPU训练，在密度与校准指标上即可与当前最先进的表格基础模型相竞争，显示出良好的可扩展性与实用价值。
🔑 关键词速览
| 逻辑高斯过程 | 一种用于条件密度估计的贝叶斯非参数模型，通过对数密度建模为高斯过程。 |
| 动能 Langevin 采样 | 一种基于哈密顿动力学的 MCMC 采样方法，通过引入动量变量加速收敛。 |
| Nyström 特征 | 一种低秩近似方法，用于大规模核矩阵的特征表示，降低计算复杂度。 |
| Fisher 恒等式 | 一个将边际似然梯度表示为后验期望的恒等式，用于贝叶斯推断中的梯度计算。 |
| 光度红移 | 通过星系的多波段测光数据估计其红移，常用于天文学中大规模星系巡天。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅