变分推断新突破！潜空间后验更灵活，重建指标全面提升
Amortized Structured Stochastic Variational Inference for Gaussian Process Latent Variable Models
📖 AI 总结
该研究聚焦高斯过程潜变量模型（GPLVM）中的不确定性估计问题。GPLVM通过高斯过程从潜空间到数据空间的映射来刻画数据所在低维流形的不确定性，但其估计效果受限于高斯过程诱导点与潜变量之间的均值场变分近似，即二者被假设为相互独立。为此，作者引入摊销结构化随机变分推断方法，使潜空间的变分后验能够以诱导点的取值为条件，从而构建更灵活的变分分布。实验表明，这一改进在数据流形上多个与重构相关的评价指标上均取得提升，说明放松均值场假设有助于更准确地恢复数据流形结构。该工作为提升高斯过程潜变量模型的不确定性建模能力提供了可行路径。
🔑 关键词速览
| 高斯过程潜变量模型 (GPLVM) | 一种利用高斯过程从低维潜空间映射到高维数据空间的生成模型，可同时进行降维并量化流形的不确定性。 |
| 摊销变分推断 (Amortized VI) | 一种变分推断技术，通过共享的推断网络直接预测每个数据点的变分后验参数，避免对每个数据点单独优化，从而提升计算效率。 |
| 结构化变分推断 (Structured VI) | 一种变分推断方法，其变分后验分布不采用完全因子化的平均场形式，而是保留变量之间的依赖关系，以更准确地近似真实后验。 |
| 诱导点 (Inducing Points) | 高斯过程稀疏近似中引入的一组伪输入点，用于降低计算复杂度并构建变分下界。 |
| 平均场近似 (Mean-field Approximation) | 一种变分推断中常用的简化假设，假设潜变量之间相互独立，从而将联合后验分解为各变量边缘分布的乘积。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅