本文提出一种半摊销贝叶斯推断方法,旨在解决高维、依赖结构复杂的模型中难以学习完整联合后验的问题。该方法将参数划分为较小的块,利用条件独立性确定推断每个块所需的信息,并针对后验更新计算昂贵或频繁重复的块训练神经估计器。每个估计器通过模拟相关模型组件,在给定相关观测值及其依赖变量取值的条件下,近似该块的全条件后验。随后,马尔可夫链交替使用这些估计器直接抽样与其余变量的传统更新,每次神经更新仅依赖当前条件值,无需似然评估或接受拒绝步骤。当相同条件结构反复出现时,单个估计器可跨块和数据集复用,其输出维度由块而非整个模型决定。作者在高维且计算昂贵的分层模型和时空模型中展示了该方法的有效性。
| 摊销贝叶斯推断 | 一种利用模拟训练神经网络来快速近似后验分布的方法,避免对每个新数据集重新进行昂贵的推断。 |
| 半摊销方法 | 结合摊销学习和传统MCMC的方法,仅对部分参数块使用神经估计器,其余参数仍用传统更新。 |
| 全条件后验 | 在给定所有其他变量和观测数据的条件下,单个参数块的后验分布。 |
| 马尔可夫链 | 一种通过迭代抽样来探索后验分布的随机过程,常用于MCMC方法中。 |
| 分层模型 | 一种统计模型,其中参数本身具有层次结构,通常用于处理分组数据或嵌套数据结构。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅