新算法二重采样让DAG采样混合效率碾压SOTA还不加计算成本!
Generalizing Metropolis-Hastings for DAG Sampling
arXiv LG (cs.LG) 重要 #MCMC#贝叶斯网络#结构学习 🕐 今天 12:00

📖 AI 总结

该论文针对贝叶斯网络结构学习中大规模高维数据下DAG后验分布难以高效近似的问题,提出了一类新的马尔可夫链蒙特卡洛方法。核心创新是“二重采样”(duet sampling),即对Metropolis-Hastings算法的推广:每次迭代从候选池中选取两个提议分布,一个用于生成候选状态,另一个用于评估返回当前状态的概率,二者共同构成接受准则。这种配对方式在不增加计算成本的前提下为构造混合更高效的马尔可夫链提供了额外自由度。作者据此设计了可同时为多个节点重新采样父节点的移动操作。实验表明,这些新移动无论单独使用还是组合使用,均优于此前依赖更受限移动池的先进方法,且即使让旧方法也采用二重采样加以增强,新方法的优势依然保持。该工作为高维DAG后验采样提供了更高效的通用框架。

🔑 关键词速览

贝叶斯网络结构学习从数据中学习变量间依赖关系的有向无环图模型的过程。
有向无环图 (DAG)一种没有有向循环的图结构,常用于表示变量间的因果关系。
马尔可夫链蒙特卡洛 (MCMC)一类通过构建马尔可夫链来从复杂概率分布中采样的算法。
Metropolis-Hastings 算法一种通用的MCMC方法,通过提议分布和接受准则生成样本。
二重采样 (duet sampling)本文提出的新方法,每次迭代使用两个不同的提议分布分别用于生成候选和评估返回。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅