切片采样提速新算法:自动调参不靠猜,性能稳到飞起!
Optimal Slice-Adaptive Tuning of Hybrid Slice Sampling
arXiv ML (stat.ML) #MCMC#采样#调参 🕐 09-08 12:00

📖 AI 总结

本文研究混合切片采样算法中切片宽度参数w的自适应调优问题。切片采样是一种马尔可夫链蒙特卡洛方法,通过从目标密度函数的超水平集(即“切片”)中均匀采样来生成下一状态,从而实现对目标尺度变化的自动局部适应。然而,实际应用中精确切片未知,通常需从长度为w的初始区间出发逐步扩展近似切片,计算成本与w密切相关。作者分析了在目标切片连续条件下,不同切片查找方案的平均每次迭代目标密度评估次数与w的函数关系,并基于此提出自动化、切片自适应的调优方案,同时给出次优性界和渐近收敛保证。模拟实验表明,该调优方案能稳定获得接近最优的切片自适应效果,且几乎不依赖w的初始设置。

🔑 关键词速览

Slice sampling一种马尔可夫链蒙特卡洛采样方法,通过从目标密度的超水平集(切片)中均匀采样来更新状态。
Hybrid slice sampling结合多种切片查找策略的切片采样变体,旨在提高采样效率。
Slice-adaptive tuning自动调整切片采样参数(如起始区间长度)以优化性能的方法。
Markov chain Monte Carlo (MCMC)一类通过构造马尔可夫链来从目标分布中采样的算法,用于数值积分和统计推断。
Super-level set函数值大于或等于某一阈值的集合,在切片采样中即目标密度高于当前水平的区域。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅