收敛速率翻倍!经验MEM方法O(n^-1/2)碾压旧保证,随机梯度算法让大规模逆问题飞起!
On the Computational and Statistical Efficiency of the Empirical Maximum Entropy on the Mean Method
arXiv ML (stat.ML) 重要 #优化方法#理论分析#逆问题 🕐 08-31 12:00

📖 AI 总结

本文研究了经验最大熵方法(empirical MEM)在求解逆问题中的计算与统计效率。MEM方法通过结合数据保真项和熵正则化提供灵活框架,但实际中先验分布通常未知,需从数据估计。作者建立了经验MEM在期望意义下的参数收敛速率O(n^{-1/2}),显著优于此前King-Roskamp等人(2026)得到的O(n^{-1/4})保证。证明基于对原始和对偶优化问题在概率测度扰动下的新颖稳定性分析,仅依赖凸分析和概率论的基础工具。此外,研究还发现MEM对偶问题可重构为期望风险最小化问题,将其纳入现代随机优化框架,从而支持大规模逆问题中的可扩展随机梯度算法。这些结果共同确立了经验MEM作为数据驱动逆问题中兼具统计和计算效率的方法论。

🔑 关键词速览

Maximum Entropy on the Mean (MEM)一种通过最大化均值熵进行正则化来求解逆问题的方法。
empirical MEM基于数据估计先验分布的经验版本MEM方法。
parametric convergence rate参数收敛速率,指估计误差随样本量增加以特定幂次衰减的速度。
primal and dual optimization problems原始和对偶优化问题,是优化理论中相互关联的两种问题表述形式。
stochastic gradient algorithms随机梯度算法,一种通过随机采样梯度进行迭代优化的方法,适用于大规模问题。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅