球面线性模型后验几何精确刻画,TAP误差仅O_P(p^{-1})!
TAP Accuracy Below the Fluctuation Scale and Universal Posterior Geometry in Spherical Linear Models
arXiv ML (stat.ML) 重要 #统计物理#高维统计#后验几何 🕐 09-18 12:00

📖 AI 总结

本文研究高维比例极限下贝叶斯最优球面线性模型的后验几何与TAP近似精度。作者在设计矩阵满足定量Marchenko–Pastur谱正则性条件下(该条件覆盖有限四阶矩的标准化独立同分布设计,但不要求逐元素独立或对奇异向量施加限制),证明了全温度下的定量TAP近似。关键结果包括:归一化球面自由能与TAP最优值之差为O_P(p^{-1}),二者各自与其显式确定性等价量之差为O_P(p^{-1/2}),且该涨落尺度是紧的;在所有全局TAP极大值点上一致地,到球面后验均值的归一化平方欧氏距离为O_P(p^{-1})。此外,作者刻画了由岭估计量确定的数据依赖带外后验质量,证明其对数上界为-cpε²+O_P(1),并通过球冠构造给出匹配的指数阶下界,同时证明当带宽ε_p远大于p^{-1/2}时该带渐近捕获全部后验质量。这些结果将TAP精确性推进到涨落尺度以下,并揭示了普适的后验几何结构。

🔑 关键词速览

TAP近似一种用于高维统计物理和贝叶斯推断的近似方法,通过消息传递或自由能展开来近似后验分布。
球面线性模型一种线性模型,其中参数向量被约束在单位球面上,常用于高维信号恢复和相位恢复等问题。
Marchenko-Pastur谱正则性条件对设计矩阵奇异值分布的一种定量条件,确保其经验谱分布接近Marchenko-Pastur律,从而控制谱的极端行为。
后验几何指贝叶斯后验分布在参数空间中的形状、集中性和质量分布等几何性质。
球冠构造一种通过构造球冠区域来估计后验质量下界的技术,常用于证明后验质量的指数阶下界。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅