混合模型估计新突破:局部收敛速度可快数倍,最坏情况不再是唯一标准
Characterizing Heterogeneous Rates in Finite Mixture Estimation via Partial Optimal Transport
arXiv ML (stat.ML) 重要 #混合模型#最优传输#收敛速率#统计理论 🕐 09-16 12:00

📖 AI 总结

本文研究有限混合模型中参数估计的收敛速率问题。作者指出,传统基于Wasserstein距离的分析只能刻画最坏情况下的收敛速率,无法反映局部异质性——即孤立成分的估计速度可能远快于相互竞争的成分组。为此,作者提出基于Voronoi划分的部分最优传输(VPOT)框架,将两个混合测度的比较局部化到扩展Voronoi邻域,并利用部分最优传输处理局部限制质量不等的问题。在该框架下,损失函数中一阶POT差异的幂次由局部竞争原子的数量决定,从而使损失自适应于局部奇异程度。在适当正则性与强可辨识条件下,作者建立了最大似然估计在VPOT损失下的局部与全局上界,揭示出依赖于具体配置的估计行为:奇异程度较低的局部配置收敛更快,而最奇异配置则退化为经典最坏情况速率。作者进一步给出极小极大下界,证明该速率在VPOT损失下是最优的。该结果适用于任意固定维度,且不要求混合比例一致有界远离零,也无需预先知道真实混合成分数。

🔑 关键词速览

有限混合模型一种统计模型,假设观测数据来自若干个成分分布的混合,每个成分对应一个子群体。
部分最优传输最优传输的一种变体,允许质量不完全匹配,适用于比较总质量不等的测度。
Voronoi邻域基于Voronoi图划分的空间区域,每个区域由距离某个中心点最近的点组成,用于局部化比较。
最大似然估计器一种参数估计方法,选择使观测数据出现概率最大的参数值。
极小极大下界在统计决策理论中,衡量任何估计器在最坏情况下风险的最小可能值,用于证明估计速率的最优性。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅