均值中位数估计被颠覆！非凸法突破凸估计极限，鲁棒性逼近理论预言
Median-of-Means as an Extremal Convex Estimator and a Nonconvex Route to the Trimmed Oracle
📖 AI 总结
该研究从确定性优化视角重新审视了均值中位数估计，提出了一类分块Lp估计器，用于处理重尾和对抗性损坏数据的稳健学习。在分块污染模型下，研究证明所有凸分块M估计器的最坏情况稳健常数至少为1/(1-2ε)，与经典均值中位数界一致，同时表明修剪分块预言常数1/(1-ε)无法在凸类中实现。为此，研究者引入p介于0到1之间的非凸分块Lp族，其有限样本确定性稳健界随p减小而连续逼近预言常数；在温和分离条件下，全局极小点与预言估计器一致。此外，该目标函数具有良性景观，局部极小点均接近真实值。结合分块级集中性，研究在有限2+δ矩条件下获得次高斯偏差界，并扩展到高维稳健均值估计和稀疏回归问题。
🔑 关键词速览
| Median-of-Means | 一种鲁棒统计估计方法，通过将数据分成多个块并取各块均值的中位数来抵抗异常值。 |
| block-Lp estimator | 一种基于块划分的Lp范数估计器，通过调整p值（0到1之间）在鲁棒性和效率之间权衡。 |
| trimmed-block oracle | 一种理想化的估计器，假设知道哪些块是好的，并仅使用这些块进行估计，提供鲁棒性的理论下界。 |
| robustness constant | 衡量估计器在数据污染下最坏情况误差的常数，越小表示鲁棒性越好。 |
| sub-Gaussian deviation bounds | 一种概率不等式，描述估计误差以指数速度衰减，类似于高斯分布的尾部行为，常用于高维统计。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅