维度随样本涨也不怕！新方法搞定未知相依设计下的可加回归，速率匹配还无额外误差！
Minimax Additive Regression under Unknown Dependent Designs
📖 AI 总结
本文研究在未知相依设计下的加性回归问题，允许协变量在[0,1]^d上服从非乘积分布，且维度d可随样本量n增长。作者引入耦合光滑类，分别控制边缘密度与密度加权加性分量的正则性，并改造了函数型方差分析模型中的Riesz基构造，在联合密度一致有界条件下建立了与维度无关的相容性界。基于阈值最小二乘估计量，作者在适当的维度增长条件下，针对边缘密度已知与未知两种情形给出了匹配的极小极大上界与下界。关键发现是：当边缘密度至少与加权分量同样光滑时，未知密度问题可达到已知密度的极小极大速率；当密度较不光滑时，其正则性决定耦合类上的极小极大速率。此外，中心化加性分量可在相同聚合上界速率下恢复，且不产生额外阶误差。该结果为高维相依设计下的加性回归提供了完整的速率刻画。
🔑 关键词速览
| 可加回归 | 一种回归模型，其中响应变量被建模为多个单变量函数的和，每个函数对应一个预测变量。 |
| 非乘积随机设计 | 指预测变量的联合分布不能分解为各自边缘分布的乘积，即变量之间存在相依性。 |
| 耦合光滑类 | 一种函数类，同时控制边缘密度和密度加权可加分量的光滑性，并允许两者之间的相互影响。 |
| Riesz 基 | 函数空间中的一组基，使得函数可以表示为基函数的线性组合，且系数与函数的内积有界关系。 |
| 极小极大速率 | 在统计决策理论中，估计量风险的最优收敛速度，即最坏情况下的最小风险上界。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅