高斯核近似突破流形分类饱和瓶颈，逼近误差直降γ^α量级！
Gaussian Approximation of Besov Functions for Logistic Classification on Manifolds
📖 AI 总结
本文研究在无边界连通紧致光滑嵌入流形上的高斯核逼近与正则化逻辑分类问题。针对贝叶斯函数无界条件下难以获得快速oracle不等式，以及高斯逼近易出现饱和效应两大挑战，作者首先借助常数线性依赖于预测器上确界范数的Bernstein型不等式，结合局部化复杂度估计，在可分赋范函数空间上建立了oracle不等式。其次，通过一致Sobolev算子展开，利用不同带宽下高斯核积分算子的带符号组合抵消低阶偏差项，再经实插值得到Besov空间B^α_{2,∞}(X)中函数阶为γ^α的L2逼近误差，并直接在流形上构造逼近子而无需环境延拓，使高斯RKHS范数平方上界为γ^{-ϱ}，从而克服二阶饱和并保持由内蕴维数控制的范数约束。当边缘分布密度属于Lp(X)时，得到逻辑超额风险收敛率，进一步对预测进行截断可获得更快的截断逻辑超额风险率；在有界密度情形下，其多项式指数与平方损失回归的极小极大最优率一致，相应的超额误分类风险也达到极小极大最优率。
🔑 关键词速览
| Besov 空间 | 一类刻画函数光滑性的函数空间，常用于非参数统计与逼近论。 |
| 高斯核近似 | 利用高斯核函数构造积分算子来逼近目标函数的方法。 |
| 逻辑分类 | 基于逻辑损失函数的二分类方法，输出概率预测。 |
| 内在维数 | 数据所在流形的固有维度，可能远小于环境空间维数。 |
| 超额风险 | 分类器的风险与贝叶斯最优风险之差，衡量学习算法的性能。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅