精确优化≠好子空间！在线核监督PCA揭示预测性能与总体恢复的惊人脱节
Online Supervised Dimension Reduction with Random Features: Diagnostics and Computational Trade-offs
📖 AI 总结
本文研究在线核监督主成分分析（OKSPCA）中优化精度与表示质量之间的区别。该方法在有限随机特征坐标下结合中心化交叉矩与Adam式正交基更新。作者通过固定映射一致性、集中性和扰动分析刻画估计量及其子空间，并开展同目标比较以单独评估实际迭代结果。在六个预测基准上，研究发现性能取决于所声明的流程：用精确经验目标替换跟踪器后，两个回归缺陷基本不变；直接分类秩模型平均可捕获几乎所有终端目标能量，但保存的中间状态存在显著几何偏差。在数值服务负载测试中，精确按需计算在分类场景更快，而Adam在某些稠密宽回归请求中相对完整薄SVD服务节省时间，但伴随持续几何误差。这些诊断表明，仅凭终端优化精度无法解释结果，需区分数值成本与质量、秩覆盖及新鲜度，且未证实实际跟踪器收敛性或基可用性带来的预测与部署收益。
🔑 关键词速览
| OKSPCA | 在线核监督主成分分析，一种结合随机特征与在线优化的监督降维方法。 |
| 随机特征 | 通过随机映射将数据投影到有限维空间，以近似核函数的方法。 |
| 监督谱目标 | 利用类别标签指导的谱学习目标函数，用于降维或表示学习。 |
| 薄SVD | 仅计算前k个奇异值/向量的奇异值分解，常用于降维。 |
| 总体子空间 | 数据真实分布对应的最优低维子空间，是估计的目标。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅