不用调参、三次SVD搞定，D-SLR闭式分解直接替代截断SVD还永不更差！
D-SLR: The Disjoint Row-Sparse plus Low-Rank Decomposition
📖 AI 总结
本文提出一种名为D-SLR（不相交行稀疏加低秩分解）的矩阵压缩方法，作为截断SVD的闭式替代方案。传统矩阵重建压缩默认使用截断SVD以单一低秩结构逼近数据，常通过叠加行稀疏分量进一步降低残差，但此类联合问题通常依赖迭代求解和正则化参数调优。D-SLR的核心约束是每行只能被原样存储或由低秩拟合近似，二者不可兼得。作者证明，在平方误差下这一限制不带来任何损失：联合最优解可在不相交条件下达成，且在任意非平凡秩与存储行数组合下所需参数更少。当存储行数为零时，D-SLR退化为截断SVD，因此在同等成本下不会更差。算法可一次性评估完整的误差-参数权衡曲线，随后依据给定误差目标、参数数量或选择规则确定最终解，整个过程仅需三次SVD，无需调参或正则化。作者还推导了每个形状下无假设的事后误差下界，为每个解提供可计算的增益证书。在合成数据及LLM嵌入表、网络流量、高光谱图像等真实数据上的实验验证了增益并量化了该证书。
🔑 关键词速览
| D-SLR | 不相交行稀疏加低秩分解，一种闭式矩阵压缩方法，每行要么原样存储要么低秩近似，可替代截断SVD。 |
| 截断SVD | 截断奇异值分解，一种常用的低秩矩阵近似方法，保留前k个奇异值及向量。 |
| 行稀疏 | 矩阵中只有少数行包含非零元素，或仅少数行被选为稀疏分量。 |
| 低秩拟合 | 用低秩矩阵近似原始数据，通常通过SVD等分解实现。 |
| 后验下界 | 在观察到数据后推导出的误差下界，不依赖先验假设，用于评估解的质量。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅