正则化反问题提前停止新突破：对偶间隙精确分解，无需神谕即可计算误差界！
Fenchel-Young Duality Gaps: Certified Early Stopping for Regularized Inverse Problems
📖 AI 总结
本文研究正则化逆问题中数据保真项与正则项之间的权衡，提出一种可计算的误差界与可认证的提前停止准则。核心贡献是建立精确的对偶间隙恒等式，将总间隙分解为数据保真项的Fenchel-Young损失与正则项的Fenchel-Young损失之和，适用于任意原始点与对偶点。该间隙在对偶可行点处可计算且无需知道真实解，从而能界定当前解的次优性。在源条件下，这些损失还给出估计与预测误差的先验界，其尺度由不可约的模型与噪声误差决定。基于此，作者提出提前停止规则：当正则项Fenchel-Young损失低于给定容差时停止算法，并借助Brøndsted-Rockafellar定理的构造性版本，将当前点转化为精确对偶可行点，进而提升为原始证书。该方法以广义Beurling-Lasso为实例，涵盖经典Beurling-Lasso及多种损失函数，为深度学习优化器等场景提供了理论保证。
🔑 关键词速览
| Fenchel-Young 对偶间隙 | 一种将正则化反问题的总对偶间隙分解为数据保真项和正则项两个 Fenchel-Young 损失之和的恒等式，用于可计算误差界。 |
| 镜像对齐 (Mirror Alignment) | 指对偶变量满足 h = ∇F(Φμ) 的条件，此时数据保真项的 Fenchel-Young 损失为零，是误差界消失的关键条件。 |
| Bregman 散度 | 由严格凸函数 F 生成的散度，用于衡量预测 Φμ 与对偶映射 ∇F*(h) 之间的差异，在可微点处等于 Fenchel-Young 损失。 |
| 可认证提前停止 | 一种基于可计算对偶间隙的停止准则，当正则项的 Fenchel-Young 损失低于给定容差时终止算法，并提供原始解的质量证书。 |
| Brøndsted-Rockafellar 定理 | 凸分析中的一个定理，其构造性版本可将近似对偶可行点转化为精确对偶可行点，从而用于生成原始证书。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅