多组学习新突破：同一预测器无需预知条件，即可在重叠组上实现1/n快速率！
A general condition for fast rates in multi-group learning
📖 AI 总结
该论文研究多组学习问题，即单一预测器需在相互重叠的多个群体上同时控制超额风险。此前Tosh与Hsu（2022）通过归约到带休眠专家的在线学习，仅得到1/√n的慢速率，且1/n快速率只在可实现性假设下对另一种策略成立。本文提出一种逐组Bernstein条件，使得同一自适应预测器在无需预知该条件是否成立的情况下即可达到1/n快速率，同时在条件不成立的群体上仍保持慢速率。该条件可由若干弱于可实现性的自然假设推出，下界结果表明弱化版本会使任何学习器只能获得慢速率。作者还给出了松弛条件下的中间速率及向VC类的扩展。
🔑 关键词速览
| 多组学习 | 一种学习设定，要求单个预测器在多个可能重叠的组上同时控制风险。 |
| 超额风险 | 预测器的风险与最优预测器风险之间的差值，衡量学习性能。 |
| Bernstein条件 | 一种逐组的方差型条件，用于保证快速收敛速率。 |
| 可实现性 | 假设真实标签完全由某个假设类中的函数生成，即存在零误差的预测器。 |
| VC类 | Vapnik-Chervonenkis类，一种具有有限VC维的函数类，常用于统计学习理论。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅