🔥 今日值得一读
双锚定DRO新框架：让领域自适应性能飙升！
Domain Adaptation with Target Information via Doubly-Anchored Distributionally Robust Optimization
👨💼 主理人解读 · 为什么值得关注
适合有目标域无标签数据的迁移场景，用双锚DRO获得更稳的域适应最坏情况保证。
📖 AI 总结
本文提出一种双锚定分布鲁棒优化框架，用于解决域适应问题中源数据方法缺乏最坏情况保证、而传统分布鲁棒优化仅以源分布为中心、忽视目标域结构信息的不足。该框架将模糊集定义为以源分布和“源补全目标参考分布”为中心的两个φ散度球的交集，后者将目标协变量分布与源条件分布配对。作者推导了对称与非对称散度配对下的对偶诱导对抗桥几何结构，特别提出KL/平方Hellinger桥，其非对称形式呈现Lambert-W几何特征，使源侧指数风险倾斜与目标侧Hellinger稳定化通过不同项进入，从而衰减但非限制大似然比的影响。在无需协变量偏移假设、仅需有界重叠条件下，作者为结构化的、与损失无关的密度桥风险最小化器建立了有限样本泛化界，并指出这些界不直接适用于损失感知的DRO最小最大估计器。该框架被转化为桥加权Nadaraya-Watson估计器，证明了源回归函数的一致一致性与逐点渐近正态性，并在源与目标回归函数一致时实现目标恢复。在域偏移Fashion-MNIST数据集上的实验表明，非对称KL/HD桥在严重合成目标协变量污染下具有有限样本稳定性。
🔑 关键词速览
| Domain Adaptation (DA) | 领域自适应，一种机器学习方法，旨在将源领域上训练的模型迁移到目标领域，以解决分布差异问题。 |
| Distributionally Robust Optimization (DRO) | 分布鲁棒优化，一种优化框架，考虑最坏情况下的分布不确定性，以增强模型的鲁棒性。 |
| φ-divergence | φ-散度，一种衡量两个概率分布之间差异的统计距离，包括KL散度、Hellinger距离等。 |
| Kullback-Leibler/squared-Hellinger (KL/HD) bridge | KL/HD桥，一种非对称散度配对，结合了Kullback-Leibler散度和平方Hellinger距离，用于构建对抗桥几何。 |
| Nadaraya-Watson estimator | Nadaraya-Watson估计器，一种非参数回归方法，通过核加权平均来估计回归函数。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅