新VSW距离让元测度比较又快又准，计算成本大降！
Vertical Sliced Wasserstein Distances for Meta-Measures
📖 AI 总结
本文针对现代机器学习中需要比较“分布的分布”（即元测度）的问题，提出了一种可扩展的度量方法——垂直切片Wasserstein（VSW）距离。传统最优传输距离在元测度空间上计算代价过高，VSW则另辟蹊径：不沿内层测度的传输几何进行切片，而是用连续测试函数对每个内层测度做投影，再用一维Wasserstein距离比较所得的一维分布。作者证明VSW是元测度空间上的有效度量，能够刻画弱收敛，并具有与维度无关的统计收敛保证。实验表明，相比现有元测度距离，VSW在精度和效率上均有优势。作者还推导了经验VSW目标函数的粒子梯度，展示了其在基于梯度的元测度传输中的应用，为比较和优化“分布的分布”提供了简洁且可扩展的新方案。
🔑 关键词速览
| 元测度 (meta-measure) | 其元素本身是概率测度的概率测度，即分布在分布空间上的测度。 |
| 垂直切片 Wasserstein 距离 (VSW) | 一种在元测度空间上定义的度量，通过连续测试函数投影内层测度并比较一维分布来计算。 |
| 最优传输距离 (optimal transport distance) | 衡量两个概率分布之间差异的度量，通过寻找最小代价的传输方案来定义。 |
| 弱收敛 (weak convergence) | 概率测度的一种收敛方式，指对任意有界连续函数积分收敛。 |
| 粒子梯度 (particle gradient) | 在粒子表示下，目标函数关于粒子位置的梯度，用于基于梯度的优化。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅