KL估计新突破：期望超出目标最多仅log2，无需权重有界！
Universal Bounds for Self-Normalized Kullback-Leibler Estimation
📖 AI 总结
该研究探讨了基于归一化重要性权重构建的KL散度熵估计器，并证明了一个普适的有限样本界：无论样本量大小，该估计器的期望超出目标-提议KL散度的幅度至多为log 2。研究进一步刻画了重要性加权重采样所诱导分布与提议分布之间的KL散度，证明其同时被熵估计器的期望和目标-提议KL散度所上界。值得注意的是，这些界不要求重要性权重有界，也不依赖有限高阶矩的存在。作者将结果应用于生成模型的测试时对齐（Soft Best-of-N采样）和相对熵编码，分别获得了有限样本的策略散度证书和无矩条件的编码代价界。该工作为重要性采样场景下的KL估计提供了理论保证，拓展了其在生成模型对齐与信息编码中的适用性。
🔑 关键词速览
| Kullback-Leibler (KL) 散度 | 一种衡量两个概率分布之间差异的非对称度量，常用于信息论和机器学习中。 |
| 自归一化重要性采样 | 一种重要性采样变体，其中权重被归一化以估计目标分布的期望，无需知道归一化常数。 |
| Soft Best-of-N 采样 | 一种基于重要性采样的缩放技术，用于在测试时对齐生成模型，通过软最大化选择最佳样本。 |
| 相对熵编码 | 一种利用相对熵（KL散度）进行数据压缩的编码方法，通常用于实现接近理论极限的编码效率。 |
| 有限样本界 | 在给定样本量下成立的误差或偏差上界，不依赖于渐近假设。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅