🔥 今日值得一读
后验采样竟能“免费”获得差分隐私！统一框架首次刻画多种贝叶斯模型固有隐私保证
On Inherent Privacy of Posterior Sampling: A Unified R\'enyi-Divergence Framework
👨💼 主理人解读 · 为什么值得关注
揭示贝叶斯后验采样自带隐私增益，开发者可据此在采样流程中免费获得DP保证，减少额外加噪。
📖 AI 总结
本文提出一个统一的Rényi散度框架，用于刻画从贝叶斯后验分布中采样所天然具备的差分隐私（DP）保证。作者证明，单后验采样（OPS）带来的隐私损失由单条记录对数似然比的后验指数矩所决定，并在一致有界、次高斯和次指数三种尾部情形下给出了显式的DP保证。该框架被应用于多类代表性贝叶斯模型，包括任意先验下的类别似然、高斯-高斯共轭对、指数族广义线性模型以及带高斯先验的高斯似然线性回归。研究揭示了样本量、模型结构、DP邻接关系（有界或无界）以及先验如何共同决定OPS的固有隐私保证，并表明既有结果可作为特例被恢复，且往往得到更紧的隐私损失界，显著拓展了可严格刻画OPS固有隐私的贝叶斯模型范围。
🔑 关键词速览
| 差分隐私 (Differential Privacy) | 一种严格的隐私保护框架，通过随机化机制确保数据集中单个记录的变化对输出分布的影响有限。 |
| Rényi散度 (Rényi Divergence) | 一种衡量两个概率分布差异的度量，是Kullback-Leibler散度的推广，常用于差分隐私的隐私损失分析。 |
| 单后验采样 (One-Posterior-Sampling, OPS) | 一种贝叶斯采样方法，从后验分布中抽取一个样本作为输出，其内在随机性可提供差分隐私保证。 |
| 后验指数矩 (Posterior Exponential Moments) | 后验分布下对数似然比的指数函数的期望，用于刻画OPS的隐私损失。 |
| 相邻关系 (Neighboring Relations) | 差分隐私中定义两个数据集之间差异的方式，分为有界（bounded）和无界（unbounded）两种，影响隐私保证的形式。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅