仅凭隐私梯度，也能在流形上做统计推断！
Locally Private Inference for Riemannian Stochastic Optimization
📖 AI 总结
本文研究在本地差分隐私约束下，如何对流形取值的人群极小值点进行统计推断。当每个观测来自不同参与者、分析者只能接收本地隐私化消息时，作者提出释放随机切空间梯度，并通过黎曼随机逼近与Polyak-Ruppert平均进行整合。针对直接将隐私数据替代量代入非线性损失会导致总体目标偏移的问题，作者采用梯度的条件中心化处理以保持一阶方程成立。同时提出对称配对回归方法，利用与点估计相同的隐私消息估计渐近方差，无需留出参与者或二次释放。研究证明了在本地差分隐私下基于完整转录的夹心协方差与内在Wald区域的中心极限定理及相合性。多类统计问题与流形上的模拟验证了估计误差下降及中等隐私水平下的近名义覆盖率，并通过对NHANES人体测量数据的应用展示了体型主方向的隐私估计及其不确定性。
🔑 关键词速览
| 黎曼随机优化 | 在黎曼流形上进行的随机优化方法，用于处理流形值参数的优化问题。 |
| 局部差分隐私 | 一种隐私保护框架，确保每个参与者的数据在离开其设备前被随机化，从而保护个体隐私。 |
| Polyak-Ruppert平均 | 一种随机逼近中的平均技术，通过对迭代序列进行平均来提高估计的收敛性和渐近效率。 |
| 对称对回归 | 本文提出的一种方法，利用对称对数据从隐私消息中估计渐近方差，无需额外数据。 |
| 夹心协方差 | 一种稳健的协方差估计量，形式为三明治结构，常用于模型误设下的推断。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅