人脸去身份化系统被攻破！对抗样本可跨模型泄露身份，低通滤波一招化解
Adversarial Attacks and Identity Leakage in De-Identification Systems: An Empirical Study
📖 AI 总结
这篇论文实证研究了对抗性攻击对去标识化系统中身份编码器的影响。实验表明，攻击具有可迁移性，能够从外部替代模型传递到系统模型（如从CosFace迁移至ArcFace），从而使攻击者能够在足够敏感的人脸识别系统中导致身份信息泄露。针对这一漏洞，作者提出了缓解策略：对对抗样本进行微调可有效缓解基于失真类攻击（如雪、雾等）的影响，而简单的低通滤波器则能在不影响去标识化图像的前提下削弱对抗噪声的效果。该研究的意义在于，所提出的缓解方案使去标识化系统在保持原有功能的同时，显著提升了对对抗噪声的鲁棒性，为隐私保护系统的安全性设计提供了实证依据与可行路径。
🔑 关键词速览
| 去身份化系统 | 一种从图像或视频中移除或模糊个人身份信息，以保护隐私的系统。 |
| 对抗性攻击 | 通过向输入添加精心设计的微小扰动，误导机器学习模型做出错误预测的攻击方式。 |
| 身份编码器 | 将人脸图像映射为身份特征向量的神经网络组件，用于人脸识别与验证。 |
| 可迁移性 | 对抗样本从一个模型生成后，能够成功欺骗另一个不同模型的性质。 |
| 低通滤波器 | 一种允许低频信号通过、抑制高频噪声的图像处理操作，常用于平滑图像。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅