🔥 今日值得一读
人脸识别模型也能被“选择性失忆”：让特定身份无法被关联，其余人群照常识别！
Damnatio Memoriae: Adversarially and Selectively Forgetting Identities in the Embedding Space of Face Recognition Models
👨💼 主理人解读 · 为什么值得关注
需要让特定人脸身份在模型中失效但保留其他识别能力的开发者，可参考此嵌入空间遗忘方法。
📖 AI 总结
该研究提出“开放集对抗性遗忘”问题：在保持人脸识别模型对普通人群正常服务的前提下，使特定选定身份在不同场合的图像无法被关联。作者指出，仅删除图像并重训无法奏效，因为模型能识别训练中从未见过的身份，因此必须直接改变嵌入空间。为此，他们设计了三种损失函数：一种将某身份的嵌入从质心分散，另两种将每张图像映射到近乎正交的目标，分别通过分类头学习或预先固定为近似正交基。方法在部分图像上微调，并与分类目标联合优化。在验证与识别任务、两种遗忘规模和三种骨干网络上，与四种已有方法对比，所有作用于嵌入几何的损失都能使遗忘身份几乎不可识别；仅用正交基即可实现强遗忘，且在不同图像进入比较时均成立，并使不同遗忘身份彼此不可关联，在更高保留率下优于同期无监督方法。
🔑 关键词速览
| 开放集对抗性遗忘 | 指在模型仍服务于未遗忘身份的前提下，通过对抗性手段修改嵌入空间，使选定身份即使未在训练中出现也无法被识别或关联的过程。 |
| 嵌入空间 | 人脸识别模型将图像映射到的低维向量空间，相似度通过向量距离或夹角衡量。 |
| 标准正交基 | 一组两两正交且长度为1的向量，用作固定目标来分散身份嵌入，使其彼此近似正交。 |
| 遗忘规模 | 实验中控制需要遗忘的身份数量的参数，分为两种不同规模以评估方法在不同遗忘需求下的表现。 |
| 保留率 | 在遗忘选定身份后，模型对未遗忘身份仍能正确识别或验证的比例。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅