梯度上升还在猛踩油门？H2DF校准目标带，遗忘NLL压到1.528，保留NLL仅1.165！
H2DF: Calibrated Target Bands for Controllable Language-Model Unlearning
📖 AI 总结
该论文针对语言模型遗忘中梯度上升（GA）方法持续增大遗忘损失、进而损害模型保留能力的问题，提出H2DF方法。其核心是设置由匹配非成员样本预先估计的数据相关目标区间：在低于下目标时施加类GA压力，达到目标区间后抑制或反转该压力，从而将遗忘强度控制在合理范围。在TOFU问答任务上，H2DF取得遗忘NLL 1.528、保留NLL 1.165，与GradDiff相当，但仅每十步进行一次保留回放，且波动显著低于GA；在MUSE-News语言建模上，其保留能力优于GA和NPO，与SimNPO接近但未全面超越。消融实验表明上目标可减少过冲，基于验证集的检查点选择十分关键。该工作说明校准目标区间是控制遗忘强度的可行机制，同时揭示方法对随机种子和校准质量的敏感性。
🔑 关键词速览
| 梯度上升 (GA) | 一种通过最大化遗忘损失来移除模型特定知识的简单基线方法。 |
| 目标带 (Target Band) | 由数据相关的下目标和上目标定义的区间，用于校准遗忘压力的施加范围。 |
| 遗忘损失 (Forget NLL) | 在需要遗忘的数据上计算的负对数似然，衡量模型遗忘的程度。 |
| 保留重放 (Retain Replay) | 在遗忘训练中定期重新引入保留数据以维持模型效用的技术。 |
| TOFU | 一个用于评估语言模型遗忘能力的问答数据集基准。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅