📖 AI 总结

该研究针对安全对齐后大语言模型普遍存在的“过度拒绝”问题展开机制性分析，指出以往研究多归因于静态表征重叠，而忽视了其动态成因。作者从Transformer注意力内部的路由冲突切入，发现一小组“超敏感安全头”在“难安全提示”上误触发，产生异常的注意力纠缠，将无害目标实体强行绑定到拒绝语义上，进而引发高熵路由冲突，使目标实体无法获得必要注意力。为此，作者提出语义路由校准（SRC），一种轻量、免训练的推理框架，能在推理阶段精准定位并动态抑制这些超敏感安全头，并结合双分支logits融合作为解码期的安全正则。实验表明，SRC在缓解过度拒绝的同时，尽可能保留了模型的内在安全性能。该工作为理解并改善安全对齐的副作用提供了新的机制视角与实用方案。

🔑 关键词速览