低资源语言安全迁移翻车：严重错位语言无法可靠拒绝，用户安全保障更弱！
Is Refusal Direction Universal across Low-Resourced Languages?
📖 AI 总结
该研究检验了“拒绝方向可跨语言通用”这一主张在低资源语言中的适用性。作者将PolyRefuse数据集扩展至白俄罗斯语、巴什基尔语和塔吉克语三种低资源语言，并在Qwen2.5-14B-Instruct模型上复现了Wang等人（2025）的实验流程。研究发现，拒绝方向的通用性是分级的而非二元的：来自安全对齐和部分对齐语言的方向能够广泛迁移，而来自严重错位语言的方向在排除天花板效应后，无法可靠地调节任何目标语言（包括其他错位语言）的拒绝行为。研究还表明，几何对齐与行为迁移之间存在部分分离。这些发现对拒绝方向的普遍性主张构成挑战，并提示使用资源最少、错位最严重语言的用户可能面临更弱的安全保障。
🔑 关键词速览
| 拒绝方向 (Refusal Direction) | 模型内部表征空间中与拒绝有害请求相关的方向向量，可用于引导模型行为。 |
| 低资源语言 (Low-Resourced Language) | 在训练数据或计算资源上可用语料较少的语言，如白俄罗斯语、巴什基尔语等。 |
| 跨语言迁移 (Cross-Lingual Transfer) | 将一种语言上学习到的能力或表征应用到另一种语言的现象。 |
| 安全对齐 (Safety Alignment) | 通过训练使模型行为符合安全规范，避免生成有害内容的过程。 |
| 天花板效应 (Ceiling Effect) | 当指标接近上限时，进一步改进难以观测，导致效果差异被掩盖的现象。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅