GeoSteer用测地线优化让大模型激活引导更稳更强，三大基准全面超越SOTA！
GEOSTEER: Geodesic Optimization for Activation Steering in Large Language Models
📖 AI 总结
本文提出GeoSteer，一种用于大语言模型激活引导的保范数优化方法。现有保范数引导方法受限于预定义的引导轨迹和单步更新，难以刻画激活分布的复杂结构。GeoSteer将引导过程建模为黎曼优化问题，在表示流形上通过一系列小测地线步长更新激活，并学习一个非线性激活空间目标函数以区分期望与非期望激活，从而自适应地指导每一步引导，避免固定引导方向。这种多步形式在保持激活范数的同时，带来更平滑、稳定且一致的引导行为。在TruthfulQA、RealToxicityPrompts和UltraFeedback三个基准上，GeoSteer持续优于当前最先进的激活引导基线。该结果表明，以自适应、几何感知的优化替代预定义的单步编辑，可显著提升保范数引导的效果。
🔑 关键词速览
| 激活引导 (Activation Steering) | 在推理时通过修改大语言模型的隐藏层激活来控制模型行为的技术。 |
| 保范引导 (Norm-Preserving Steering) | 一种激活引导方法，旨在改变模型行为的同时保持激活向量的范数不变，以避免表示崩溃。 |
| 黎曼优化 (Riemannian Optimization) | 在黎曼流形上进行的优化方法，用于处理具有几何约束的优化问题。 |
| 测地线 (Geodesic) | 在流形上两点之间的局部最短路径，类似于欧几里得空间中的直线。 |
| 表示流形 (Representation Manifold) | 高维激活空间中的低维几何结构，表示模型内部状态的分布。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅