提出免训练任务向量,无需微调即可实现LLM行为控制。
| Task Vectors | 任务向量,通过微调模型与预训练模型权重差异表示特定任务或行为方向的向量。 |
| Training-Free Task Vectors (TFTVs) | 无训练任务向量,一种无需微调即可计算任务向量方向的方法,利用前向传播统计量。 |
| Activation Steering Vectors | 激活引导向量,用于调整模型内部激活以控制输出行为的向量。 |
| Rank-One Weight-Space Edits | 秩一权重空间编辑,通过秩一矩阵更新权重以改变模型行为,计算高效。 |
| Behavioral Control | 行为控制,指通过编辑模型权重或激活来增强、抑制或组合特定行为的能力。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅