📖 AI 总结

苹果研究团队提出动态缩放激活引导（DSAS），一种与具体方法无关的引导框架，旨在解决现有激活引导方法对所有输入统一施加干预、在无需引导时反而损害模型性能的问题。DSAS的核心思路是将“何时引导”与“如何引导”解耦，在生成阶段计算依赖上下文的缩放因子，按层、按输入自适应调节现有引导变换的强度，仅在检测到不良行为时才施加强干预。该方法还可与引导函数进行端到端联合优化。实验表明，DSAS与现有引导方法结合后，在毒性缓解与模型效用保持之间取得了更优的帕累托前沿；作者还将其应用于文本到图像扩散模型，验证了其在调节特定概念上的通用性。此外，DSAS计算开销极小，并提升了可解释性，能定位哪些token需要引导及其强度。