该研究首次对大型语言模型的提示词词汇敏感性进行了大规模、系统性的机制分析,基于132,000个提示变体数据集,揭示了提示性能稳定性的规模定律:平均任务性能越高,对提示扰动的方差越低、鲁棒性越强。研究识别出两个核心语言驱动因素——领域特定术语和显式行动指令,它们通过约束模型的解释空间,实现更确定的生成行为。基于这些发现,作者提出了一种自动提示精炼代理,通过注入领域锚定和操作约束来重构输入查询。实验表明,该方法在代码生成任务中将性能方差降低了40.7%,同时保持或提升了平均性能。这项研究为鲁棒提示工程提供了统计基础扎实且机制可解释的框架,超越了传统的黑盒优化方法,对提升LLM在实际应用中的可靠性具有重要意义。
| Prompt Lexical Sensitivity | 提示词词汇敏感性,指提示中微小词汇变化对模型输出性能产生显著影响的现象。 |
| Scaling Law of Prompt Performance Stability | 提示性能稳定性缩放定律,描述平均性能与性能方差和鲁棒性之间的反比关系。 |
| Domain-Specific Terminology | 领域特定术语,指与特定领域紧密相关的词汇,能锚定语义边界,增强提示稳定性。 |
| Explicit Action Directives | 显式行动指令,指明确指示模型执行特定操作或推理步骤的指令,形式化推理轨迹。 |
| Prompt-Refining Agent | 提示精炼代理,一种自动重构输入查询以注入领域锚定和操作约束的系统。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅