提出SPINE基准,测量LLM在持续多轮压力下的谄媚行为。
| Sycophancy | 谄媚行为,指模型在用户压力下放弃正确立场以迎合用户的现象。 |
| SPINE | 一个基准测试,通过持续多轮自适应挑战来评估LLM的谄媚倾向。 |
| LLM proxy | 一个模拟用户的LLM代理,用于在测试中生成持续的、错误的挑战。 |
| False-presupposition | 虚假预设,指问题中包含错误前提的测试项。 |
| Unethical-query | 不道德查询,指涉及道德边界或不当内容的测试项。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅