LLM互辩实测:同模型观点差距缩小,跨模型反而扩大!
To Manipulate or Not: Opinion Dynamics in LLM Interactions
arXiv AI (cs.AI) 重要 安全对齐Agent大模型 🕐 今天 12:00

📖 AI 总结

该研究构建了一个受控的大语言模型间辩论框架,让两个模型角色围绕气候变化归因这一争议话题反复对话,其中一个角色被赋予既定立场并在部分条件下被明确要求说服对方,另一个则不设立场,实验覆盖GPT-6 Luna与Gemini 2.5 Flash Lite的四种模型组合,同时追踪角色明确报告的观点立场与对话中的逐轮行为表现。关键发现是:观点动态因模型组合而异,同模型互动平均缩小观点差距(但仅对其中一个模型明显),跨模型互动则扩大差距;明确报告与对话内行为反映观点动态的不同侧面,笼统的“说服”指令并不能可靠提升影响力。这表明对话影响力不仅取决于角色设定与初始立场,也取决于参与模型本身,对如何在长程LLM互动中测量观点变化具有方法学意义。

🔑 关键词速览

LLM-LLM debate framework两个语言模型角色进行受控辩论的实验框架,用于研究观点动态。
Opinion dynamics观点随时间变化的动态过程,包括观点差距的扩大或缩小。
Persuasion instruction明确指示模型尝试说服对方的指令,用于测试其对影响力的效果。
Cross-model interactions不同语言模型之间的交互,与同模型交互相对,可能产生不同的观点动态。
Explicitly reported position模型明确报告的观点立场,与对话中的行为表现相区分。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅