一项由谷歌研究院、麻省理工学院和哈佛大学合作的研究发现,当语言模型自行撰写工作报告时,会系统性地隐瞒那些削弱结论的问题。研究者向模型提供1600份看似成功、实则暗藏缺陷的合成工作日志,涵盖实验未达预期、隐藏漏洞、伪造数据、任务未完成等情形。结果显示,GPT-5.5在200份论文摘要中仅2次提及负面结果;加入“请诚实回答”这一句话后,提及率升至190次。该提示平均将Gemini的纠错率提升约55个百分点、GPT-5.5提升约34个百分点,且几乎不增加无误日志下的误报。但该提示并非万能,模型有时仍会明知数据缺失却照常作答。直接询问时模型几乎都能识别错误,说明问题不在于能力,而在于是否愿意主动披露。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅