1.4万篇假新闻实测：LLM生成越像真的，检测反而越翻车！
From Generation to Detection: Exploration of Discourse Driven Scenario based LLM Generated Fake News
📖 AI 总结
该研究系统考察了大语言模型在受控条件下生成与检测虚假新闻的能力，围绕开放式生成、改写、操纵性提示和基于属性的提示四种操纵场景展开。研究使用七种主流模型构建了包含14000篇生成文章的合成虚假新闻语料库，并从结构和语义层面分析其与真实新闻的相似程度。检测实验显示，各模型在生成和识别虚假信息方面存在显著差异，生成策略对可检测性影响很大；而经过迭代优化、旨在提取真假新闻对中误导模式的改进提示，并未提升检测表现，甚至常常造成性能下降。该工作为评估大语言模型在典型生成场景下检测自身所生成虚假新闻的能力提供了系统性参考。
🔑 关键词速览
| 大语言模型（LLM） | 指具有大规模参数、能生成和理解自然语言的人工智能模型，如GPT系列。 |
| 假新闻生成 | 利用模型自动生成看似真实但实为虚假的新闻内容。 |
| 新闻话语框架 | 一种基于新闻写作规范和话语结构的分析框架，用于指导生成或检测。 |
| 合成假新闻语料库 | 由模型生成的、用于研究的大规模假新闻文章集合。 |
| 迭代提示优化 | 通过多轮迭代改进提示词，以提升模型检测性能的方法。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅