211篇研究综述:大模型既能造假评论,也能抓假评论!
A Survey on Fake Review Detection: From Pre-trained Language Models to Large Language Models
arXiv CL (cs.CL) 大模型安全对齐综述 🕐 今天 12:00

📖 AI 总结

该综述从信息融合视角系统梳理了虚假评论检测领域2018年至2026年初的211项研究,按证据来源与融合层级对现有工作进行组织,涵盖评论文本、情感、评分行为、时间元数据、用户—商品图、多模态内容、外部知识及大语言模型生成内容等维度。文章追踪了从传统机器学习、深度学习到预训练语言模型和大语言模型的方法演进,分析了不同方法在文本、行为、结构与多模态信息上的融合方式,并总结了在Amazon、Yelp和OpSpam等基准上的性能趋势,同时指出标签构建、数据划分和评估协议差异带来的可比性局限。研究特别关注大语言模型带来的双重影响:既能生成流畅且具上下文感知能力的欺骗性评论,也为检测提供了更强的语义表示能力。文章最后提出对抗生成、跨域迁移、不确定性感知融合、缺失源鲁棒性、可解释性以及面向AI生成欺骗内容的可信评估等开放问题,为该领域后续研究提供了方向性参考。

🔑 关键词速览

虚假评论检测识别在线评论中故意误导或欺骗性内容的任务,旨在维护评论系统的可信度。
预训练语言模型(PLM)在大规模文本上预训练的模型(如BERT),可为下游任务提供强大的语义表示。
大型语言模型(LLM)参数规模巨大的语言模型(如GPT系列),能生成流畅文本,也可用于检测任务。
信息融合整合来自不同来源(如文本、行为、图结构)的证据,以提高检测性能。
对抗生成利用生成模型制造对抗性虚假评论,以逃避检测或攻击检测系统。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅