DeBERTa加Mistral双嵌入组合,多作者风格检测更准了!
Multi-author style detection with stylistic embeddings
arXiv CL (cs.CL) 重要 #作者归属#风格嵌入#迁移学习 🕐 今天 12:00

📖 AI 总结

该研究探讨大语言模型在多作者写作风格变化检测中的应用。作者发现,直接使用现成的大语言模型或仅在目标领域内进行监督微调,均无法获得有效特征,因此提出跨域迁移学习方案,利用针对作者身份验证任务微调的大语言模型嵌入。研究对Mistral-7B嵌入模型进行微调,并与PAN-25多作者写作风格分析挑战赛中当前最优系统所采用的DeBERTa模型进行对比。结果显示,DeBERTa与Mistral在不同用户生成文本场景中各有优势,将两种嵌入结合可更有效地检测写作风格变化。该工作为多作者文本的风格识别提供了新思路,也说明融合异构模型嵌入有助于提升检测性能。

🔑 关键词速览

多作者风格变化检测识别同一文档中不同作者写作风格切换的任务。
大型语言模型(LLM)参数规模庞大、在海量文本上预训练的深度学习语言模型。
跨域迁移学习将源领域的知识迁移到目标领域以提升模型性能的机器学习方法。
作者身份验证判断给定文本是否由特定作者撰写的任务。
Mistral-7B一个拥有70亿参数的开源大型语言模型。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅