该研究探讨大语言模型在多作者写作风格变化检测中的应用。作者发现,直接使用现成的大语言模型或仅在目标领域内进行监督微调,均无法获得有效特征,因此提出跨域迁移学习方案,利用针对作者身份验证任务微调的大语言模型嵌入。研究对Mistral-7B嵌入模型进行微调,并与PAN-25多作者写作风格分析挑战赛中当前最优系统所采用的DeBERTa模型进行对比。结果显示,DeBERTa与Mistral在不同用户生成文本场景中各有优势,将两种嵌入结合可更有效地检测写作风格变化。该工作为多作者文本的风格识别提供了新思路,也说明融合异构模型嵌入有助于提升检测性能。
| 多作者风格变化检测 | 识别同一文档中不同作者写作风格切换的任务。 |
| 大型语言模型(LLM) | 参数规模庞大、在海量文本上预训练的深度学习语言模型。 |
| 跨域迁移学习 | 将源领域的知识迁移到目标领域以提升模型性能的机器学习方法。 |
| 作者身份验证 | 判断给定文本是否由特定作者撰写的任务。 |
| Mistral-7B | 一个拥有70亿参数的开源大型语言模型。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅