CrisisKD五阶段蒸馏：7B小模型超越大模型，情绪识别准确率暴涨17%！
CrisisKD: Five-Stage Knowledge Distillation for Aspect-Level Sentiment and Emotion Analysis in Crisis Discourse
📖 AI 总结
本文提出CrisisKD，一个面向危机话语（尤其是健康相关事件）中方面级情感与情绪分析的五阶段知识蒸馏框架。该框架采用教师-学生模型结构，由大型语言模型（LLM）生成方面级标签与推理轨迹，指导小型学生模型依次完成方面提取、句法解析、观点提取、情感分类和情绪分类五个任务。研究构建并开源了包含50,615个方面级标签的数据集及标注与微调脚本，使轻量级学生模型能够以远低于教师的推理成本实现端到端分析。在人工标注的500条推文黄金集上，经五任务微调的Qwen2.5-7B学生模型较未调优版本在方面提取F1值提升7.9分、情绪准确率提升17.0分、情感准确率提升6.5分；在外部ABEA基准上，较同模型上下文学习基线在ATE上提升2.8 F1分、在联合ATE+AEC上提升3.8 F1分。该工作为危机场景下低资源、跨语言的社会媒体舆情分析提供了高效可行的技术路径。
🔑 关键词速览
| Knowledge Distillation | 知识蒸馏，一种模型压缩技术，通过让小型学生模型学习大型教师模型的输出来提升性能。 |
| Aspect-Level Sentiment Analysis (ABSA) | 方面级情感分析，旨在识别文本中针对特定方面的情感极性。 |
| Teacher-Student Framework | 师生框架，其中教师模型（通常较大）指导较小学生模型的训练。 |
| Large Language Model (LLM) | 大语言模型，如GPT、Qwen等，具有强大的文本理解和生成能力。 |
| Aspect Term Extraction (ATE) | 方面词提取，从文本中识别出评价对象或方面词的任务。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅