该论文介绍了Wazobia Eval,一个针对尼日利亚皮钦语的评估基准,旨在衡量语言模型在情绪理解、讽刺检测和文化推理方面的能力。尼日利亚皮钦语是非洲使用最广泛的语言之一,但在现有语言模型评估中严重缺乏代表性,已有基准多集中于翻译或通用情感分析。该基准基于一个包含550多个手工标注样本的数据集,并设计了16类情绪分类体系,以捕捉传统情感框架无法覆盖的文化特异性情绪表达。论文详述了基准设计、标注方法、分类体系构建及初步试点评估结果,旨在为尼日利亚语言AI提供基础评估设施,并建立可复现的研究基准。数据集已公开,可供后续研究使用。
| Nigerian Pidgin | 尼日利亚皮钦语,一种在尼日利亚广泛使用的克里奥尔语,基于英语和当地语言混合而成。 |
| Wazobia Eval | 一个专门用于评估尼日利亚皮钦语情感理解、讽刺检测和文化推理的基准测试。 |
| emotion taxonomy | 情感分类体系,用于对情感表达进行分类的框架,此处包含16个类别。 |
| sarcasm detection | 讽刺检测,识别文本中是否包含讽刺或反语表达的任务。 |
| cultural reasoning | 文化推理,理解语言中隐含的文化背景和语境的能力。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅