苹果研究团队在EMNLP发表的论文评估了大语言模型用于机器翻译质量标注的可靠性,比较了LLM与人类标注者在MQM和ESA两种评价体系下的一致性。研究覆盖70个语言对的长上下文测试集及WMT23、WMT25公开数据,考察了评分和错误跨度标注两方面。结果显示,LLM与人类的一致性在某些任务上超过人类标注者之间的一致性,但整体表现因标注方案、语言对和领域差异而波动显著,在多数场景下仍不可靠。研究还揭示双方各自的短板:人类在细粒度MQM标注和低资源语言对上表现吃力,LLM则难以处理细微错误、语言变体识别和错误跨度标注。作者据此指出,人机协作标注流程可能是提升可靠性的可行方向。
一项针对大语言模型翻译评估的实测研究显示,在70个语言对的测试中,LLM作为翻译质量评估工具在多数场景下仍不可靠,引发对AI评估方法有效性的讨论。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅