QLoRA微调3B模型，1小时训练搞定13种阿拉伯方言翻译，spBLEU达20.36！
alkhder at AlexandriaX-2026: Context-Aware English-to-Dialectal Arabic Dialogue Translation with QLoRA-Fine-Tuned NileChat-3B
📖 AI 总结
本文介绍了Alkhder团队参加AlexandriaX-2026共享任务子任务1的系统方案，目标是将英语对话轮次翻译为十三种阿拉伯方言。研究基于NileChat-3B-Base模型，采用QLoRA方法在Alexandria平行对话语料上微调，为所有方言共享一组适配器权重。翻译时以目标国家与方言、领域、参与者角色、说话人与受话人性别方向及前文对话上下文为条件，推理阶段自回归翻译并将模型自身先前输出作为上下文，不使用任何测试集金标准信息。在受限赛道仅使用Alexandria数据的情况下，训练约一小时、翻译私有测试集不足两小时，在两个赛道上取得国家宏平均spBLEU 20.36和chrF++ 36.64的成绩。该工作展示了参数高效微调结合多维上下文条件在低资源多方言对话翻译中的可行性。
🔑 关键词速览
| QLoRA | 一种高效微调大语言模型的方法，通过量化低秩适配器减少训练参数量和显存占用。 |
| NileChat-3B-Base | 一个30亿参数的基础语言模型，专门针对阿拉伯语及方言对话进行预训练。 |
| spBLEU | 一种基于子词单元的BLEU变体，用于评估机器翻译质量，尤其适合形态丰富的语言。 |
| chrF++ | 一种基于字符n-gram和词n-gram的翻译评估指标，对形态变化和拼写差异更鲁棒。 |
| AlexandriaX-2026 | 一个共享任务，聚焦于英语到多种阿拉伯方言的对话翻译评测。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅