开源模型挑战GPT-4翻译风格对齐,中文方向差距基本消失,个别语言对甚至反超!
Translating in style: An open-weight alternative to GPT-4 for culturally aligned machine translation
arXiv CL (cs.CL) 重要 开源大模型论文方法 🕐 今天 12:00

📖 AI 总结

该研究探讨能否用开放权重翻译专用模型Hunyuan-MT-7B替代GPT-4,实现文化对齐的机器翻译。作者基于RASTA检索增强风格对齐框架,评估了基础模型、LoRA监督微调版本和GRPO策略引导版本三种变体,在正式度、礼貌度和亲密度三个风格维度及十二个有向语言对上测量风格对齐度。关键发现是:微调并未可靠提升对齐效果,三种变体在总体上统计无显著差异;开放模型整体不及RASTA-GPT-4,但差距主要集中在正式度维度,在亲密度和中文方向上差距大幅缩小,个别语言对上甚至持平或超越GPT-4。这表明基于开放模型的易获取RASTA流程已可部分胜任该任务,为降低文化对齐翻译对闭源模型的依赖提供了实证依据。

🔑 关键词速览

RASTA一种检索增强的风格对齐框架,用于在机器翻译中保留语言风格。
Hunyuan-MT-7B一个开源权重的机器翻译专用大模型,参数量为70亿。
LoRA低秩适应微调方法,通过注入低秩矩阵高效调整大模型参数。
GRPO组相对策略优化,一种用于强化学习微调的策略梯度方法。
风格对齐使翻译输出在正式度、礼貌度等风格维度上与源文本或目标风格保持一致。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅