Meta AI 多语言模型赢得 WMT 机器翻译比赛

Meta AI 在 2021 年 11 月宣布其单一多语言翻译模型在 WMT 2021 机器翻译比赛中胜出，覆盖的 14 个语言对里有 10 个翻译方向取得最佳成绩，击败了通常需要单独训练的双语模型组合。这是 WMT 比赛首次由一个多语言模型同时拿下涵盖低资源和高资源语言的多项最高分，过去十多年里，比赛上方占据的几乎都是为每个语言对单独定制的双语系统。

在方法上，多语言模型面对的核心矛盾是参数共享与语言特化之间的平衡：完全共享会让低资源语言获益但拖累高资源方向，完全分开又退化成多个双语模型的拼接。Meta 团队引入条件计算的专家网络结构，让高资源方向的翻译走更多专家容量，低资源方向通过共享部分获得跨语言迁移；同时利用大规模回译生成合成训练数据扩充覆盖。整套方案在不让计算成本不可持续膨胀的前提下，使单模型能够同时服务于资源丰富和资源匮乏的语言。

这次胜出的现实意义在于提出了“一个模型覆盖多种语言”的可落地路径。对于运行在数十亿用户、覆盖上百种语言的 Facebook 平台来说，把上千个双语模型替换成一个多语言模型大幅简化部署与维护。对于学术界，它把低资源翻译这一被称作机器翻译“最后一公里”的难题推进了一步，证明跨语言迁移在比赛级别的高强度评测下也能压过传统双语模型，也为未来构建一个面向所有语言的通用翻译系统提供了实证依据。