Meta AI · 大模型
Meta AI 发布开源聊天机器人
Meta AI 发布了其最新开源聊天机器人，在多项基准测试中达到领先水平。该模型延续了 Meta 对开放研究的承诺，公开发布权重和推理代码，允许开发者自由部署。此举有望推动开源大模型能力的提升，缩小闭源与开源模型之间的差距。
- 域名
ai.meta.com- 评分
- 5 · 重大发布
- 发布
- 2020-04-28
导读
Meta AI 在 2020 年 4 月开源了 BlenderBot，参数规模 94 亿，是当时已发布的最大开放域聊天机器人，比此前最大系统大 3.6 倍。在 Google Meena 的公开对话日志上做配对人工评估，67% 的评审认为 BlenderBot 听起来更像人，75% 表示更愿意和它进行一次长对话。模型权重、代码与评估流程同步开源，让研究社区可复现并继续推进对话 AI。
作者把这次进步归因于一组配方，单一技巧解释不了结果。预训练阶段用 15 亿条公开对话样本喂入 Transformer，并用列式模型并行解决单卡放不下的问题。微调阶段则引入团队新设计的 Blended Skill Talk 任务，把“显示个性”“展开话题”“共情回应”三种以往各自独立训练的对话技能融合在一起，强迫模型在 14 轮自然对话中随场景切换语气。生成阶段用波束搜索配合最小波束长度约束与 n-gram 屏蔽，避免短答与自我重复——A/B 测试中，去掉最小长度约束后模型表现从 49% 直落到 21%，说明解码策略与模型规模同样关键。
在与人类对话偏好度的纵向曲线上，BlenderBot 把 2018 年 23% 的水平推到接近 50%，逼近测试场景下的人类水平。作者也直言，当前评测仍偏短期且无法覆盖事实性、毒性等问题，离真正的人类对话能力仍有显著距离。