Meta AI · 大模型
Meta 发布 Llama 3 更新
Meta 发布了 Llama 3 的更新版本，这是其开源大语言模型领域的重要进展。新版本在推理、代码生成和多语言能力上均有显著提升，同时保持了开源可部署的特性。Meta 延续了 Llama 系列对开发者友好的路线，此次更新有望进一步推动大模型在各类应用中的落地。
- 域名
ai.meta.com- 评分
- 5 · 重大发布
- 发布
- 2024-04-24
导读
Meta 在这篇 2024 年 4 月 25 日的博客中回顾了 Llama 3 发布一周后的社区反响。距离 4 月 18 日首发只过去了一周，Llama 3 已经被下载超过 120 万次，开发者在 Hugging Face 上累计上传超过 600 个衍生模型，GitHub repo star 数突破 17,000。Llama 3 70B Instruct 在 LMSYS Chatbot Arena Leaderboard 英语评测中并列第一，综合榜上排名第六，是当时排位最高的开源模型，仅次于若干闭源对手。
社区贡献的具体方向也写得很清楚：把 Llama 3 上下文窗口扩展一倍的项目、量化、Web 浏览、tool use、低精度微调、本地部署等方向都已经有社区作品出现。芯片、硬件、云服务侧的合作伙伴同步把 Llama 3 上线到自家服务。Meta 在博文中点名 Yale 医学院与 EPFL 计算与通信科学学院的联合团队，他们在发布后 24 小时内就微调出 Llama-3[8B]-MeditronV1.0，号称是首个面向医学的 Llama 3 8B 微调版本，在 MedQA、MedMCQA 等标准基准上超过所有同参数规模的开源模型，延续了团队早先基于 Llama 2 训练的 Meditron 路线。
文末 Meta 给出后续路线图：未来几个月会陆续放出具备多模态、多语言对话能力、更长上下文以及整体能力增强的新模型。这篇短篇博客就是一份生态进展通报，背后传达的信号是 Llama 3 在发布即被快速验证、快速 fork、快速专业化，开源路线在 2024 春季已经不再是"性能落后但便宜"的次选项，而是被前沿研究与垂直应用同时认领的工程基座。