Meta AI · 图像模型
Meta AI 发布 Seer 计算机视觉模型
Meta AI 推出 Seer，一个面向计算机视觉的新一代模型，强调更强的能力、灵活性与可及更广泛的可用性。Seer 旨在推动视觉识别向更灵活、更易访问的方向演进，标志着Meta在基础视觉模型领域的重要布局。该模型有望在图像理解、目标检测等场景中带来显著提升，并降低开发者使用顶尖视觉AI的门槛。
- 域名
ai.meta.com- 评分
- 5 · 重大发布
- 发布
- 2021-03-03
导读
Meta AI 在 2021 年 3 月发布 SEER，是一个在十亿张随机 Instagram 公开图片上自监督预训练的视觉模型，参数量达十亿级。这次发布的研究意义在于把自监督学习真正推到大规模、未策划的真实图像数据上，证明计算机视觉也可以走 NLP 领域已经走过的“大模型加海量无标签数据”路线。SEER 在 ImageNet 上获得 84.2% 的 top-1 精度，超过当时最强的自监督方法；在仅用 10% 训练样本的 ImageNet 低样本评测上仍达到 77.9%；甚至在只用 1% 训练样本时也能达到 60.5%。
实现 SEER 需要解决两个工程难题：算法层面要能从完全没有标注的随机图像中学习有意义的表征，模型层面要有足够大的卷积网络容纳如此多样的视觉概念。Meta 团队基于自家开源工具 VISSL 搭建训练栈，集成了一系列降低每张 GPU 显存消耗、提升训练吞吐的优化，并配套一个比 PyTorch 默认实现吞吐更高的定制数据加载器。算法采用对比式自监督方法，结合规模化卷积架构，使模型可以稳定地在十亿张图像上完成预训练。
SEER 在下游任务上的迁移结果同样重要。在目标检测、图像分割、低样本分类等任务上，SEER 都超过了当时最强的有监督预训练模型，意味着自监督这种不依赖人工标注的范式在真实世界视觉任务上也能成立。Meta 把 SEER 视为通向更灵活、可访问的计算机视觉时代的起点，相关代码通过 VISSL 开放，研究社区可以基于同一套自监督栈继续扩展规模或针对具体场景调整。