Meta AI · 图像模型
Meta AI 发布 DINOv2 自监督视觉模型
Meta AI 发布 DINOv2,一种自监督学习方法,无需人工标注即可从图像中学习通用视觉特征。该模型在分类、分割和检测等任务上表现良好,为计算机视觉研究提供了更通用的预训练基础。
- 域名
ai.meta.com- 评分
- 5 · 重大发布
- 发布
- 2023-04-16
导读
Meta AI 开源 DINOv2,一种基于自监督学习训练计算机视觉模型的方法,性能与领域内常用的有监督方案持平或超越。自监督学习不需要人工标注,可以在任意图像集合上学习,不依赖 hashtag、alt text 或图说等元数据。这一点与其他近期方法不同的是,DINOv2 训出的特征无需微调即可直接作为下游任务的输入,与线性分类器搭配就能取得较好效果。
从 DINO 到 DINOv2,团队解决了三类工程问题:构建大规模且经过精选的训练数据集、改进训练算法与实现、设计可工作的蒸馏流水线。最终模型可作为多任务的通用 backbone,在分类、分割、图像检索等任务上展现稳定的预测能力,在 ImageNet-1k 上的线性评测性能与全微调对照组的差距控制在 2 个百分点以内。
深度估计是 DINOv2 的一项额外能力。当前标准的有监督预训练方法学不到深度信息,DINOv2 的自监督特征则在 in-domain 与 out-of-domain 的深度估计任务上显著优于专门为此设计的最新流水线。Meta 把这种 out-of-domain 优势归因于自监督特征学习与轻量任务模块的组合:因为不依赖微调,主干保持通用,同一组特征可同时服务于多个互不相关的下游任务。