Meta AI · 3D
Meta 发布 SceneScript 3D 场景重建技术
Meta Reality Labs Research 推出 SceneScript,一种基于端到端学习模型直接估算 3D 场景几何与布局的新方法。与传统依赖深度估计、SLAM 或多视图几何的多步流程不同,SceneScript 通过语言模型输出格式来结构化表述场景布局,将空间推理统一为序列预测任务。这项工作有望简化 AR/VR 应用中的室内环境数字化流程。
- 域名
ai.meta.com- 评分
- 5 · 重大发布
- 发布
- 2024-03-19
导读
Meta Reality Labs Research 推出 SceneScript,一种用语言序列描述室内 3D 场景几何与布局的方法。当前 MR 头显如 Meta Quest 3 依靠摄像头或 3D 传感器采集原始视觉数据,再用预设规则把数据拼成墙、天花板、门等几何形状;这套启发式流程在几何不规则的空间里常出错。SceneScript 改用端到端学习,让模型直接从视觉数据推断房间几何,输出一段紧凑、完整、可读的场景表示,占用几个字节就能描述一间屋子,并允许人工编辑。
训练思路借鉴大语言模型的下一个 token 预测。Llama 预测的是文本中的下一个词,SceneScript 预测的是 wall、door 一类的建筑 token。物理空间没有像网络文本那样现成的大规模训练语料,团队转而用合成数据:Aria Synthetic Environments 包含 10 万个唯一的室内环境,每个环境用 SceneScript 语言描述,并配有一段沿用 Project Aria 眼镜传感器特性的模拟巡视视频。模型在仿真中完成训练以保护隐私,再用 Project Aria 的真实拍摄素材验证泛化能力,该数据集已对学术界开放。
SceneScript 的可扩展性同样值得关注。在场景语言里增加几个参数,模型即可预测门的开合角度;继续扩充语法,可定位物体并把沙发拆解为靠垫、扶手、腿等组成部分。对未来的 AR 眼镜而言,这类结构化空间表示能支撑无障碍导航等应用;对大语言模型而言,它提供了推理物理空间所需的词汇,使助手能回答"这张书桌放得下卧室吗""粉刷这间屋子要几桶漆"之类的空间问题。