DeepMind · 大模型
DeepMind 提出神经网络关系推理方法
DeepMind 发布了一项关于神经网络关系推理的研究成果。该方法旨在让模型理解对象间的复杂关系,而不仅仅是识别单个实体。通过对关系结构进行显式建模,模型在需要逻辑推断的任务上表现出更强的泛化能力。这一方向对于提升 AI 在科学发现、常识推理等领域的表现具有潜在影响。
- 域名
deepmind.google- 评分
- 5 · 重大发布
- 发布
- 2025-12-03
导读
DeepMind 在两篇并行论文里给神经网络补上了关系推理这一块短板。第一篇提出 Relation Network 模块,第二篇是 Visual Interaction Networks,论文同步挂在 arXiv 上,编号 1706.01427 与 1706.01433。研究的出发点很直白:人类的智能很大程度上依赖对实体之间关系的把握,从拼凑侦探小说的线索,到判断买猕猴桃还是芒果,背后都是关系推理在起作用,而当时的深度学习方法在处理非结构化输入时往往不显式考虑对象之间的关系。
RN 模块的做法是把网络从输入里抽出的对象表征两两配对,逐对送入同一个共享的 MLP 算出关系分量,再把所有分量加起来形成最终输出。这样训练出来的对比逻辑无需手写规则,由端到端训练自行学到。研究团队用 CLEVR 视觉问答数据集做测试,标准模型当时停留在 68.5%,人类水平 92.5%,加上 RN 模块的网络拿到了 95.5%,跨过了人类基线。文本任务 bAbI 上同样的模块在 20 个子任务中有 18 个超过 95%,归纳推理那一类原本对老模型很棘手,这次反而是 RN 的强项。Visual Interaction Networks 则面向物理推理,从几帧视频里推断台球碰撞、弹簧、行星运动等场景下的物体状态,并外推数百步之后的位置。
对读者来说,这两项工作传递的信号是:关系推理可以拆成可移植的小模块,不必另起炉灶设计专用架构。RN 是即插即用的,能直接挂在视觉或语言主干后面,让模型学会在新对象组合上泛化,这一思路也为后来的图神经网络与关系归纳偏置研究铺好了底色。