DeepMind · 大模型
DeepMind 提出不依赖人类数据的鲁棒实时文化传播学习方法
DeepMind 提出了一种无需人类数据即可实现实时文化传播的新方法。该方法让智能体在互动中自主演化技能与知识,并保持传播过程的鲁棒性。这项研究为构建持续学习与知识传递的人工智能系统提供了新思路,尤其在动态环境和多智能体场景下具有潜在价值。
- 域名
deepmind.google- 评分
- 5 · 重大发布
- 发布
- 2026-03-03
导读
这篇 2022 年 3 月 3 日发布的 DeepMind 博客,由 Cultural General Intelligence 团队署名,对应 arXiv 2203.00715 上同名论文。研究问题来自一个进化生物学观察:人类之所以能在千百年间把导航路线、数学、社会规范、艺术形式不断累积下来,靠的是一种被称作"文化传播"的机制,即个体之间快速转移信息的能力,单代记忆远远不足以解释这条曲线。作者把这一机制拆解为可在强化学习中实现的目标,让人工智能体在测试阶段实时观察一名专家示范,便能在大量未见过的任务中复现示范者的行为。
实验环境是程序化生成的 3D 世界,智能体须按随机变化的次序进入彩色球形目标,错序会被严厉扣分。研究者预置一个"特权 bot"按正确顺序行动作为示范源,让被训练的智能体在与它共处一段时间后,独立完成同类任务。通过消融实验,论文提炼出一个最小启动套件 MEDAL-ADR:记忆 M、专家退出机制 ED、对专家的注意力偏置 AL,以及自动域随机化 ADR;缺少任何一件,文化传播能力都难以稳定涌现。所得到的智能体不仅能在分布外任务上保持记忆,还会在示范者离场很久之后继续按学到的顺序行动;研究者进一步对策略网络做可解释性分析,发现一小部分神经元专门编码社会信息与目标状态。
对强化学习研究者而言,这项工作给出的更接近一条新的训练范式,超出一次性能曲线的意义。它说明无需人类对局数据,也可以在程序化任务中训练出会"看一遍学一遍"的智能体,并把文化演化作为一种可工程化的算法纳入更通用的智能体研究路线。论文也承认,导航任务只是更广义文化技能的代表,未来需要把同一套训练原则推广到烹饪、寻路、问题求解等更长程的人类技能上。