Meta AI · 大模型
Meta AI 发布通用博弈 AI 智能体 Rebel
Meta AI 推出 Rebel,一个能在扑克、棋类等多种博弈中达到顶尖水平的通用游戏 AI 智能体。与以往专为单一游戏训练的 AI 不同,Rebel 采用跨游戏泛化策略,将不同规则与状态抽象为统一表示,实现了从德州扑克到国际象棋的零样本迁移。这一成果标志着博弈 AI 从专用走向通用的关键跨越。
- 域名
ai.meta.com- 评分
- 5 · 重大发布
- 发布
- 2020-12-02
导读
Meta AI 与 Carnegie Mellon 合作团队在 2020 年 12 月公布了 ReBeL,一种把强化学习与搜索结合的通用算法。此前 AlphaZero 一类 RL+Search 系统只在完全信息博弈如国际象棋、围棋上取得成功,进入扑克这类不完全信息博弈时就失灵,原因是同一个动作的价值会随被选概率而改变,搜索算法假设动作价值固定即陷入逻辑矛盾。ReBeL 把不完全信息博弈重新表述为以“公共信念状态”为节点的连续状态完全信息博弈,每个公共信念状态记录所有玩家可能持牌的概率分布,让 AlphaZero 范式得以延续。
在算法实现上,团队用一种类似梯度下降的方法即反事实遗憾最小化 CFR 在高维状态空间中搜索,并配合自博弈训练价值与策略网络。无限注德州扑克单挑测试中,ReBeL 击败了顶级人类职业选手,胜率具有统计显著性;同时也用 Liar's Dice 验证了算法的通用性,并将这部分代码开源到 GitHub 供研究社区复现。整套系统使用的领域知识比此前所有扑克 AI 都少。
这项工作的意义在于把曾经各自为战的完全信息与不完全信息博弈算法统一到一个框架下。它没有声称解决全部博弈问题,但提供了一条通往更通用智能体的可验证路径,对谈判、拍卖、网络安全等真实世界中常见的多方隐藏信息决策场景具有方法论参考价值。