OpenAI 发布 Reptile

Reptile 是 OpenAI 于 2018 年 3 月发布的元学习算法，作者为 Alex Nichol 与 John Schulman。算法的核心循环是反复采样一个任务，对其执行 k 步 SGD，然后把初始参数 Φ 朝任务训练后参数 W 的方向更新，更新公式为 Φ ← Φ + ε(W − Φ)。与 MAML 相比，Reptile 不需要展开梯度下降的计算图，也不需要计算二阶导数，只需对优化器的黑箱访问即可，计算量与显存开销显著更低。

论文用 Taylor 展开分析了 Reptile 为何有效。当 k = 1 时算法退化为多任务联合训练，对零样本学习不可解的情形几乎无效；k > 1 时更新依赖损失函数的高阶项，等价于最大化同一任务不同 minibatch 梯度之间的内积，这对应于改善泛化能力。分析还指出 Reptile 与 MAML 实际上执行了形式相似但权重不同的更新，可能也为 SGD 的泛化性质提供了线索。

在 Omniglot 与 Mini-ImageNet 这两个 few-shot 分类基准上，Reptile 与 MAML 表现相当，且由于更新方差更低收敛速度更快。OpenAI 同时发布了 TensorFlow 实现以及一个基于 PyTorch 的 few-shot 正弦回归示例代码，连同 JavaScript 端的交互演示，让读者可以在浏览器里画三个形状测试 1-shot 分类效果。Reptile 后来成为元学习教学中最常被引用的简洁基线之一。