OpenAI 发布 Energy Based Models

Implicit Generation and Generalization Methods for Energy-Based Models 把能量模型的训练做到了可用规模。能量模型给每个数据点分配一个未归一化的标量能量值，任何输出实数的网络都能充当能量函数，但代价是采样困难。作者借助 Langevin 动力学进行迭代式的带噪梯度下降，把样本逐步带到低能量区域，从而绕开显式生成器。

论文报告了若干应用结果。图像生成上，EBM 样本质量在低温下可与 GAN 相当，同时保留了基于似然模型的模式覆盖保证，并支持自补全和类间形变这类编辑操作。机器人轨迹建模上，EBM 能在长时间步内生成多样的可能未来，而前馈模型会塌缩到均值预测。分布外检测与对抗鲁棒分类上，EBM 在多个 OOD 数据集上优于流模型与自回归模型，即便不为分类专门训练，其条件式版本对对抗扰动的稳健性也强于专门做对抗训练的模型。

作者还诚实记录了若干失败经验：vanilla HMC 在 EBM 上难以稳定，因为最优步长与 leapfrog 数在训练过程中变化剧烈；能量函数集成有一点帮助但不值得增加复杂度；加梯度惩罚会损害容量。论文的最后一点亮点是组合性实验，作者用乘积模型把不同尺寸与不同位置两个能量函数组合起来，生成了训练中未见过的尺寸-位置组合，提示能量模型在结构化生成方向上的潜力。