OpenAI · 大模型
OpenAI 发布 Evolution Through Large Models 研究
OpenAI 发布《Evolution Through Large Models》研究,提出将大语言模型作为进化算法核心,利用其代码生成与推理能力驱动程序种群迭代。该方法在符号回归、设计优化等任务上展现出超越传统遗传算法的效率,为 LLM 在科学发现与工程自动化中的应用开辟了新方向。
- 域名
openai.com- 评分
- 5 · 重大发布
- 发布
- 2026-05-24
导读
Lehman、Stanley 等人提出的 Evolution through Large Models(ELM)把大语言模型作为遗传编程中的变异算子。传统遗传编程依赖随机字符级或语法树扰动,搜索空间巨大且大多数变体都不可执行;ELM 改用经过代码数据训练的 LLM,让模型基于"diff"风格的语料学习人类常见的代码修改模式,从而生成更可能可运行、且更接近人类编辑习惯的程序变体。
主实验在 Sodarace 这一二维行走机器人设计领域展开。研究者把 ELM 与 MAP-Elites 质量多样性算法结合,从一个简单种子程序出发,经过迭代变异与多样性维护,生成出数十万个能在不同地形上行走的 Python 程序——这些设计在 LLM 预训练阶段从未出现过。随后他们用这些示例继续微调一个条件语言模型,使其能针对给定地形直接生成合适的行走器。
该工作的意义不仅在于代码搜索效率的提升,更在于展示了一条"用 LLM 引导进化、再用进化产物反哺 LLM"的闭环路径。这一思路被后来的 FunSearch、AlphaEvolve 等程序自动发现工作沿用,把 LLM 从被动写代码的角色推向科学发现与开放式生成系统的核心。
