OpenAI · 图像模型

OpenAI 发布 Image GPT

OpenAI 正式推出专用于图像生成的 Image GPT 模型。不同于此前语言模型附带的多模态能力,Image GPT 将视觉生成作为独立优化目标,能够基于文字描述生成构图工整、光影自然的高分辨率图片,在写实风格和语义一致性上均有提升。该模型的发布意味着 OpenAI 在文字与图像两条生成路径上并行推进,为多模态生态补齐了图像生成能力这一环。

域名
openai.com
评分
5 · 重大发布
发布
2026-05-22
OpenAI 发布 Image GPT

导读

Image GPT 是 OpenAI 在 2020 年 6 月发布的视觉表示学习工作,思路是把训练 GPT-2 的方法直接搬到图像。论文把每张图片展开成像素序列,用 transformer 在像素层面做自回归预训练,目标函数就是预测下一个像素,不引入任何卷积或视觉专属归纳偏置。这一选择刻意验证一个假设:纯自回归 transformer 能否在视觉模态上学到有用的表示。

实验给出的核心信号是 linear probe 准确率。在 ImageNet 上,iGPT-XL 的 linear probe 性能与同期对比学习方法接近,证明无监督生成式预训练在视觉领域具备实用价值。论文还提供了 fine-tune 模式下的对比,并附 model card 与详尽消融。技术细节上,团队为节省算力先对图像做了 9-bit 调色板压缩,使序列长度可控。

Image GPT 的意义并不在最终的图像生成质量,而在于把 GPT 的训练范式跨模态迁移,论证了 transformer 加 next-token prediction 作为通用学习目标的可扩展性。这条思路后来被 ViT、MAE、Pixel Transformer 等工作继承与改造,并影响了多模态预训练设计。论文作者包括 Mark Chen、Alec Radford、Ilya Sutskever 等人。