OpenAI · 视频生成模型
OpenAI 发布 Sora System Card
OpenAI 发布了 Sora System Card,这是一份针对 Sora 视频生成模型的安全与能力技术报告。文档详细说明了模型在部分场景下的局限、潜在风险以及 OpenAI 为降低危害所采取的措施,包括内容过滤、使用限制和透明度机制。System Card 的公开为研究者与开发者评估模型行为提供了参考依据。
- 域名
openai.com- 评分
- 5 · 重大发布
- 发布
- 2026-05-22
导读
OpenAI 发布 Sora System Card,针对 Sora 文本到视频生成模型给出系统化的能力与风险评估。 文档对照其 Preparedness Framework 列出深度伪造、未授权人物形象、版权与误导信息四个主要 风险面,并说明红队测试方法、内容来源溯源 C2PA 元数据嵌入、模型可生成与拒绝场景的判定 规则。
在缓解措施上,Sora 默认在生成视频中嵌入不可见水印与可视化角标,并在 prompt 与输出两端 分别布置内容过滤器。涉及公众人物、儿童与暴力场景的请求在 API 层即被拦截;用户上传图像 作为参考时,会先经过身份相似度比对再决定是否允许进入生成。
文档的价值在于把过去对视频生成模型的抽象担忧转化为可核查的部署边界。下游应用开发者可 以据此判断哪些产品场景能直接接入 Sora、哪些需要额外审核层。对研究者而言,System Card 也提供了视频模态独有的评估维度,可作为后续公开数据集与红队工具集设计的参照。
