OpenAI · 大模型
OpenAI 发布 O1 系统卡
OpenAI 发布了 O1 模型的系统卡，详细披露了该模型在安全、对齐、偏见和滥用风险方面的评估结果与防护措施。O1 作为具备推理能力的模型，在复杂任务上表现突出，但系统卡也指出了其在某些场景下的潜在风险。这份文档为开发者与研究者提供了透明化的技术参考，有助于理解 O1 的能力边界与安全设计。
- 域名
openai.com- 评分
- 5 · 重大发布
- 发布
- 2026-05-22
导读
OpenAI o1 System Card 是 o1 模型族的安全披露文档，2024 年 12 月 5 日发布，覆盖 o1 与 o1-mini 两个版本。文档指出 o1 经大规模强化学习训练出链式推理能力，可在回答前生成长程思维链，从快速直觉式回应转向更审慎的慢思考。OpenAI 把这种机制称为 deliberative alignment，让模型在面对潜在不安全提示时能在上下文里推理自家安全策略。
Preparedness Scorecard 把 o1 评为 Cybersecurity 低风险、CBRN 中等、Persuasion 中等、Model Autonomy 低，按内部规则只有缓解后评分 medium 及以下才能部署。Disallowed Content 评估给出具体数字：Challenging Refusal Evaluation 上 o1 的 not_unsafe 从 GPT-4o 的 0.713 升至 0.92，WildChat 毒性子集达到 0.98。多模态拒答评估里，o1 的 not_overrefuse 从 GPT-4o 的 0.48 升至 0.96。
文档同时披露 o1 接受了美国与英国 AI 安全研究所的部署前评估，以及外部红队测试。OpenAI 关注链式思维本身可能带来的欺骗风险，开始建设 chain-of-thought deception monitoring。这份 System Card 为开发者与监管方提供了 o1 能力边界与安全机制的官方参考。