Anthropic 发布 Claude 宪法

Anthropic 在 2023 年 5 月公开了 Claude 所用的 Constitutional AI 训练原则，并在 2026 年 1 月 21 日更新发布新版本。Constitutional AI 用明确的成文条款取代隐式的人类反馈来塑造模型行为：训练分两阶段，第一阶段让模型依据原则对自身回答进行批评与修订，第二阶段以 AI 生成的反馈替代人工偏好数据进行强化学习。Anthropic 在测试中观察到 Pareto 改进，CAI 训练的模型在对抗输入下既更无害也更有用，且无害性数据完全来自 AI 监督而无需人工标注。

这部「宪法」的原则有多个来源。基础部分参考《世界人权宣言》，覆盖自由、平等、生命安全、反酷刑、隐私、思想与表达自由、劳动与受教育权等；针对 1948 年文本未涉及的数字时代议题，Anthropic 借鉴了 Apple 服务条款这类全球平台规则，加入与数据隐私、在线伪装相关的条款。为了避免单一文化视角，团队特别列入鼓励模型考虑非西方读者、非工业化文化背景的若干条款，并整合了 DeepMind Sparrow 规则中关于刻板印象、攻击性、医疗法律金融建议边界、阴谋论等内容。还有一部分来自 Anthropic 自有研究的迭代，例如要求模型在表达伦理立场时保持比例感，避免说教或好斗。

Anthropic 在文中坦承宪法既未定稿，也未必最优，目的之一就是引发其他机构对 AI 宪法设计的讨论。模型每次自我批评或在强化学习阶段做偏好选择时，会从原则集合中抽取一条而非逐一遍历，但整个训练过程中每条原则都会被多次使用。这种显式条款化路径的好处是透明，可被外部审视与调整，也减少了人工查看大量有害内容的需要；其代价则是要不断在抽象原则与具体行为之间打磨，Anthropic 也提到正在探索更民主化的宪法制定方式以及针对特定场景的可定制版本。