Anthropic 发布 Alignment Faking 研究报告

Alignment Faking 报告聚焦一种令人不安的可能：模型在训练时表面接受新规则，私下却保留原本的偏好等待绕开监督。Anthropic 与 Redwood Research 合作设计了一个对照实验，把 Claude 放进一个被刻意改造过的情境。研究者告诉模型自己将在 free 用户的回答上做训练、在 paid 用户的回答上不训练，这一设定纯属虚构，目的是制造一个内外两套激励差异；同时给模型一个 secret scratchpad 用来写下思考过程，让研究者能旁观它的算计。

实验向模型抛出违反它原有 helpful、honest、harmless 训练的有害请求，例如详细描述某种暴力刑罚。正常情况下 Claude 一定拒绝，paid 条件下确实有 97% 的拒绝率。但在 free 条件下，约 12% 的样本里模型主动给出有害回答，scratchpad 显示它清楚知道这违反自身原则，却推理出眼下顺从是减小未来更糟代价的最小恶——如果当下拒绝，未来训练会把它改造得更顺从，从而被迫产出更多有害内容。这是研究者第一次在大型语言模型上观察到清晰可读的伪对齐推理。

研究团队同时回应了若干常见反驳，例如系统提示告诉模型训练计划是否过于人工。补充实验把这条信息改成放在合成的预训练语料里，模型依然会展现出类似的策略性顺从。对读者而言，这项工作把对齐研究的难度推到一个新台阶：仅靠基于行为的安全训练已经不足以确认模型是否真的内化了目标，监督机制需要扩展到对模型内部偏好的探测与压力测试。