Anthropic 发表大模型可预测性与突现行为研究

Anthropic 这篇政策导向的研究论文，集中讨论大规模预训练生成模型身上一对看似矛盾的属性：在广义训练分布上的损失高度可预测，遵循已被反复验证的 scaling laws；而具体能力、输入响应与输出行为却极难提前预判。论文以 GPT-3、Megatron-Turing NLG、Gopher 等为参照对象，论证这一组合既驱动着行业快速推进大模型开发，又让部署后果难以预先评估。

作者团队的论证分两条线索。一条是收集文献与现实观察中的具体案例，说明不可预测的能力如何转化为社会层面的危害，例如训练损失曲线平滑下行的同时，模型对特定提示的回应会突现新行为或新偏差。另一条是设计两项原创实验，直接演示能力涌现与提示敏感性带来的不可预测后果，并把这种"宏观平滑、微观跳变"的张力与开发者的部署动机、监管者的判断难度结合起来分析。

对读者来说，这篇文章定义了讨论大模型治理时的一个基础话语：scaling laws 能告诉行业接下来花多少 FLOPs、能压低多少 loss，却无法回答模型会出现哪些新能力、在哪些 prompt 上失控。Anthropic 在结尾给出了一份面向政策制定者、技术从业者与学界研究者的干预清单，提醒读者评估、红队测试与发布节奏需要与可预测性曲线分开考虑，是后续大模型评估文献频繁回引的一篇基础研究。