Anthropic 发布大模型决策歧视评估与缓解研究

Anthropic 在这篇研究中提出一种可前瞻评估大语言模型决策歧视风险的方法，针对的是融资资格、住房资格等高利害场景。团队用一个 LM 自动生成大量可能进入决策环节的提示词，覆盖 70 个社会决策情境，并系统性地变动每条提示词中的人口学信息，从而在尚未实际部署的假设性场景里也能测出歧视模式。

把这套方法施加在未做干预的 Claude 2.0 上，团队报告了正向歧视与负向歧视两种模式同时出现的现象，并未把模型简单标记为'中性'。配套发布的政策备忘录与 huggingface 数据集 Anthropic/discrim-eval 把提示词与评测细节开源，让外部研究者可以在自家模型上复现同一套测量。研究并不主张把语言模型用于上述高风险自动决策，而是把方法学定位为风险测量工具，并展示了通过精心设计的提示词工程可以显著压低两个方向上的歧视幅度，为合规可用的场景提供干预路径。

这一发布对企业、监管者与研究者三方都有可操作性。开发者可以在上线前用同一套提示词扫描自家模型的群体差异；政策制定者拿到了一种可量化的评测语言，而不是停留在概念层面的公平讨论；研究社区则获得一个可直接比对的基准数据集。研究本身也提示了局限，例如 LM 生成的提示词覆盖范围依赖于生成模型本身的偏见分布，未来工作需要进一步检验跨模型与跨语种的稳健性。