Anthropic · 安全

Anthropic 发布大模型决策歧视评估与缓解研究

Anthropic 发布一项关于语言模型决策歧视的系统性研究，从评估方法论到缓解手段覆盖完整。团队设计了多维度测试框架，衡量模型在分配资源、机会等场景是否存在群体偏见，以及根据名字、性别、种族等敏感属性对用户差别对待。实验表明即使模型看似中立的 LLM 的推理路径可能复刻现实偏见，仅存在的人类偏见，但也提出可操作的偏见缓解策略，为行业提供了 AI 公平性落地的技术参考。

域名

anthropic.com

评分

5 · 重大发布

发布

2024-08-05