Anthropic · 安全

Anthropic 研究大语言模型的道德自我纠正能力

Anthropic 发表了一项关于大语言模型道德自我纠正能力的研究。该工作探讨了模型在生成有害或不当内容后，能否不依赖外部提示或内部机制下自行修正输出。研究揭示了当前模型在道德推理上的局限，以及通过对齐训练提升自我纠正效果的潜力。这项工作对 AI 安全与伦理治理有直接参考价值。

导读

这条暂时没有深度导读，点上方「访问项目本体」直接到源页面查看。