Anthropic · 训练

Anthropic 提出将语言模型分解为可理解组件的方法

Anthropic 发布了一项可解释性研究，提出将大语言模型分解为语义可理解的组件，而非视作黑箱。该方法通过稀疏自编码器提取模型内部的激活模式，使研究者可以定位并分析单个神经元或特征对输出的影响，为语言模型的安全性和透明度提供了新的分析工具。

导读

这条暂时没有深度导读，点上方「访问项目本体」直接到源页面查看。