Anthropic 发布 Interpretability Dreams 解读机制研究

Anthropic 在这篇 2023 年 5 月的随笔《Interpretability Dreams》中阐述了机制可解释性研究的长期愿景。文章定位为研究路线的纲领性说明，作者承认当下大量精力放在基础问题，特别是叠加问题，但同时希望把视线抬高，让读者看清楚这些地基铺好之后要支撑什么样的研究图景。

问题意识落在叠加这一具体障碍上。神经网络会把多个不相关的概念压缩进同一组神经元，这是单神经元分析失效的根本原因；只有先解开叠加，才能进入下一阶段。文章随后铺开几个长期目标：把可解释性方法扩展到大规模神经网络，把零散的特征发现整合成因果回路级别的理解，把这些理解转化为对模型行为的预测能力与安全干预手段。

作者把这条路线讲得很坦诚。当前的研究因为聚焦地基，长期路径常常显得模糊，外部读者很难判断这些细碎工作通向哪里。这篇文章的作用就是把那条远期路径写明白：哪怕分析一个完整的现代神经网络在朴素视角下看起来根本无从下手，机制可解释性社区相信通过累积的工具与方法可以一步步推进。它后来被 Anthropic 自己的 sparse autoencoder、circuit analysis 与 Claude 内部表征研究反复引用，作为研究路线的源头文献。