在使用AI模型时，常常面临像黑箱一样的困惑：虽然能获得结果，但不知道这些结果是如何生成的，也不清楚算力的使用是否高效，内部机制是否存在冲突。研究表明，大部分神经元实际上只承担单一职责，这使得模型内部的可解释性变得更加直观，显示出网络结构的清晰性并非难以理解。Goodfire的研究员Nick Cammarata曾参与OpenAI早期可解释性研究，并启动了其首个大规模自动化可解释性项目。他在一篇文章中重新审视了曾令他感到悲观的经典论据。Menlo Ventures的合伙人Deedy Das在社交媒体上推荐了这项研究，称其为AI领域的重要发现，并概述了其中的主要结论。

现代AI模型在理论上已于数学上达到超人类水平，能够攻克实际的生产环境系统，同时也正在改变白领工作的本质。深入理解模型的内部机制将有助于设计更加精确的模型并调整其行为。该研究挑战了机械可解释性理论，指出要追踪模型内部计算的方法。早期的担忧是，神经元可能会将无关的信息混合在一起，导致模型变得复杂。实际上，研究发现神经元的工作机制虽然不一定与人类词汇一一对应，但网络结构的清晰性可以被追踪，通过实验进行验证。

研究中提出了三个核心概念：多义性、叠加和递归泛化。多义性是指神经元表面上似乎有多个功能，难以统一解释，这不仅反映观测到的结果，也可能暴露出观察者和工具本身的问题。叠加则是当网络资源紧张时，不同且很少同时出现的内容可能被分配到同一神经元上，而递归泛化描述了神经元围绕其主要职责形成分支的过程。 南宫28ng娱乐最新官网

在分析视觉模型时，早期的工具对输出的可解释性仅有5%，经过改善后提升至50%。现代架构的ConvNeXt模型显示出约99%的神经元易于解释。研究者对不同规模的模型进行实验，发现神经元在小规模模型中负责更宽泛的概念，随着模型规模增大，职责逐渐细化。传统的“猫车神经元”解释被修正后发现，其实它识别的是共同的特征，而并非同时探测多种事物。

在语言模型上，2023年的研究表明，神经元的贡献主要集中在少数功能上，初步审计显示约90%的神经元只回应单一主要职责，少部分神经元涉及几项职责。这些观察结果揭示了不同层次和结构对神经元功能的影响，进而影响可解释性的评估，并证实了早期结果较低是由于多重限制的影响。