Goodfire研究员称LLM机制可解释性被低估

2026年10月20日，MIT Technology Review报道了Goodfire研究员Nick Cammarata发布的长文。Cammarata声称大语言模型的内部机制可能比此前认为的更易于理解和监控，这一观点在AI界引发了争议。他通过对Inception v1等模型进行重新分析，发现神经元并非杂乱无章地存储概念，而是基于视觉模式（如V形）进行逻辑编码。该研究挑战了传统对神经网络黑盒特性的认知，暗示通过特定模式识别可能提升模型的可解释性。目前报道仅陈述了Cammarata的研究发现及引发的争议，未提供其他专家的具体反驳意见或后续验证结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。