Nick Cammarata发文称多数神经元功能单一

OpenAI可解释性团队创始人Nick Cammarata发布长文，主张神经网络并非黑箱：借助智能体工具和大规模归因分析，许多神经元可能具有可追踪的主要功能，AI或已接近解决大模型可解释性问题。 他称在对Qwen3-32B的初步审查中，估计约90%的神经元在其正负极上各只有一个主要任务，约7%承担两个相关任务，约2%至4%尚未理解。他指出这些比例取决于激活阈值和“单一任务”的定义方式，并表示这仍不是宣称“可解释性已被解决”。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。