Goodfire
专注于AI可解释性(interpretability)研究的机构,研究方向包括机械可解释性和激活引导等技术,致力于理解神经网络内部行为机制
时间轴 (近 90 天)
Goodfire报告,在图像网络中丢弃最小的四分之三读数,准确率只从72%降到71%。
2025年10月,Nick Cammarata通过可解释性公司Goodfire发表了一篇未经同行评审的长文,提出「猫车神经元」实际上是在区分「尖对圆」,而非同时编码猫和车。
Goodfire销售可解释性工具,Anthropic在2025年投资了Goodfire,三名Anthropic研究者对Cammarata的文章提供了反馈。
在Qwen3-32B的谜题测试中,模型给出圣诞老人99.7%的概率;关掉20个自动标签为「圣诞」或「圣诞老人」的神经元后,概率只降到76%。
Goodfire的Nick Camerota发表研究《Neural Networks Are Already Clean》,提出神经网络本质上是干净的,混乱可能源于观测工具而非网络本身。
Goodfire 更强调工具化和产品化,与学术界的可解释性研究相比,其研究员的公开观点天然带有产业视角。
Nick Cammarata 是 Goodfire 公司的研究员。
Goodfire 是一家专注于 AI 可解释性工具开发的初创公司。
Goodfire研究员Nick Camerata发表长文,核心论点是神经网络内部并非混乱叠加,而是可解读的。
Base Labs宣布与Hugging Face、Goodfire达成一项面向开源权重模型的AI安全合作
还有 1 条时间轴事件
全部知识事实 (11)
在Qwen3-32B的谜题测试中,模型给出圣诞老人99.7%的概率;关掉20个自动标签为「圣诞」或「圣诞老人」的神经元后,概率只降到76%。
50%待验证Goodfire报告,在图像网络中丢弃最小的四分之三读数,准确率只从72%降到71%。
50%待验证Goodfire销售可解释性工具,Anthropic在2025年投资了Goodfire,三名Anthropic研究者对Cammarata的文章提供了反馈。
50%待验证Goodfire的Nick Camerota发表研究《Neural Networks Are Already Clean》,提出神经网络本质上是干净的,混乱可能源于观测工具而非网络本身。
50%待验证Goodfire 更强调工具化和产品化,与学术界的可解释性研究相比,其研究员的公开观点天然带有产业视角。
50%待验证Nick Cammarata 是 Goodfire 公司的研究员。
50%待验证Goodfire 是一家专注于 AI 可解释性工具开发的初创公司。
50%待验证Goodfire研究员Nick Camerata发表长文,核心论点是神经网络内部并非混乱叠加,而是可解读的。
50%待验证Goodfire专注于可解释性(interpretability)方向的研究
50%待验证2025年10月,Nick Cammarata通过可解释性公司Goodfire发表了一篇未经同行评审的长文,提出「猫车神经元」实际上是在区分「尖对圆」,而非同时编码猫和车。
50%待验证Base Labs宣布与Hugging Face、Goodfire达成一项面向开源权重模型的AI安全合作
60%