[控场AI]
公司

Goodfire

专注于AI可解释性(interpretability)研究的机构,研究方向包括机械可解释性和激活引导等技术,致力于理解神经网络内部行为机制

时间轴 (近 90 天)

10月22日

Goodfire报告,在图像网络中丢弃最小的四分之三读数,准确率只从72%降到71%。

待验证50%
10月22日

2025年10月,Nick Cammarata通过可解释性公司Goodfire发表了一篇未经同行评审的长文,提出「猫车神经元」实际上是在区分「尖对圆」,而非同时编码猫和车。

待验证50%
10月22日

Goodfire销售可解释性工具,Anthropic在2025年投资了Goodfire,三名Anthropic研究者对Cammarata的文章提供了反馈。

待验证50%
10月22日

在Qwen3-32B的谜题测试中,模型给出圣诞老人99.7%的概率;关掉20个自动标签为「圣诞」或「圣诞老人」的神经元后,概率只降到76%。

待验证50%
10月22日

Goodfire的Nick Camerota发表研究《Neural Networks Are Already Clean》,提出神经网络本质上是干净的,混乱可能源于观测工具而非网络本身。

待验证50%
10月19日

Goodfire 更强调工具化和产品化,与学术界的可解释性研究相比,其研究员的公开观点天然带有产业视角。

待验证50%
10月19日

Nick Cammarata 是 Goodfire 公司的研究员。

待验证50%
10月19日

Goodfire 是一家专注于 AI 可解释性工具开发的初创公司。

待验证50%
10月17日

Goodfire研究员Nick Camerata发表长文,核心论点是神经网络内部并非混乱叠加,而是可解读的。

待验证50%
9月17日

Base Labs宣布与Hugging Face、Goodfire达成一项面向开源权重模型的AI安全合作

待验证60%

还有 1 条时间轴事件

全部知识事实 (11)

来源文章