块稀疏特征器：揭开视觉模型神经几何的黑箱

视觉模型内部到底发生了什么

随着深度视觉模型（如 ViT、CNN 及各类多模态编码器）在图像识别、生成和理解任务中持续突破，一个根本性问题始终萦绕在研究者心头：这些模型内部究竟如何组织和表征视觉信息？

这里值得先了解两类主流视觉架构的本质差异。视觉Transformer（ViT）由Google于2020年提出，将图像切割为固定大小的图块（patch）后输入自注意力机制，能捕获全局语义依赖；而经典CNN则依赖局部感受野逐层提取从纹理到形状的层次化特征。ViT的自注意力机制允许任意两个图块之间直接建立联系，这与CNN受限于局部感受野的层次化特征提取形成鲜明对比——在神经几何视角下，ViT倾向于形成更全局、更抽象的特征流形，而CNN的特征空间则呈现出更强的空间局部性和层次性：低层特征对应Gabor滤波器式的边缘纹理，高层特征才逐渐涌现出语义内容。两者在特征空间的组织方式上存在根本差异——这也正是神经几何研究需要区别对待的关键背景。

**神经几何（Neural Geometry）正是试图回答这一问题的研究方向——它关注神经网络在高维特征空间中如何编排、聚类和分离不同的视觉概念。近期围绕块稀疏特征器（Block-Sparse Featurizers）**的研究，为我们提供了一把打开视觉模型「黑箱」的新钥匙：通过结构化的稀疏表征，揭示视觉模型内部特征空间的几何结构，并使其真正具备可解释性。

神经几何：特征空间里藏着什么规律

高维空间中的语义几何

神经几何研究的核心洞察是：视觉模型学到的表征并非杂乱散布于高维空间，而是遵循可测量的几何规律。相似的视觉概念倾向于在特征空间中彼此靠近，形成流形（manifold）结构；不同语义类别则被网络在几何上「拉开」，形成可分离的聚类。

流形假说（Manifold Hypothesis）为此提供了理论基础：真实世界的高维数据实际上分布在嵌入于高维空间的低维流形上。以人脸图像为例，尽管原始像素空间维度极高，但所有合理的人脸图像实际只占据其中极低维的流形区域。在数学上，这意味着尽管图像数据名义上存在于数百万维像素空间，其内在维度（intrinsic dimensionality）可能只有数百乃至数十维。内在维度的测量本身是一个活跃研究方向：两点相关维数（two-point correlation dimension）利用样本点对之间距离的幂律分布来估计局部维度；而更近期的TwoNN方法则通过每个点的两个最近邻距离之比，给出全局内在维度的无参数估计。这些方法为实证回答「模型到底在多少维的有效空间中运作」提供了可操作工具。

近期实证研究（如2023年的PHD、TwoNN等方法）进一步揭示了这一规律的具体数字：CLIP ViT-L/14的内在维度约为70-120维，远低于其1024维的标称特征空间，而监督训练的ResNet-50内在维度则相对更高。这说明对比预训练确实产生了更紧凑的语义流形——所有语义信息被压缩进一个远比激活向量维度更低的有效子空间。这一发现对块稀疏特征器意义深远：如果语义信息本就集中于低维流形，那么理论上有限数量的稀疏块就足以充分捕获模型所编码的全部语义内容，而非需要覆盖整个高维激活空间。

神经几何研究进一步追问：网络学到的流形具有怎样的曲率、拓扑和局部结构？不同语义概念对应的子流形之间距离如何度量？这些问题直接关系到模型的泛化边界与鲁棒性机制。从黎曼几何的视角来看，流形曲率越大的区域意味着局部特征空间的非线性程度越高，模型在这些区域对输入扰动也越敏感——这为研究对抗鲁棒性提供了几何语言。

值得一提的是，对比学习（Contrastive Learning）的流行深刻影响了现代视觉模型的特征空间几何形态。对比学习的核心损失函数（如InfoNCE、NT-Xent）的本质是：拉近同类样本的表征距离，推远不同类样本的表征距离。从几何视角，这一过程等价于在高维球面上对特征向量进行结构化排布——相似概念聚集于同一球面区域，不同概念被推至尽可能远的方向。这种训练目标直接产生了神经几何研究所观察到的语义聚类现象：余弦相似度在对比学习训练后变得具有清晰的语义意义。

对比学习还会产生「对齐性（alignment）」与「均匀性（uniformity）」两种相互竞争的几何属性——前者使正样本对紧密聚集，后者使所有特征均匀分布于超球面，这一张力直接决定了特征空间的局部密度与全局结构，是神经几何分析的重要切入点。Wang & Isola（2020）从理论上证明，InfoNCE损失的优化上界恰好等价于同时最小化对齐损失与最大化均匀性——这为对比学习产生结构化特征空间提供了严格的理论解释，也使均匀性指标成为评估特征空间几何质量的标准工具之一。

理解这种几何结构，不仅有助于解释模型决策依据，也能揭示泛化能力的来源、鲁棒性的边界，以及潜在的偏差所在。

稠密表征的可解释性困境

传统视觉模型的中间层激活往往是稠密的（dense）——每个特征维度都携带部分信息，多个概念被叠加编码在同一组神经元上。这种「叠加态（superposition）」现象，使得单个神经元难以对应清晰的语义，给可解释性研究带来巨大障碍。

叠加态现象由Anthropic研究团队在2022年的论文《Toy Models of Superposition》中系统阐述：当需要表征的特征数量远超可用神经元数量时，网络会利用高维空间中近似正交向量数量远超维度数量的特性（Johnson-Lindenstrauss引理），将多个特征「叠加」压缩编码到同一组神经元上。从几何上理解，Johnson-Lindenstrauss引理指出在n维空间中可以找到指数级于n的近似正交向量集合（约e^n量级）——这意味着即便隐层维度有限，网络依然有「空间」以近似正交的方向叠加编码远超维度数量的特征，且相互干扰极小。更精确地说，该引理保证对于任意ε∈(0,1)，只要目标维度k≥O(log(n)/ε²)，就存在将n个点从高维空间嵌入k维空间同时保持两两距离在(1±ε)倍之内的映射——神经网络正是利用这一几何特性以极高信息密度存储概念，代价是单个神经元失去单一语义，产生「多义性（Polysemanticity）」现象，即单个神经元往往对多种不相关刺激产生响应。

叠加态的程度在不同网络层和不同任务中并不均匀。研究发现，网络中间层往往比输出层表现出更严重的叠加态，而在少样本学习或高度压缩的Bottleneck架构中，叠加态尤为突出。此外，叠加态并非完全随机——不同特征之间的「共用程度」与其在训练数据中的频率和共现规律高度相关，高频共现的概念更可能被叠加编码到相近的神经元方向上。这一规律为块稀疏方法提供了重要启示：如果叠加编码存在结构，那么学习结构化的块划分就能更有效地「还原」叠加前的独立概念，而非盲目进行逐维稀疏分解。叠加态的存在意味着，直接观察单个神经元激活几乎无法获得清晰的语义解读。

研究者很难直接指认「这个维度代表猫的耳朵」或「那个维度代表条纹纹理」——这正是块稀疏方法试图突破的核心瓶颈。

块稀疏特征器：核心原理与设计思路

从稠密激活到块稀疏表征

块稀疏特征器的思路，是训练一个附加的表征模块，将视觉模型原本稠密纠缠的激活，重新映射到一个**块稀疏（block-sparse）**的新特征空间。在这个空间里：

• 大部分特征保持静默：对于任意给定输入，绝大多数特征维度的值为零；
• 少数「块」被激活：每个激活块对应一个相对独立、语义连贯的视觉概念；
• 以块为单位组织：而非单个孤立维度，从而保留概念内部的结构关系。

在数学上，块稀疏表征可以形式化为：给定输入激活向量 x∈ℝᵈ，块稀疏特征器学习一个编码映射 f: ℝᵈ→ℝᴰ（D≫d），使得输出向量按预设块大小 b 划分为 D/b 个块，且任意输入下激活的非零块数量 k≪D/b。训练目标通常包含三项：重建损失（确保信息不丢失）、块级L1/L0稀疏正则化（鼓励块级别稀疏而非逐维稀疏）、以及可选的块内部结构约束（使同一块内各维度呈现语义一致性）。这一形式与组稀疏正则化（Group LASSO）在优化结构上有相似之处，但核心区别在于：Group LASSO要求预先人工指定特征分组，而块稀疏特征器的块划分本身是端到端学习的；此外，过完备的隐层维度设计（D≫d）赋予了其比Group LASSO更强的表达能力——过完备字典能够以更少的激活块重建更丰富的语义组合，因为字典原子之间的角度更加多样化，减少了不同概念方向之间的干扰。

这一设计借鉴了**稀疏自编码器（Sparse Autoencoder，SAE）**在语言模型可解释性研究中的成功经验。SAE的核心技术原理是：在重建损失之外引入稀疏性正则化，将激活向量编码为过完备（over-complete，即隐层维度远大于输入维度）的稀疏表示。训练目标通常由两部分构成：均方误差重建损失（确保信息保真）与L1稀疏正则化项（鼓励隐层激活稀疏）。由于稀疏约束迫使每次前向传播时只有少量隐层单元激活，这些单元往往各自对应更为单一、清晰的语义概念——有效「解耦」了原始激活中的叠加态。Anthropic、DeepMind等机构已将SAE成功应用于GPT类语言模型，发现了大量具有可解释语义的特征方向。

值得注意的是，稀疏编码理论本身有深厚的神经科学根源。Olshausen与Field于1996年在《Nature》上发表的开创性工作发现，若将自然图像表示为过完备字典中少量原子的线性组合，这些字典原子会自发演化为类似V1视觉皮层简单细胞感受野的Gabor滤波器，暗示稀疏性可能是大脑处理视觉信息的基本原则——这一生物启示至今仍是深度学习稀疏方法的重要理论背书。在数学上，求解稀疏表示是NP难的L0范数最小化问题，但在满足约束等距性（Restricted Isometry Property, RIP）的字典下，L1松弛（LASSO）可以精确恢复稀疏解——这为稀疏自编码器中使用L1正则化提供了严格的理论保证，也使块稀疏特征器的方法论在数学上具备坚实支撑。RIP条件本质上要求字典矩阵的任意小子集列之间近似正交，这在随机矩阵下以高概率满足，而深度网络的权重矩阵在训练后往往近似满足此性质，这或许解释了为何L1正则化在实践中效果如此稳健。

在视觉领域应用SAE时，研究者还需额外处理空间位置信息——图像不同区域的特征激活在语义上可能对应同一概念但处于不同空间位置，这要求SAE架构具备一定的位置无关性或位置感知能力，是纯文本SAE所不需要应对的特有挑战。块稀疏特征器正是在SAE基础上，通过「分块」结构进一步适配了视觉信息高度结构化、空间关联强的特性。

为什么「块」结构至关重要

视觉概念往往具有内在的多维结构——同一物体可能同时涉及形状、颜色、纹理、朝向等多个属性。单纯的逐维稀疏会把这些天然关联的属性割裂。

块稀疏的解法是让一组维度协同激活：既保持稀疏性带来的可解释优势，又尊重视觉概念的整体性。从信息论角度看，视觉概念内部各属性维度之间存在高度互信息——例如「条纹」这一概念天然涉及方向、频率、对比度等多个协变量，将这些维度捆绑为同一个块，不仅符合语义直觉，也能减少特征间的冗余编码，提高整个稀疏字典的信息利用效率。从更深层的视觉神经科学角度，人类视觉皮层V4/IT区对复杂视觉属性的编码本就是多维协同的：同一个「面孔选择性」神经元群体会对面孔的身份、表情、朝向多个维度同时响应，这与块稀疏的设计理念在生物层面高度呼应。

值得注意的是，块的划分并非任意的，需要与视觉概念的内在组织结构对齐——理想情况下，一个「块」可能对应某种纹理类型（如条纹、网格）、某类局部形状（如弯曲边缘）或某个高级语义属性（如「毛茸茸的表面」）。如何自动学习这种块划分——而非人工预设——是块稀疏特征器设计中的核心技术难题之一。当前主流探索方向包括：基于谱聚类的后验块发现（先训练稠密SAE，再对学习到的特征方向按激活相关性进行层次聚类）、以及联合学习块划分与编码权重的端到端方案（通过可微的Gumbel-Softmax松弛近似离散块选择）。这两类方案各有取舍：前者灵活性高但划分与编码不协同优化；后者端到端但优化难度大，在高维视觉空间中容易陷入局部最优。这也是其区别于简单分组稀疏（Group Lasso）等传统方法的关键所在。这使提取出的特征更符合人类对视觉语义的直觉理解——这是块稀疏方法区别于普通稀疏表征的本质优势。

技术价值与应用前景

让视觉模型的内部决策「可读」

块稀疏特征器最直接的贡献，是让视觉模型的内部表征变得可检查。研究者可以通过分析哪些块被激活、各块对应哪类视觉模式，来理解模型处理某张图像时「关注」了什么。这为以下场景提供了实用工具：

• 诊断模型错误：定位触发误判的特征块；
• 检测数据偏差：识别模型依赖的捷径特征；
• 审计模型安全性：发现潜在的有害表征。

一个具体的应用场景是医学影像分析。在放射科AI辅助诊断系统中，监管机构通常要求模型能够给出「可审计」的决策依据。块稀疏特征器在此可发挥独特价值：通过可视化激活块对应的图像区域和语义概念，医生可以验证模型是否真正依赖病灶区域的异常纹理做出判断，而非依赖图像采集设备型号、扫描参数等与疾病无关的混淆特征（spurious correlations）。这种可审计性对于满足欧盟AI Act等法规对高风险AI系统的可解释性要求，具有直接的合规价值。欧盟AI Act将医疗影像诊断列为「高风险AI系统」类别，明确要求相关系统具备充分的透明度和可解释性记录，而块稀疏特征器所提供的特征级别的决策追溯，正好填补了当前Grad-CAM等热力图方法在概念级可解释性上的空白。

与机制可解释性研究的深层关联

这项工作与近年蓬勃发展的**机制可解释性（Mechanistic Interpretability）**研究一脉相承。该方向的目标是从电路（circuit）层面理解神经网络的计算过程。这一研究脉络可追溯至2017年前后Distill.pub上的可视化工作：Chris Olah团队通过特征可视化与电路分析，在InceptionV1中发现了多频率检测器、曲线检测器乃至「汽车探测器」等高度结构化的可解释特征，证明CNN并非完全黑箱，而是存在可解读的模块化计算子结构（2020）；Anthropic团队随后对Transformer内部「归纳头（induction heads）」机制进行了深入解析（2022）；近年又有大规模SAE在前沿语言模型上的成功应用。

然而，机制可解释性研究面临一个根本性的评估困境：如何验证一个「解释」是真正揭示了模型内部机制，而非研究者的自我投射？目前主流的评估范式包括：因果干预测试（通过激活修补/ablation实验，验证识别出的特征是否真正参与目标计算）、可预测性测试（用发现的电路预测模型在新输入上的行为，检验解释的泛化能力）、以及最小化完整性测试（验证发现的子图是否足够解释目标行为）。这三种范式构成了「忠实性（faithfulness）」评估的核心框架——一个解释只有通过因果干预的检验，才能被认为真正反映了模型内部计算，而非事后的相关性解读。

对于视觉领域的块稀疏特征器，评估面临额外挑战：视觉概念本身缺乏像语言那样清晰的语义边界，人类评估者对「这个特征块是否对应有意义的视觉概念」的判断本身存在主观性，需要设计更严格的双盲评估协议或基于下游任务性能的客观指标来辅助验证——这是该方向走向成熟必须解决的方法论问题。

此前该领域的重要进展多集中于语言模型。将类似方法拓展至视觉领域面临独特挑战——视觉特征具有更强的空间相关性、层次性和组合性，需要专门设计的结构化稀疏方案才能有效捕捉。将块稀疏特征器推广到更大规模模型（如CLIP、DINO、SAM等视觉基础模型）时，它提供了一种更具可扩展性的自动化分析手段，有望突破人工逐层分析的效率瓶颈。

CLIP（Contrastive Language-Image Pre-training）由OpenAI于2021年提出，通过在4亿图文对上进行对比学习，使视觉编码器学习到与语言语义直接对齐的表征空间，赋予了模型零样本迁移能力；DINO/DINOv2由Meta采用自监督知识蒸馏（self-distillation）方法训练，发现其注意力图谱具有惊人的语义分割能力，无需任何分割标注监督；SAM（Segment Anything Model）则将ViT-H编码器推进到通用分割任务的新边界，其视觉编码器提取的特征被设计为对任意分割提示具有通用响应能力。这些基础模型参数规模从数亿到数十亿不等，内部激活空间维度通常在768至4096维之间，正是这种巨大的参数规模使得自动化解释工具的价值愈发突出。一旦突破这一挑战，意味着我们有望建立跨模态的统一内部解读框架——这对整个AI可解释性研究方向至关重要。

工程层面的潜在收益

除可解释性本身之外，块稀疏表征还可能带来实际工程价值：

• 模型编辑：精准定位概念对应的特征块后，可有针对性地修改模型行为；
• 鲁棒性提升：稀疏、解耦的表征通常对对抗扰动和分布偏移更为稳健；
• 知识迁移：清晰的概念块更容易在不同任务间复用和组合。

在计算效率层面，块稀疏表征还可能带来意外的工程红利。由于大多数块处于零值状态，推理时可以跳过对零块的计算，利用稀疏矩阵乘法（如cuSPARSE、Triton稀疏算子）实现实质性的计算加速。理论上，若激活率为k/（D/b），则计算量可降低至稠密计算的同等比例。值得注意的是，这种稀疏计算加速需要激活率足够低（通常低于10%）才能在现代GPU架构上获得实际收益——GPU的SIMD并行计算特性使得稀疏带来的理论加速往往需要专门的稀疏算子库（如OpenAI的Triton或NVIDIA的cuSPARSE）才能落实为实测延迟的降低，而非仅仅是FLOPs的减少。这使块稀疏表征在边缘设备部署场景下具有额外吸引力——可解释性与效率的双重收益，或许将成为推动该方向从学术研究走向工业应用的重要驱动力。

冷静评估：仍处于早期探索阶段

你可能没注意到，块稀疏特征器目前在技术社区的讨论热度尚不高，仍处于相对早期的探索阶段。这既反映了神经几何与稀疏可解释性研究的入门门槛较高，也说明相关方法还需更多实证验证和社区检验，才能确认其在大规模视觉模型上的普适性与实用价值。

对于关注 AI 可解释性的研究者和工程师而言，块稀疏特征器代表了一个值得持续追踪的方向——它试图在「模型能力」与「模型可理解性」之间架起桥梁，而这正是当前 AI 领域最迫切需要解决的核心命题之一。

结语

随着视觉模型规模和能力的持续扩张，「我们能否真正理解它们」这一问题变得愈发关键。神经几何提供了观察视角，块稀疏特征器则提供了一套可操作的方法论。尽管这仍是一片新兴研究疆域，但其目标——让强大的视觉模型同时变得透明、可控——无疑将深刻影响下一代 AI 系统的构建方式。

核心要点

核心要点

核心要点