Vendi异常分数：无需调参的异常检测新范式

异常检测是可信机器学习与科学发现中的关键任务，但现有方法往往依赖局部密度、隔离启发式或拟合分布的距离，导致对邻域尺度、划分选择或分布假设敏感。一篇最新研究提出从多样性视角重新定义异常检测，并推出 Vendi 异常分数（VAS），在多个基准上达到领先水平。

传统异常检测的局限

现有异常检测方法大致可分为三类：基于局部密度的方法（如 LOF）、基于隔离启发式的方法（如 Isolation Forest）以及基于拟合分布距离的方法（如 Mahalanobis 距离）。这些方法在实际应用中面临共同痛点：对邻域尺度或划分选择敏感，且往往需要针对不同数据集调整超参数。此外，它们通常依赖强分布假设，在复杂嵌入空间中容易失效。

论文指出，这些局限源于将异常定义为“偏离正常模式”，而正常模式本身难以无假设地刻画。VAS 的出发点则完全不同：它不直接建模正常样本的分布，而是衡量一个样本对数据集整体多样性的贡献。

局部密度方法以 LOF（Local Outlier Factor）为代表：它比较一个样本与其近邻的局部可达密度，密度显著低于邻居者被判为异常。这类方法需要人为指定近邻数 k，k 过小则估计方差大，过大则会把局部异常“淹没”在更大范围的正常样本中，因此对邻域尺度敏感。隔离启发式以 Isolation Forest 为代表：它随机选取特征与切分点构建孤立树，异常样本因更容易被少数切分隔离而获得较短的平均路径长度。该方法依赖随机划分，结果随树的数量与子采样规模波动。基于拟合分布距离的方法（如 Mahalanobis 距离）则先估计正常数据的均值与协方差，再以样本到分布中心的马氏距离衡量偏离程度，其前提是正常数据近似服从单一或混合高斯分布，在复杂嵌入空间中这一假设常被违背。

Vendi 异常分数：用多样性变化衡量异常

VAS 的核心思想简洁而新颖：如果一个样本被移除后，数据集的多样性显著下降，说明该样本承载了独特的信息，很可能是异常；反之，若移除后多样性几乎不变，则该样本可能是冗余的正常点。

这里的多样性由 Vendi 分数度量，它基于样本间的相似度矩阵的谱结构计算，能同时捕捉局部冗余和全局数据结构。VAS 直接比较移除样本前后 Vendi 分数的变化，无需密度估计或空间划分。由于 Vendi 分数仅依赖相似度矩阵的特征值，VAS 自动适应数据的谱结构，不需要任何超参数调优。

从计算角度看，VAS 是非参数方法，且计算复杂度随数据集规模线性增长，这使其在大规模场景下具有实用潜力。

Vendi 分数是一种基于核矩阵谱的多样性度量。给定 n 个样本，先用相似度核（如余弦相似度或高斯核）构造 n×n 的相似度矩阵 K，再将其归一化为迹为 1 的密度矩阵 ρ = K / tr(K)。Vendi 分数定义为该密度矩阵的指数化阶熵，即 exp(H(ρ))，其中 H 为冯·诺依曼熵，由 ρ 的特征值 λ_i 计算：H(ρ) = -Σ λ_i log λ_i。直观上，当样本高度重复时，少数特征值占据主导，熵很小，Vendi 分数接近 1；当样本彼此差异大、谱分布均匀时，熵增大，Vendi 分数接近样本数 n。因此它同时反映局部冗余与全局结构，且不依赖任何聚类划分或距离阈值。VAS 正是利用这一性质：对每个候选样本，比较移除它前后 Vendi 分数的差值，差值越大说明该样本对整体多样性的贡献越独特。

实验验证：跨数据集与架构的领先表现

研究者在 148 个基准嵌入数据集上评估 VAS，这些数据集源自 10 个源数据集和 4 种嵌入架构，覆盖了多样的数据分布和特征表示。实验结果显示，VAS 在这些基准上取得了最先进的异常检测性能。

更值得关注的是，VAS 在 ImageNet 大规模实验中表现出鲁棒性：随着污染率和数据集规模增加，其性能保持稳定。这一点对于实际部署尤为重要，因为真实场景中的异常比例和数据量往往不可控。

污染率（contamination rate）指数据集中异常样本所占的比例。在真实部署中这一比例通常未知且难以控制，许多异常检测方法在污染率升高时性能会明显退化，因为它们依赖对正常数据分布的估计，而异常样本越多，估计偏差越大。VAS 不显式建模正常分布，因此对污染率的变化相对不敏感。ImageNet 实验通过控制污染率与数据集规模来检验这种鲁棒性，其结果对实际场景具有参考价值：工程团队往往无法预知线上数据中异常的比例，方法在污染率漂移下保持稳定，比在理想污染率下取得峰值性能更为重要。

为什么 VAS 值得关注

VAS 的提出代表了异常检测范式的一种转变：从“正常 vs 异常”的二分视角，转向“多样性贡献”的连续视角。这种视角带来的直接好处是摆脱了对密度估计和划分启发式的依赖，同时消除了超参数调优的负担。

对于需要快速部署异常检测的工程团队，VAS 的无需调参特性和线性扩展能力意味着更低的落地门槛。对于研究者，VAS 将多样性度量引入异常检测，可能启发更多基于信息论或谱方法的无监督学习工作。

当然，VAS 的有效性高度依赖于嵌入质量，因为 Vendi 分数基于样本间相似度计算。论文实验覆盖了多种嵌入架构，但实际应用中仍需确保嵌入能保留有意义的语义结构。此外，VAS 目前主要针对表格或嵌入向量数据，在图像、文本等原始输入上的端到端表现有待进一步探索。

总结

Vendi 异常分数通过量化样本对数据集多样性的影响来识别异常，提供了一种无需超参数调优、非参数且线性扩展的新方法。在 148 个基准数据集和 ImageNet 大规模实验中，VAS 均展现出领先或稳健的性能。这一工作不仅为异常检测提供了实用工具，也开辟了从多样性角度理解异常的新思路。