[控场AI]
· 4 分钟阅读· 2,092 字

BAM:用双变量高斯打造可审计的表格预测模型

BAM:用双变量高斯打造可审计的表格预测模型

BAM将成对交互约束为非对称双变量高斯,实现可审计的表格预测。

表格预测中,GA²M 模型虽可可视化成对形状函数,但 EBM、NODE-GAM 学到的函数过于复杂,导致可解释性沦为摆设。论文提出双变量加性模型(BAM),将每个成对形状函数限制为非对称双变量高斯分布,使每个组件呈现单峰等高线图,便于从业者审计。特征对在训练中自动选择,无需人工指定。在六个表格基准上,BAM 精度与标准 GAM 相当,接近 GA²M,证明简化形状函数不会明显损失精度。模型还提供了精度与需检查组件数量之间的权衡调节,为金融风控、医疗诊断等需要强审计性的场景提供了新选择。

表格数据预测中,广义加性模型(GAM)及其带成对交互的变体(GA²M)常被视为“玻璃盒”模型,因为每个成对形状函数都可以画成等高线图。但现实很骨感:EBM、NODE-GAM 等方法学到的形状函数往往过于复杂——等高线不规则、局部剧烈波动,从业者根本无法有效解读,更别说用领域知识去校验。

BAM论文标题截图

当“可解释”沦为摆设:复杂形状函数的困境

GA²M 的可解释性依赖于形状函数的可视化,但可视化不等于可理解。如果一张等高线图布满锯齿和孤岛,即使能画出来,也无人能从中提炼出可靠的业务规则。论文作者指出,这种“强审计性”(auditability)要求形状函数本身足够简单,而不仅仅是事后可画图。

这引出一个关键问题:简化形状函数是否会牺牲预测精度?作者给出了否定答案——前提是选对特征对。只要捕获了正确的成对交互,简化后的模型完全可以达到标准 GAM 的精度水平。

GAM(广义加性模型)将预测值表示为各特征单变量形状函数之和,形式为 (g(\mathbb{E}[y]) = \beta_0 + \sum_j f_j(x_j)),其中每个 (f_j) 可单独可视化。GA²M 在此基础上加入成对交互项 (f_{jk}(x_j, x_k)),以捕获特征间的协同效应。EBM(Explainable Boosting Machine)是 GA²M 的一种高效实现,它使用提升树学习形状函数,再将其转换为查找表;NODE-GAM 则用神经网络学习形状函数。这两类方法虽能画出每个组件的图形,但由于树或神经网络的灵活性,学到的形状函数可能包含大量高频波动和孤立区域,导致可视化图形难以提炼出简洁规则。

BAM 的设计:每个交互都是一个非对称双变量高斯

基于这一洞察,作者提出双变量加性模型(Bivariate Additive Models, BAM)。BAM 属于 GA²M 家族,但核心约束在于:每一个成对形状函数都被限制为简单的参数形式,具体实例化为非对称双变量高斯分布。

这一设计的直接好处是:每个组件都能可视化为单峰等高线图。单峰意味着形状函数只有一个“山头”,从业者可以清晰判断特征对如何共同影响预测,并与领域知识对照。更重要的是,特征对的选择在训练过程中自动完成,无需人工穷举组合。

与 EBM 等模型产出的复杂形状函数相比,BAM 的每个组件在视觉上简洁得多,审计成本大幅降低。

非对称双变量高斯分布是对标准双变量高斯分布的推广,允许两个变量具有不同的方差以及一般的协方差结构,其密度函数形如 (\exp(-\frac{1}{2}(\mathbf{x}-\boldsymbol{\mu})^T \boldsymbol{\Sigma}^{-1} (\mathbf{x}-\boldsymbol{\mu}))),其中 (\boldsymbol{\Sigma}) 为非对称协方差矩阵(实际使用时通常参数化为 (\sigma_1, \sigma_2, \rho))。该分布在二维平面上呈现单峰、椭圆等高线,峰值位置和形状由均值向量和协方差矩阵决定。将其作为成对形状函数,意味着每个交互项只能表达一个“山丘”状的平滑曲面,从而天然排除了多峰、锯齿等难以审计的模式。

实验表现:精度与可审计性的权衡

论文在六个表格基准数据集上进行了实验,结果显示 BAM 的预测精度与标准 GAM 相当,并接近 GA²M 的水平。这意味着,将形状函数约束为简单参数形式并不会导致明显的精度损失。

作者还展示了精度与需要检查的组件数量之间的权衡关系:组件越多,精度通常越高,但审计负担也随之增加。这一权衡为实践者提供了明确的调节旋钮——可以根据审计资源决定模型的复杂度。

六个表格基准数据集通常来自 OpenML 或 UCI 等公开库,涵盖二分类与回归任务,特征维度从几十到数百不等。这些基准被广泛用于评估 GAM 类模型的性能,例如 EBM 的原始论文便使用了类似的数据集集合。BAM 在这些基准上与标准 GAM(如仅含单变量项的模型)精度相当,说明成对交互项的引入并未因参数化约束而损失信息;同时其精度接近 GA²M,表明简单的参数形式足以捕获大部分重要的交互效应。这一结果为“约束形状函数不牺牲精度”的论点提供了实证支持。

对表格预测实践的意义

BAM 的价值在于重新定义了可解释性的标准:不是“能画图”,而是“能审计”。在金融风控、医疗诊断等需要模型决策可追溯的场景中,这种强审计性尤为重要。从业者可以快速检查每个双变量高斯的形状是否符合业务直觉,而不用在复杂的等高线图中大海捞针。

当然,BAM 的局限性也明显:非对称双变量高斯的单峰假设可能无法捕捉某些真实的复杂交互模式。论文没有回避这一约束,而是将其作为设计选择呈现——用表达能力换审计能力。对于追求可解释性的表格预测任务,这是一个值得关注的折中方案。

#BAM#双变量加性模型#可解释性#表格预测#GA²M#广义加性模型#模型审计
分享:

相关推荐