[控场AI]
· 4 分钟阅读· 2,222 字

DiSARM:用大模型挖掘「意外又多样」的关联规则

DiSARM:用大模型挖掘「意外又多样」的关联规则

DiSARM 用 LLM 评判关联规则的主观有趣性,并与统计可靠性和多样性结合。

文章介绍了混合框架 DiSARM,旨在解决关联规则挖掘中「规则多但有用者少」的问题。传统 ARM 依赖支持度、置信度、提升度等客观指标,能保证统计可靠性却无法判断规则是否反常识;已有的主观有趣性度量又依赖人工标注、难以规模化。DiSARM 借助 LLM 的世界知识评估规则的主观惊讶度,同时保留统计约束并主动促进结果多样性,避免单纯依赖 LLM 带来的可扩展性与可靠性隐患。在三个交易型数据集上的实验显示,该框架能兼顾统计可靠性、意外性与多样性。文章也指出其局限:实验规模有限、未披露具体数值,LLM 的知识偏差与调用成本仍是落地障碍。

探索性数据分析(EDA)的目标是从海量数据中找出有信息量的模式。对于交易型数据,关联规则挖掘(ARM)是一种成熟手段,能高效生成候选模式。但「挖得多」不等于「挖得有用」——如何从成千上万条规则里挑出真正让人眼前一亮的那几条,一直是研究难点。近期一篇论文提出混合框架 DiSARM,试图用大语言模型(LLM)的世界知识来评判规则的「主观有趣性」,同时兼顾统计可靠性与结果多样性。

DiSARM 论文源页面

关联规则挖掘的老问题:有趣性怎么量

传统 ARM 依靠支持度、置信度、提升度等客观指标筛选规则,这些指标能保证统计上的可靠性,却无法回答「这条规则是否反常识」。举例来说,「买尿布的人常买啤酒」之所以成为经典案例,恰恰是因为它出乎意料,而不是因为它的提升度有多高。

为弥补这一缺口,研究者先后引入主观有趣性度量,试图把人的背景知识纳入评价体系。但主观度量往往依赖人工设定或领域专家标注,难以规模化。LLM 的出现提供了一条新路径:模型本身携带大量世界知识,可以直接判断一条规则是否「令人惊讶」。论文正是抓住这一点,把 LLM 作为主观有趣性的评估器。

支持度、置信度与提升度是关联规则挖掘中最常用的三个客观指标。支持度指规则前件与后件同时出现的交易占总交易的比例,衡量规则的普遍性;置信度指在前件出现的条件下后件也出现的概率,衡量规则的可靠性;提升度则是置信度与后件单独出现概率的比值,大于 1 表示前件对后件有正向促进作用。这三个指标共同构成了传统 ARM 的筛选基础,但它们都是纯统计量,无法表达「这条规则是否符合人的预期」——一条提升度很高的规则可能只是众所周知的常识,而一条提升度中等的规则反而可能极具洞察价值。正因如此,客观指标与主观有趣性之间始终存在一道鸿沟,这也是后续引入 LLM 评判的出发点。

DiSARM 的核心思路:混合而非替代

DiSARM 的关键设计在于「混合」。论文明确指出,单纯依赖 LLM 存在可扩展性与统计可靠性两方面的隐患——LLM 调用成本高、输出可能不稳定,而且它对频繁模式的判断并不天然等同于统计显著性。

因此 DiSARM 在既有 ARM 研究的基础上,让 LLM 负责评估规则的主观有趣性(surprise),同时保留统计可靠性约束,并在筛选过程中主动促进规则之间的多样性。换句话说,它不把 LLM 当作唯一的裁判,而是把它嵌入一个仍然尊重统计学的框架里。这种分工让系统既能发现反直觉的模式,又不至于选出统计上站不住脚的规则。

主观有趣性(subjective interestingness) 与客观指标的核心区别在于:它依赖评价者已有的背景知识。一条规则是否「令人惊讶」,取决于观察者原本是否已经知道前件与后件之间存在关联。在 DiSARM 之前,这类度量通常通过领域专家打分、贝叶斯网络中的先验概率或基于信息论的意外性公式来实现,但前者无法规模化,后者又需要预先构建知识库。LLM 之所以适合承担这一角色,是因为其预训练语料本身就是一个覆盖广泛常识的隐式知识库,可以直接以自然语言判断「买 X 的人买 Y」是否反直觉。不过需要注意,LLM 的惊讶判断是概率性的、可能随提示词变化,因此它适合作为主观信号的来源,而不适合单独承担筛选决策。

三个数据集上的表现

论文在三个交易型数据集上进行了实验。结果显示,DiSARM 能有效将统计可靠性与「意外性」和多样性结合起来,为从交易数据中进行 ADE(关联发现与探索)提供了一条有前景的路径。

说个细节,实验规模限于三个数据集,论文并未披露具体的性能数值或对比基线细节。从摘要层面的表述看,其贡献更多在于框架设计思路——即如何组织 LLM 与统计方法的协作——而非某一项指标的绝对领先。

对 EDA 工作流的潜在影响

如果这类混合框架成熟,受影响的将是整个探索性分析流程。分析师不再需要手动翻阅冗长的规则列表,而是让系统优先呈现那些既统计显著、又超出常识预期的规则。这对零售、推荐、风控等依赖交易数据的场景尤其有价值。

不过也要看到局限:LLM 的「世界知识」带有训练数据偏差,它认为「惊讶」的规则未必对特定业务真的新鲜;此外,大规模规则集的 LLM 评估成本仍是落地障碍。DiSARM 选择混合路线,本身就是对这些现实约束的回应。

结果多样性(diversity) 在规则挖掘中指的是被选出的一组规则彼此之间在覆盖项集或模式结构上尽量不重复。如果只按有趣性排序取 Top-K,很容易得到大量高度相似的规则——例如都围绕同一个热门商品展开的变体,导致列表看似很长、实际信息量有限。常见的多样性促进手段包括最大边际相关性(MMR)以及在贪心选择过程中对已选规则覆盖的模式施加惩罚。DiSARM 在筛选阶段主动引入多样性约束,实质上是把「一组规则的整体信息覆盖」而非「单条规则的得分」作为优化目标,这与 EDA 希望快速了解数据全貌的诉求是一致的。

小结

DiSARM 的价值不在于宣称 LLM 能取代统计方法,而在于展示了一种务实的分工:统计指标守住可靠性底线,LLM 提供主观惊喜,多样性机制防止结果同质化。对于关注 LLM 在数据分析中落地的读者,这是一个值得跟踪的方向。

#DiSARM#关联规则挖掘#大语言模型#探索性数据分析#主观有趣性#ARM#EDA
分享:

相关推荐