多智能体医疗系统如何“洗白”偏见？新研究揭示共识背后的不公平

临床大型语言模型正越来越多地以多智能体团队的形式部署，人们假设通过审议可以平均掉个体错误。然而，一项新的研究表明，审议并不能平均掉偏见。在120个真实的MIMIC-IV急诊病例上，针对五个模型家族和四种聚合拓扑的全因子实验显示，没有任何配置能消除差异：所有20个实验单元都延续了其智能体独立答案的方向，导致黑人患者获得更紧急的分诊。每个模型都有一种拓扑会放大其基线差距，但具体是哪种拓扑因模型而异，因此没有一种设计是可靠安全或可靠放大的：差异被转移，从未被消除。

多智能体系统的偏见“洗白”现象

研究人员将这种现象称为“差异洗白”（disparity laundering）。目前应用于临床AI的审计——针对每个模型、每个输出、每个版本——可以认证各个部分，但永远无法认证最终的决策。晚期修复措施失败：公平性指令和人口统计学掩蔽对差距毫无影响，而每个智能体的自我去偏反而会扩大差距，因为偏见已经编码在智能体普通的临床数字中。

MIMIC-IV 是当前临床机器学习研究中使用最广的公开电子健康记录数据集之一，由 Beth Israel Deaconess 医疗中心的重症监护数据脱敏构建，涵盖生命体征、实验室检验、用药、护理记录等高频时序信息。研究者在 MIMIC-IV 中筛选出 120 个真实急诊病例作为评测集，使模型面对的输入在结构与噪声上都贴近临床实际，而不是人工构造的提示词。

分诊（triage） 指患者到达急诊后按病情紧急程度分级排序的过程，常用 ESI 等五级量表。分诊等级直接决定谁先被接诊、占用多少抢救资源，因此任何系统性偏移都会转化为真实的健康不平等。文章所说“黑人患者获得更紧急的分诊”，并非指被优待，而是模型对其病情严重程度的判断整体偏高或偏低，导致资源配置出现与临床需要不匹配的偏差。

聚合拓扑（aggregation topology） 指多个智能体答案如何汇总为最终决策的结构，例如串行接力、轮询、投票、层级汇总等。它在多智能体系统中是一个独立于模型本身的设计变量：同一个模型，换一种拓扑，最终输出可能截然不同。该研究采用全因子实验，即模型家族 × 拓扑的所有组合都被穷举评测，共 20 个实验单元，因而能分离出“模型效应”和“拓扑效应”，而不是只报告某一种搭配的结果。

反事实可见性（counterfactual visibility） 是文中干预有效的关键条件：系统内部必须同时存在一个与原始输入仅在受保护属性上不同的对照视角，并让该视角的结论真正参与审议。若反事实答案只在某个孤立智能体中生成、从不进入汇总，审议就无从比较，偏见也就无法被抵消。这解释了为何“让偏见可见”比“下达公平指令”更有效。

干预措施何时有效？

干预措施只有在使反事实版本在系统内部可见，并通过审议将它们汇集到最终决策中时，才能缩小差距。一个多样视角的集成（diverse-perspective ensemble）既能做到这一点，又能保留团队，无需重新训练或架构更改：在所有五个视角每一轮都汇集的情况下，差异下降了67%到94%，而唯一从不汇集它们的拓扑则是无法可靠修复的拓扑。

对临床AI审计的启示

医疗多智能体系统并不过滤人口统计学偏见；它们将其洗白成看似合理的决策，任何单一版本的审计都无法捕捉。唯一的防御是让偏见可见。这项研究强调了在临床多智能体系统中，需要新的审计框架来检测和解决差异洗白问题，而不仅仅是关注单个模型的输出。