多智能体群体为何会集体陷入错误信念？

当AI群体也会「人云亦云」

在金融史上，查尔斯·麦基的经典著作《非同寻常的大众幻想与群众性疯狂》记录了郁金香狂热、南海泡沫等人类群体如何集体陷入非理性信念的案例。如今，随着多智能体系统（Multi-Agent Systems）的兴起，一个值得深思的问题浮现：由大语言模型驱动的AI智能体群体，是否也会重蹈人类「群体性疯狂」的覆辙？

这正是Reddit上一则引发讨论的话题核心——「Extraordinary Multi-Agent Delusions and the Madness of Crowds」。它借用经典书名，探讨一个前沿而关键的问题：智能体「集群」（swarm）是如何收敛（converge）到错误信念上的？

问题的本质：收敛不等于正确

多智能体系统的设计初衷之一，是通过多个智能体的协作、辩论与投票来提升整体决策质量。理论上，群体智慧（Wisdom of Crowds）能够抵消单个个体的偏差。然而，这一机制存在一个被忽视的阴暗面：当智能体之间高度相互影响时，收敛（达成一致）本身并不保证收敛到真相。

问题在于，LLM智能体往往共享相似的训练数据、相似的先验偏见，甚至相似的「幻觉」倾向。当它们在一个系统中相互交流时，一个错误的观点可能会被另一个智能体「确认」，进而形成正反馈循环。这与人类社会中的回声室效应（Echo Chamber）和信息瀑布（Information Cascade）高度相似——每个个体都基于他人的判断来调整自己的判断，最终整个群体锁定在一个错误的共识上。

信息瀑布（Information Cascade） 是行为经济学中的经典概念，指个体在观察到他人行为后，选择忽略自身私有信息、转而跟随他人判断，从而形成链式反应。最早由Bikhchandani、Hirshleifer和Welch于1992年正式建模：当前行者的行动信号足够强烈时，后来者「理性地」放弃自己的独立判断——这意味着整个群体的决策可能仅仅建立在最初几个人的信息之上。回声室效应则进一步描述了封闭信息环境中观点同质化的过程。这两种机制在LLM多智能体系统中尤为危险：不同于人类个体尚有概率持有不同的私有信息，共享同一训练数据的智能体连「私有信息」本身都高度相关，信息瀑布一旦启动，几乎没有异质信号可以打断它。

错误信念是如何传播的

从机制上看，多智能体群体陷入集体错觉通常源于几个因素的叠加。

同质化的根源偏见

当前主流的智能体系统，往往由同一个或同类的基础模型驱动。这意味着它们在本质上并非真正「独立」的决策者。人类群体智慧之所以有效，依赖于个体之间判断的独立性与多样性。而当所有智能体都源自同一模型时，它们的错误是高度相关的——一个模型会犯的错误，其克隆体同样会犯，且会相互强化。

群体智慧（Wisdom of Crowds） 理论由James Surowiecki在2004年系统阐述，其核心前提包含四个条件：意见多样性、判断独立性、去中心化以及存在将个体判断聚合的机制。其中独立性是最脆弱也最关键的一环——Surowiecki明确指出，一旦个体开始相互模仿或受到共同外部信号的影响，群体判断的准确性会急剧下降，群体会退化为「乌合之众」而非「智慧之众」。这一理论框架直接揭示了多智能体系统的结构性缺陷：用同一基础模型实例化多个智能体，在数学意义上等同于对同一随机变量进行相关采样，其聚合结果的方差并不会像独立采样那样随数量增加而收缩，错误也因此无法被平均掉。

相互影响的放大效应

在辩论或协作框架中，智能体会读取并回应其他智能体的输出。如果一个智能体以高置信度（哪怕是错误的高置信度）提出某个论断，其他智能体可能会被这种「语气上的确定性」所误导，放弃自己原本可能正确的判断。LLM对语言表达中的确定性信号非常敏感，这使得错误信念能够像病毒一样在群体中扩散。

缺乏外部校验锚点

当系统缺少与客观现实（如工具调用、真实数据检索）的接触时，整个群体会在纯粹的语言空间内「自说自话」。没有外部的事实锚点，智能体群体的讨论可能越来越脱离现实，最终收敛到一个内部自洽但外部错误的「幻想」上。

对AI系统设计的启示

这个议题的价值，在于它提醒我们重新审视「更多智能体 = 更好结果」这一直觉假设。

增加智能体数量并不必然提升可靠性。如果这些智能体同质化且相互影响，反而可能加速错误共识的形成，制造出一种虚假的信心——系统表面上高度一致，实则集体错误。在高风险应用场景（如金融决策、医疗辅助）中，这种「多智能体错觉」尤其危险。

要缓解这一问题，可能的方向包括：引入真正异质的模型来源以保证判断独立性；设计机制鼓励「异见者」智能体对主流共识提出挑战；为系统接入可靠的外部工具和事实校验环节；以及对群体共识的「收敛速度」保持警惕——过快的一致可能恰恰是信息瀑布的信号。

异见者机制（Devil's Advocate） 在组织决策领域已有成熟实践：指定一个角色专门负责挑战主流共识，以对抗群体思维（Groupthink）。在多智能体系统设计中，这一思路可以被形式化为「批评者智能体」或「红队智能体」（Red-Teaming Agent）——其目标函数与其他智能体相反，专门寻找当前共识的漏洞与反例。另一个值得关注的方向是集成多样性（Ensemble Diversity）：在机器学习领域，随机森林、Boosting等集成方法的有效性正是建立在基学习器差异化上的。将这一原则迁移至多智能体系统，意味着有意引入在架构、训练数据或推理路径上存在真实差异的模型，而非简单复制同一模型——这是将「表面上的多样性」转化为「实质上的独立判断」的根本路径。

从历史照见未来

麦基在近两个世纪前写下的观察，意外地为今天的AI系统设计提供了镜鉴：人类群体会疯狂，机器群体同样可能。理解「集群如何收敛到错误信念」，不仅是一个技术问题，更关乎我们如何构建值得信任的AI协作系统。

在追逐多智能体架构热潮的当下，这一提问本身就具有警示意义——我们需要的不是盲目相互确认的智能体回声室，而是能够独立思考、敢于质疑、并与现实保持校准的智能协作体系。