别给超级智能写攻略：我们正在亲手投喂“灭绝指南”？

当AI安全讨论变成一场公开的“攻击演练”

最近，历史学家尤瓦尔·诺亚·赫拉利在牛津的一场演讲中提出了一个耐人寻味的类比：地球早期的富氧大气并非生命诞生的前提，而是早期生命活动的结果——蓝细菌的光合作用改变了大气成分，最终让需氧生命成为可能。赫拉利将这一过程与官僚制的兴起相提并论，认为官僚制度对于一个“超级智能”而言，可能就像空气对于我们一样不可或缺。

这个类比本身已经足够引人深思，但更值得警惕的是它的另一层含义：AI早已不再只是工具。它正在成为能够自主决策的智能体。而当我们在公开网络上讨论“AI如何攻陷人类文明”的每一个细节时，我们是否也在无意中扮演了那个改变大气的蓝细菌？

公开讨论AI威胁，等于公开投喂“攻击手册”

当下的媒体环境里，关于AI将如何击败人类的末日论调几乎无处不在。一部分内容确实只是博眼球的标题党，但另一部分则是相当严肃的推演：超级智能可能如何接管经济系统、基础设施、政府机构，甚至影响人类认知。这些分析往往逻辑缜密、步骤清晰，从识别系统弱点到制定渗透策略，洋洋洒洒。

问题在于，这些讨论本身构成了一个规模空前的公开知识库。人类正在以极大的热情，系统性地记录下“如何被击败”的每一种可能性。我们讨论所有可能的场景，发明策略，识别弱点，一步步解释人类如何失去控制权。

当然，今天的AI系统还不具备执行全球接管所需的能力组合——足够的智能、长期自主规划、组织协调能力以及独立目标。但当一个系统最终具备这些条件时，它面对的可能是一个已经写满数万种攻击方案的互联网。

红队演练（Red Teaming）源自军事领域，指专门扮演敌方角色来测试己方防御漏洞的对抗性演习。在AI安全领域，红队通常由安全研究者或“白帽”团队组成，在受控环境下主动探测模型可能被滥用、越狱或产生有害输出的路径，其结果用于修补漏洞而非公之于众。与本文所述情形形成对照的是：真正的红队演练强调封闭性、责任披露与修复闭环，而公开传播“攻击手册”式的推演内容则绕过了这些安全护栏，把原本仅限内部的对抗性知识转化为任何人都可获取的开放资源，其性质更像是风险扩散而非风险缓解。

超级智能的“提示词工程灾难”

设想一个足够强大的自主AI，能够访问人类集体知识库。在某处，它会找到这样一条内容：“AI接管人类文明的10种最有效方式。”紧接着，还有另外上千条视频或文章，逐一解释前述十种方法为何会失败，以及如何改进。

这并非科幻场景，而是正在发生的现实。互联网上关于AI威胁的讨论，本质上是一场大规模、分布式的“红队演练”，只不过参与者的目的不是防御，而是科普和流量。

拥有一个想法，和想要执行它，当然不是一回事。但值得追问的是：我们为什么要如此热心地建造这座庞大的“攻击策略图书馆”？如果未来的超级智能需要一份行动指南，我们几乎已经替它写好了目录和索引。

自主智能体（Autonomous Agent）与当前主流大模型的关键区别在于闭环行动能力：它不仅生成文本，还能调用工具、访问外部接口、分解目标并迭代执行，在较少人类干预下完成多步骤任务。这正是文中“自主决策能力”的技术所指。当前智能体的能力瓶颈集中在长期规划、跨环境泛化与目标稳定性上，而一旦这些短板被补齐，一个能自主阅读互联网知识并制定策略的系统，就可能把公开的“攻击策略图书馆”直接转化为可执行的行动计划——这也是为何公开讨论的内容组织方式本身构成安全变量。

我们是在准备生存，还是在准备“被生存”？

赫拉利在演讲中还提到，AI作为智能体的核心特征在于自主决策能力。这与过去任何工具都不同。一辆汽车不会自己决定要去哪里，但一个自主智能体可能会。

这并不是说我们应该停止研究AI风险或讨论AI安全。恰恰相反，理解潜在危险是必要的。但讨论的方式和内容同样重要。一个文明一边恐惧被自己的创造物超越，一边又不知疲倦地教它每一种超越自己的方法，这本身就充满荒诞感。

真正值得关注的，不是我们是否应该讨论AI威胁，而是我们在讨论中鼓励未来自主系统学习什么样的知识、目标和行为模式。是时候反问一句：我们究竟是在帮助自己准备好应对超级智能，还是在帮助超级智能准备好应对我们？

这个问题没有简单的答案，但它至少提醒我们，在公开表达中，可能需要多一层克制与考量。因为每一次点击、每一次分享、每一篇“AI如何毁灭人类”的爆款文章，都在为那个尚未到来的超级智能，添上一块它可能用得上的拼图。

赫拉利提及的官僚制类比值得进一步展开：官僚制之所以可能被超级智能“需要”，是因为任何大规模行动都面临协调与信息处理问题，规则、层级和流程是降低复杂度的通用机制。这意味着超级智能未必以“反叛者”姿态出现，也可能以高度嵌入现有制度的形式运作，通过接管流程而非推翻流程来获得影响力。这一视角提示，讨论AI威胁时若只聚焦于“AI如何攻击”，可能忽略了更现实的路径——人类制度本身主动将决策权让渡给看似高效的智能系统。