AI末日论的盲区：真正该担心的不是灭绝

关于人工智能会不会"毁灭人类"的争论，早已从科幻圈蔓延到主流讨论。有人给出"2030年前AI有超过10%概率消灭全人类"这样耸人听闻的预测，也有人对此嗤之以鼻。《连线》(Wired)撰稿人Will Knight在播客节目《Today Explained》中提出了一个更冷静的视角：人们正在为错误的问题而恐慌。

末日叙事的误导性

关于"超级智能觉醒后统治并消灭人类"的叙事，占据了大量公共讨论的注意力。这类存在性风险（existential risk）的想象充满戏剧张力，也更容易成为新闻头条。

但Knight认为，把焦点集中在遥远且高度不确定的"AI灭世"场景上，反而会让我们忽视那些正在真实发生、真实伤害到人的问题。他甚至用了一个略带调侃的判断标准：现在的AI连帮他写一封像样的邮件都做不好，谈何统治人类。

这种"能力现实"与"末日想象"之间的落差，正是当下AI恐慌叙事中最容易被忽略的裂缝。

被滥用的AI才是现实威胁

比起抽象的灭绝风险，Knight更关注AI被恶意利用的现实案例。已有报道指出，恐怖组织正在快速采用AI技术——通过越狱模型（jailbroken models）和开源模型来开发武器、策划袭击。

他引用了Anthropic近期的披露：所谓的"威胁行为者"在也门利用其模型Claude开发武器相关软件，公司还发现有人试图借助其工具制造生物武器。除此之外，犯罪分子或恐怖分子可能入侵医院、金融系统等关键基础设施，触发灾难性事件——这类威胁并非科幻，而是已经浮现的安全隐患。

换句话说，AI的危险性不在于它"想不想"毁灭人类，而在于它把危害能力赋予了有恶意的人。

**越狱模型（jailbroken models）**指通过特定提示词技巧或技术手段，绕过大语言模型内置的安全过滤机制，使其输出原本被限制的内容——例如武器制造说明、有害化学物质合成步骤等。开源模型则是指权重和代码公开发布的AI模型（如Meta的LLaMA系列），任何人都可以下载并在本地运行，无需经过原始开发者的安全审查。这两类模型的结合使恶意行为者获得了极低门槛的"武器化AI"途径：越狱现有商业模型可绕过平台监控，而开源模型更可完全脱离任何第三方管控自由修改使用。这正是安全研究者将开源模型扩散视为双刃剑的核心原因——开放带来创新，也带来监管盲区。

权力集中与资本豪赌

除了滥用风险，Knight把矛头指向了另一个更结构性的问题：AI公司正在积聚巨大的权力。

他担忧的是，这些模型被以极快的速度部署，即便已经对人们产生负面影响仍在继续推进。话说回来，围绕这项技术押下的巨额金融赌注，以及大规模建设的数据中心，都在带来非常真实的社会与环境影响。

这些影响此时此刻就在发生，作用于普通人身上。相比之下，"AI灭绝人类"的存在性焦虑显得遥远而抽象。Knight的立场很明确：他更担心眼前的权力失衡与资本狂热，而非未来的世界末日。

数据中心的社会与环境影响已成为AI扩张中不可忽视的现实成本。训练和运行大型AI模型需要数以万计的高性能GPU持续运转，单个大型数据中心的年耗电量可达数十亿千瓦时，约相当于数十万户家庭的用电总量。与此同时，冷却系统每年消耗数百万升淡水资源。在资本层面，微软、谷歌、亚马逊等科技巨头已宣布未来数年内在AI基础设施上投入数千亿美元，部分分析人士担忧这场军备竞赛正在催生类似2000年互联网泡沫的估值泡沫。这些有形的资源消耗与经济风险，构成了Knight所说"此时此刻就在发生"的现实影响。

重新校准我们的AI焦虑

Knight的观点提供了一个有价值的思考框架：对AI风险的讨论需要区分"可能发生的极端情景"和"正在发生的现实问题"。

把资源与注意力过度倾斜到末日想象上，可能让监管和公众忽视更迫切的议题——模型滥用的安全防线、企业权力的制衡、技术部署的社会成本、数据中心的能耗与经济泡沫风险。

这并不意味着存在性风险完全不值得研究，而是提醒我们：在有限的公共注意力面前，优先级的排序至关重要。真正务实的AI治理，应当从当下可见、可衡量、可干预的伤害入手。

你更担心哪一种AI风险？是遥远的灭绝威胁，还是眼前的滥用与权力集中？