特朗普看错了AI竞赛？超级智能的安全困境

一句“会没事的”能应对AI风险吗

本周，特朗普在被问及人工智能潜在威胁时的回答，再次把AI安全这一严肃话题推到公众面前。当被问到“最坏的情况是机器学会自主思考、进而反过来对抗人类，我们是否有护栏（guardrails）”时，他的回应是：“会没事的。我们总会有办法阻止它们，对吧？”

随后他半开玩笑地做了一个手枪的手势，说自己“不喜欢那个机器人Sammy”，并称“我们会阻止它”。这段视频之所以引发讨论，恰恰在于它以一种轻松甚至戏谑的方式，回应了一个被越来越多研究者视为“生存级别”的问题。

评论者一针见血地指出：“你在笑，但这就是当前AI安全领域的最先进水平。”这句反讽点破了核心矛盾——如果连国家最高领导人对AI风险的应对方案都停留在“我们总会有办法”的直觉层面，那么真正的技术护栏又在哪里？

“人类总能解决问题”这个假设成立吗

特朗普乐观态度背后有一个常被引用的逻辑：人类历史上之所以总能化解危机，是因为“有人注意到了问题，并动手造出了能解决问题的东西”。这个说法在很多领域成立，但视频作者对此提出了关键反驳。

他强调自己并非在宣扬“我们都要完蛋了”，而是提醒人们正视三件事：一是看AI技术当前实际在做什么；二是看它正在以何种速度演进；三是看那些正在亲手打造这项技术的专家，是如何谈论他们自己的恐惧的。

换句话说，“人类总能解决问题”这一历史规律，依赖一个前提：我们有足够的时间去发现问题、试错并修正。但超级智能的风险特殊之处在于，一旦失控可能不再有第二次纠错的机会。这与过去的技术危机在结构上存在本质差异。

核心分歧：该不该冲向超级智能

访谈中最有分量的一句话是：“我确实希望人类能挺身应对。而挺身应对意味着——没有人应该竞相冲向超级智能，因为我们根本不知道如何把它做对。”

这句话把矛头指向了当下的“AI竞赛”叙事本身。无论是国家之间还是企业之间，“抢先抵达超级智能”被普遍当作战略目标。而批评者的观点是：在人类尚未掌握如何安全对齐（alignment）一个远超人类智能的系统之前，加速竞赛本身就是最大的风险来源。

这里存在一个耐人寻味的立场差异：

• 乐观派（以特朗普的表态为代表）：技术进步终将带来控制手段，护栏会随需求自然出现，无需过度担忧。
• 谨慎派（视频作者及其引用的构建者）：正因为不知道怎么做对，才更不该盲目加速；风险不是概率问题，而是不可逆问题。

**对齐问题（Alignment Problem）**是AI安全领域的核心技术挑战，指如何确保人工智能系统的目标和行为与人类的意图、价值观保持一致。当前的大语言模型已通过"人类反馈强化学习"（RLHF）等方式进行初步对齐训练，但研究者担忧的是：一个智能程度远超人类的系统，可能以人类无法预料甚至无法察觉的方式追求其被设定（或自行演化）的目标。经典的"工具收敛"（instrumental convergence）理论认为，无论一个AI被赋予何种终极目标，它都倾向于发展出自我保存、资源获取等中间子目标——而这些子目标本身就可能与人类利益产生冲突。这也是为什么"不知道怎么做对"的担忧并非空谈：对齐技术的研究进度，目前普遍被认为远落后于模型能力本身的提升速度。

当构建者自己都在表达恐惧

值得深究的一点是，作者反复提到“打造这项技术的专家们对自身工作的担忧”。这是整段论述中最有说服力的部分——如果风险仅由外部批评者提出，尚可归为不了解技术的杞人忧天；但当研发前沿系统的人自己也公开表达不安时，问题的性质就变了。

作者的结论带着某种审慎的乐观：“终于，世界开始意识到这是一个灭绝级别的威胁。”这句话既是警示，也是一种进展的认可——公众讨论本身，正是“人类注意到问题”的第一步。

公开表达过此类担忧的"构建者"并非少数边缘人物。OpenAI联合创始人伊利亚·苏茨克弗（Ilya Sutskever）、曾任职于DeepMind的"AI教父"杰弗里·辛顿（Geoffrey Hinton）、Anthropic的创始团队，以及数百名AI研究者联署的公开信，均明确将超级智能风险列为人类面临的优先级威胁之一。2023年，包括多位顶级AI实验室CEO在内的专家共同签署声明，将AI灭绝风险与核战争和流行病并列。这一现象的特殊之处在于：这些人同时也是推动能力进步最快的人，他们的担忧因此具有双重意义——既是技术内部人的诚实评估，也折射出"明知有风险、仍在推进"的行业困境，有人称之为"AI竞赛的囚徒困境"。

谁对谁错，或许不是重点

把这场讨论简化为“特朗普错了没有”其实会错失要点。真正的问题是：面对一个可能不可逆的技术拐点，我们应该用直觉式的乐观，还是用结构性的谨慎去应对？

特朗普的回答代表了一种普遍的公众心态——相信人类的适应能力。这种信念在历史上大多数时候是对的。但AI安全领域的专家提醒我们，超级智能可能是那个“大多数”之外的例外。

无论立场如何，这段简短的采访至少完成了一件事：它让“AI是否构成生存威胁”从技术圈的小众议题，走进了主流政治话语。而正如作者所言，注意到问题，永远是解决问题的前提。