教皇良十四世呼吁AI“裁军”：机器是工具而非人

教皇发声：给AI“解除武装”

教皇良十四世在周五的教皇讲话中提出，人工智能系统应当被“解除武装”（disarmed）。他强调，人类“有责任引导、改变，并在必要时拒绝其应用”。这一表态将AI伦理讨论从技术圈推向了全球治理的最高讲台。

“机器是工具，不是人”——这句核心论断直指当前AI争论中的一个根本分歧：我们是否在无意中赋予算法以道德主体地位？教皇的答案是否定的。在他看来，无论AI系统多么复杂，其本质仍是人类手中的工具，责任始终在人这一端。

具体诉求：禁止致命性自主武器

讲话中，教皇良十四世向联合国成员国发出明确呼吁，要求他们在下个月于日内瓦举行的会议上“采取具体步骤，禁止致命性自主武器”。

这一诉求并非空穴来风。致命性自主武器系统（LAWS）长期是国际军控谈判的焦点——当武器系统能够在无人类干预的情况下选择并攻击目标时，谁来为误伤负责？教皇的介入，为这一技术性议题注入了道德重量。

将AI“裁军”的提法本身值得玩味。它借用了核裁军的话语框架，暗示AI的军事化应用可能带来类似级别的全球风险。这种修辞策略有助于推动公众和政策制定者以更严肃的态度对待AI治理。

致命性自主武器系统（Lethal Autonomous Weapons Systems，LAWS）通常指能够在没有任何人类操作员干预的情况下，自主搜索、识别、选择并攻击目标的武器平台。其争议核心在于“有意义的人类控制”（meaningful human control）这一概念：如果机器可以自行决定对谁使用致命武力，责任链条就会断裂，误伤、误判与冲突升级的风险随之上升。

围绕LAWS的国际讨论主要在《特定常规武器公约》（CCW）框架下进行，联合国日内瓦办事处是相关政府专家组会议的常设地点。由于CCW采取协商一致原则，谈判进展长期缓慢，部分国家与民间组织因此推动具有法律约束力的禁止条约。红十字国际委员会、联合国秘书长以及多国政府均曾呼吁对完全自主的武器设定明确限制。教皇此次发声，正是把这一技术性军控议题纳入更广泛的道德话语之中。

人类的责任：引导、改变与拒绝

教皇讲话中更具操作性的部分，是对人类责任的界定：引导（guide）、改变（change），以及“在必要时拒绝”（reject）AI的应用。

这三个动词构成了一个递进式的伦理框架。引导意味着主动塑造AI的发展方向；改变意味着在应用过程中持续修正；拒绝则保留了最后一道防线——当某项AI应用逾越底线时，人类有权且应当说“不”。

这一框架的深意在于，它拒绝了对技术的被动接受。在AI能力快速扩张的当下，这种保留“拒绝权”的主张，为政策制定者和普通用户都提供了一种立场：技术可行不等于应当部署。

从核武到算法：AI治理的话语转向

教皇良十四世的讲话并非孤立事件，而是近年来宗教与伦理机构介入AI治理讨论的一部分。将AI与裁军议题挂钩，实际上是在推动一种认知转变：AI的风险不仅是隐私泄露或就业冲击，还包括对全球安全格局的实质性影响。

讲话反映的立场与不少AI安全研究者的关切形成呼应——当系统的自主性超过人类的监督能力时，风险便不再可控。教皇以“工具”定义AI，本质上是在重申人类中心的责任框架：无论技术如何演进，道德判断和责任归属不能外包给机器。

对于关注AI治理的读者而言，这一讲话的价值不在于它提出了多少技术方案，而在于它把一个关键问题摆上了台面：在追求AI能力的同时，我们是否保留了说“不”的权利和机制。

“裁军”（disarmament）在国际政治中有着特定的历史内涵，最典型的是冷战时期的核军控与核裁军进程，其核心逻辑包括透明度、可核查性、限制部署与最终消除。将这一框架套用于AI，并非主张销毁算法，而是借喻性地强调对某些高风险能力（尤其是军事自主性）加以限制、约束和去武器化。

这种话语迁移的意义在于改变风险认知的参照系：核裁军讨论之所以严肃，是因为其后果具有不可逆的全球性。把AI军事化与核风险并置，意在提醒政策制定者，算法自主性带来的可能不是局部事故，而是系统性、跨国的安全挑战。当然，批评者也会指出，AI与核武器在可核查性、扩散方式和技术属性上差异巨大，类比需要谨慎使用；但作为动员公众与推动国际规范的修辞工具，它具有显著的议程设置效果。