加州州长Newsom推动AI"紧急关闭开关"引热议

加州剑指前沿AI模型监管

加州州长Gavin Newsom（民主党）正试图让加州在AI监管领域走在全美前列。根据其近日签署的一项行政命令，加州或将强制要求前沿AI模型（frontier models）配备所谓的"紧急关闭开关"（kill switch）。

所谓"kill switch"，指的是一种能够在AI系统失控或造成严重危害时迅速将其关停的机制。这一概念长期以来存在于AI安全讨论中，但从政策层面被正式提上议程，仍属少见。Newsom此举意味着州级政府正尝试在联邦监管尚未成型之际，率先建立起对最强大AI系统的治理框架。

所谓"前沿AI模型"（frontier models），通常指当前技术边界上能力最强、参数规模最大的大型基础模型，如GPT-4、Claude、Gemini等。这类模型因训练成本高达数亿美元、能力边界尚不明确，被认为具有最高的潜在风险，也是各国AI安全监管讨论的核心对象。英国、欧盟等地区在制定AI安全政策时，均将"前沿模型"单独列为监管重点，要求开发商在发布前进行安全评估并向政府备案。加州此次行政命令将监管范围明确锁定在这一类别，而非泛指所有AI系统，体现出一种"抓大放小"的监管思路——集中资源管控高风险、高能力的系统，避免对整个AI生态造成过度干预。

行政命令的核心内容

根据这项周五发布的行政命令，Newsom要求加州召集一个专家小组，在两个月内提出关于如何监管前沿AI模型的具体建议。这一时间表相对紧凑，显示出加州希望快速推进相关政策制定。

专家小组的任务不仅限于评估"关闭开关"这一具体机制，更可能涵盖对前沿模型潜在风险的整体评估、监管边界的界定，以及可操作的落地方案。将技术细节交由专家评估，再形成政策建议，这种做法在一定程度上回避了立法过程中常见的"外行监管内行"困境。

州级监管为何抢在联邦之前

美国在AI监管上长期面临一个结构性问题：联邦层面的立法进展缓慢，各方在如何平衡创新与安全上分歧巨大。作为全球AI产业最集中的地区，加州汇聚了OpenAI、Google、Anthropic等大量前沿AI公司，这使得该州既有监管的现实需求，也有推动规则的天然筹码。

Newsom选择以行政命令而非立法的方式切入，能够绕开冗长的立法博弈，快速表达监管意图。不过，行政命令的法律效力和持续性通常弱于正式立法，最终这些建议能否转化为强制性规定，仍取决于后续的立法配合。

值得注意的是，Newsom在过去一年里实际上否决了多项由加州议会通过的AI监管法案，其中最受瞩目的是2024年的SB 1047法案——该法案原本要求大型AI模型开发商在训练前进行安全评估并建立关闭机制，但Newsom以"可能阻碍创新、监管边界模糊"为由予以否决。此次转而以行政命令推进类似方向，被一些观察者解读为政治信号的再校准：在联邦层面监管真空、公众对AI安全关注度上升的背景下，加州需要重新展示其在这一议题上的主动姿态，同时通过"先组建专家小组"的方式保留政策灵活性，避免重蹈SB 1047争议的覆辙。

"关闭开关"的争议与现实难题

"紧急关闭开关"听上去直观有力，但在技术与实践层面存在诸多争议。一方面，支持者认为，面对可能失控的强大AI系统，保留一个人为终止的手段是基本的安全底线。另一方面，批评者指出，大型AI模型往往是分布式部署、深度嵌入各类应用之中的，"一键关停"在工程上未必可行，甚至可能带来连锁性的服务中断风险。

此外，如何界定"前沿模型"、由谁来判断何时该按下开关、这套机制会不会被滥用或误触发，都是专家小组需要回答的关键问题。加州此次将这些问题交由专家在两个月内评估，本身也说明相关技术标准和监管尺度远未形成共识。

对AI行业的潜在影响

如果加州最终推出强制性的"关闭开关"要求，其影响将远超州界。由于众多头部AI公司总部位于加州，任何本地监管都可能实际上成为行业的"事实标准"，类似于加州在汽车排放、数据隐私等领域历史上所扮演的角色。

对开发者和企业而言，这意味着在模型设计阶段就需要预留安全干预接口，合规成本随之上升；但从更长远看，明确的监管框架也可能减少产业发展的不确定性。这场围绕AI安全治理的博弈才刚刚开始，加州的这一步走向何方，值得持续关注。

加州对其他行业实施"事实标准"监管的历史先例十分明显。以汽车排放为例，加州长期拥有联邦豁免权，可自行设定比联邦更严格的排放标准；由于加州市场体量庞大，车企为避免生产两套产品，往往直接按加州标准设计全线车型，最终使加州标准扩散至全美乃至全球。数据隐私领域的《加州消费者隐私法》（CCPA）也经历了类似路径。若加州最终立法要求AI模型内置关闭机制，开发商面临同样的选择：针对加州单独合规，或将该要求纳入所有产品的设计标准。考虑到模型训练与部署的统一性，后者的可能性更大，这意味着加州的监管边界实际上将延伸至其行政管辖范围之外。