Anthropic发布AI安全政策提案，推动美国前沿安全领导地位

背景：AI安全政策迎来关键窗口期

Anthropic CEO Dario Amodei近日在社交媒体上发文，指出当前AI安全政策正迎来真正的发展势头。他提到，此前发布的网络安全行政令（Executive Order on Cyber）是一个重要的前进步伐，而Anthropic正在此基础上，向政策制定者提出一系列新的建议方案。

这一动态发生在美国政府持续加强AI监管框架的大背景下，网络安全行政令的签署被视为政府在技术治理方面迈出的实质性一步。值得注意的是，行政令（Executive Order）是美国总统在不经国会立法程序的情况下，直接对联邦政府机构发布的具有法律约束力的指令，是推动政策快速落地的重要工具。在AI治理领域，此前最具影响力的是2023年10月拜登政府签署的《关于安全、可靠和可信赖的人工智能的行政令》（EO 14110），该行政令首次要求开发最强大AI系统的公司向联邦政府报告安全测试结果。然而，2025年初特朗普政府上台后撤销了该行政令，转而采取更侧重促进创新的监管路径。此次新的网络安全行政令聚焦于AI与网络安全的交叉领域，反映出无论政治立场如何，网络安全始终是两党共识较强的议题，也为AI安全政策的推进提供了新的切入点。

Anthropic的政策主张：让美国引领前沿安全

从企业自律到政策倡导

Anthropic一直以"AI安全公司"自居，其创立初衷就是研究和开发更安全的AI系统。这一定位并非偶然——Anthropic由Dario Amodei和Daniela Amodei兄妹于2021年联合创立，两人此前均为OpenAI的高管。Dario曾担任OpenAI研究副总裁，因对OpenAI在安全问题上的优先级排序和商业化方向产生分歧而离开。公司的核心技术理念围绕"Constitutional AI"（宪法AI）展开，这是一种通过让AI系统依据一组明确的原则进行自我监督和修正的训练方法，旨在减少有害输出而不过度依赖人工标注。公司旗下的Claude系列大语言模型是其主要产品。截至2024-2025年，Anthropic已获得来自Google、Salesforce、亚马逊等巨头的大规模投资，估值超过600亿美元，成为仅次于OpenAI的第二大前沿AI实验室。

此次公开向政策制定者提出建议，标志着该公司从技术层面的安全研究，进一步延伸到政策层面的积极倡导。

Dario Amodei在推文中明确表示，这些提案旨在"让美国在前沿安全领域走在前列"（put the US out in front on frontier safety）。这一表述既体现了国家竞争力的考量，也暗示了在全球AI治理格局中抢占话语权的战略意图。当前全球AI治理正呈现多极化格局：欧盟于2024年正式通过《人工智能法案》（EU AI Act），这是全球首部全面的AI监管立法，采用基于风险的分级监管方式，对高风险AI系统提出严格的合规要求，并专门针对通用AI模型设立了透明度和安全义务；英国则通过2023年的布莱切利宣言（Bletchley Declaration）和AI安全研究所（AI Safety Institute）走出了一条侧重技术评估而非立法约束的路径；中国也先后出台了生成式AI管理办法等一系列规范。在联合国、OECD、G7等多边机制都在推动AI治理国际协调的背景下，Anthropic强调"让美国走在前列"，实质上是主张美国应通过制定高水平的安全标准来掌握规则制定权，而非被动接受其他司法管辖区的监管框架。

前沿安全的核心议题

所谓"前沿安全"（frontier safety），主要聚焦于最先进AI模型可能带来的风险管理。之所以单独强调"前沿"，是因为当AI模型的参数规模和训练数据量达到一定阈值后，可能涌现出训练者未曾预期的能力（即"涌现能力"，emergent capabilities），例如自主编写恶意代码、合成生物武器配方的辅助能力、或进行高度逼真的社会工程攻击等。Anthropic自身开发了"负责任的扩展政策"（Responsible Scaling Policy，RSP），这是业内首个系统性的前沿模型安全框架，将AI系统按危险能力等级分为ASL-1到ASL-4不同级别，每个级别对应不同的安全措施要求。类似地，OpenAI推出了"准备框架"（Preparedness Framework），Google DeepMind则发布了"前沿安全框架"（Frontier Safety Framework）。这些企业自律框架正是政策制定者希望转化为行业标准甚至法律要求的基础。

前沿安全的核心议题包括但不限于：

• 能力评估与红线设定：如何系统性地评估前沿模型的危险能力，并设定明确的安全阈值。能力评估通常通过"红队测试"（red teaming）来实施，这一概念借鉴自军事和网络安全领域，由专业团队模拟恶意用户或对抗性场景，系统性地探测AI模型的危险能力边界。评估团队会测试模型是否能够协助进行网络攻击、提供制造大规模杀伤性武器的关键信息、实施大规模欺骗或操纵行为、或展现出自主获取资源和规避人类控制的倾向。"红线"则是指一旦模型展现出某种危险能力达到特定程度，就必须触发额外的安全措施或暂停部署的明确阈值。目前业界面临的核心挑战在于，这些评估方法尚未标准化，不同公司的评估标准和严格程度差异显著，这也是政策制定者试图介入统一规范的重要原因。
• 部署前安全测试：建立标准化的安全评估流程，确保模型在发布前经过充分检验
• 网络安全与AI的交叉治理：AI系统既可能成为网络攻击的工具，也可能成为防御的利器，需要综合性的政策框架
• 国际协调机制：在全球范围内建立AI安全的共同标准和合作机制

行业趋势：安全与创新的平衡博弈

科技巨头的AI安全竞赛

有意思的是，Anthropic并非唯一在AI安全政策领域发声的科技公司。OpenAI、Google DeepMind等主要玩家也在不同程度上参与政策讨论。但Anthropic的独特之处在于，它将安全定位为公司的核心竞争力，而非单纯的合规成本。

这种策略在商业上同样具有深远意义——随着AI监管框架逐步成型，那些在安全方面投入更多、积累更深的公司，可能在合规方面获得先发优势。这一逻辑在商业上遵循一种被称为"监管套利"（regulatory arbitrage）的策略——当行业监管框架尚未成型时，率先投入合规建设的企业可以在政策落地后获得显著的先发优势。这一策略在金融、医药等强监管行业已有成熟先例。具体到AI行业，随着各国政府逐步建立前沿模型的安全评估和审批机制，拥有成熟安全测试流程、完善内部治理结构和丰富政策沟通经验的公司，将在获取政府合同、通过监管审查和赢得企业客户信任方面占据优势。Anthropic的Claude模型已获得多个美国政府机构的采用许可，这在一定程度上验证了"安全即竞争力"的商业逻辑。此外，这种策略也有助于吸引注重AI伦理的顶尖研究人才，形成人才竞争方面的差异化优势。

政策窗口期的紧迫性

Dario Amodei用"real momentum"来形容当前的政策环境，暗示这是一个难得的政策窗口期。在AI技术快速迭代的背景下，政策制定往往滞后于技术发展。当前美国政府对网络安全和AI治理的关注度显著提升，为行业参与者提供了影响政策走向的宝贵机会。

这种"政策窗口期"的紧迫性还体现在技术演进的速度上。前沿AI模型的能力正以超出多数预期的速度提升，从GPT-4到Claude 3.5再到各家最新模型，每一代产品在推理、编程、科学研究等领域的表现都实现了显著跃升。如果政策框架不能在模型能力达到关键阈值之前建立起来，事后补救的难度和成本将大幅增加。这也解释了为什么Anthropic选择在此时积极推动政策议程——等到风险真正显现时再行动，可能为时已晚。

展望：从提案到落地仍面临多重挑战

尽管Anthropic的政策倡导方向明确，但从提案到实际政策落地仍面临诸多挑战：如何在促进创新与防范风险之间找到平衡点，如何避免过度监管扼杀技术发展，以及如何确保政策的可执行性和国际协调性，都是需要深入探讨的关键问题。

其中一个核心张力在于，AI安全标准的制定本身就面临"谁来监管监管者"的难题。前沿AI模型的技术复杂度极高，政府监管机构往往缺乏足够的技术专长来独立评估模型安全性，不得不在很大程度上依赖企业自身提供的安全评估结果。这种信息不对称可能导致监管俘获（regulatory capture）——即被监管对象反过来主导监管规则的制定，使规则有利于自身而非公共利益。Anthropic等公司主动参与政策制定，虽然能提供宝贵的技术洞见，但也需要建立独立的第三方评估机制来确保政策的公正性和有效性。

可以预见的是，随着AI能力的持续提升，围绕前沿安全的政策讨论将愈发密集。Anthropic此次的主动出击，不仅是企业层面的战略布局，更可能对美国乃至全球的AI治理格局产生深远影响。

核心要点