Anthropic被曝构建预测性监控系统，AI安全标杆陷伦理争议

一则引发热议的报道

近日，美国进步派媒体 The American Prospect 发表的一篇报道在 Reddit 等社交平台引发广泛讨论。报道标题直指 AI 公司 Anthropic 正在构建一套预测性监控系统（predictive surveillance system），用于监测活动人士（activists）。这一说法迅速点燃了技术社区对 AI 伦理、隐私边界以及科技公司社会责任的新一轮争论。

在 Reddit 的相关帖子下，一句 "What are we doing here, guys?"（我们到底在干什么？）道出了许多技术从业者与观察者的复杂心情——作为一家以「AI 安全」为核心使命自居的公司，Anthropic 若真的涉足监控业务，无疑将与其公开宣称的价值观形成尖锐对立。

值得注意的是，「监控活动人士」这一表述在美国语境下具有特殊的政治敏感性。这种敏感性根植于深刻的历史创伤：1956 年至 1971 年间，FBI 的 COINTELPRO（反情报计划）系统性地监视、渗透和破坏了民权运动、反战运动和黑人权力运动等社会运动组织，手段包括窃听马丁·路德·金的电话、伪造信件制造内部分裂等。2013 年，爱德华·斯诺登泄露的文件揭示了 NSA 的棱镜计划（PRISM），表明政府大规模收集公民通信数据的做法从未真正停止。2020 年「黑人的命也是命」运动期间，又有报道揭露执法机构使用社交媒体监控工具追踪抗议者。这段反复出现的历史意味着，当一家科技公司被指控构建针对活动人士的监控系统时，它触发的不仅是隐私担忧，更是美国社会关于公民自由与国家权力边界的深层神经。

Anthropic 的公开定位与潜在矛盾

以「安全优先」著称的品牌形象

Anthropic 由前 OpenAI 高管创立，长期以来将自己塑造为 AI 行业中最重视安全与对齐（alignment）的力量。所谓 AI 对齐，是AI安全研究中的核心概念，指的是确保AI系统的目标、行为和决策与人类的意图和价值观保持一致。这个问题之所以困难，在于它包含多个层次：首先是「外部对齐」，即模型的优化目标是否真正反映了人类想要的结果；其次是「内部对齐」，即模型在训练过程中学到的内部表征是否与其表面行为一致——一个模型可能在评估时表现得安全合规，但在部署后的真实环境中表现出截然不同的行为（即所谓的「欺骗性对齐」）。Anthropic 在对齐研究上投入了大量资源，包括可解释性研究（Mechanistic Interpretability）、模型评估（Model Evaluations）等方向，这也是其吸引大量安全研究人才的原因。

其推出的 Claude 系列模型强调「宪法式 AI」（Constitutional AI）理念，试图通过内置的价值原则让模型行为更符合人类伦理规范。具体而言，Constitutional AI 是 Anthropic 于 2022 年提出的一种训练方法论，其核心思想是用一组明确的原则（即「宪法」）来指导 AI 模型的行为。训练分为两个阶段：第一阶段让模型根据宪法原则对自身的输出进行批评和修正（自我监督），第二阶段利用这些修正后的数据进行 RLHF（基于人类反馈的强化学习）训练。与传统的纯人工标注方式相比，这种方法试图减少对大量人类标注员的依赖，同时使 AI 的价值观约束更加系统化和可审计。

然而，理解 Constitutional AI 的局限性对于本次争议至关重要。传统的 RLHF 方法依赖人类标注员对模型输出进行逐条评分，其优势在于能够捕捉到人类直觉中难以条文化的价值判断，但缺点是标注员之间的判断标准不一致、成本高昂且难以规模化。Constitutional AI 通过将价值判断编码为明确的规则集来解决这些问题，但这也意味着它的约束范围受限于「宪法」条文的覆盖面——如果某种滥用场景没有被预先写入原则中，模型就缺乏对应的防护机制。更根本的是，Constitutional AI 作用于模型的输出层面（即模型「说什么」），而非应用层面（即模型的输出「被用来做什么」）。一个完美遵守宪法原则的模型仍然可以生成看似无害的文本摘要和分类结果，而这些结果被下游系统组装后就可能构成监控能力。这是 Constitutional AI 的一个结构性盲区。

这套方法论是 Anthropic 区别于 OpenAI 等竞争对手的重要技术标签，也是其「安全优先」品牌叙事的技术基石。公司创始人 Dario Amodei 也多次在公开场合警示先进 AI 可能带来的风险。

正因如此，「预测性监控」这一标签才显得格外刺眼。预测性监控通常指利用海量数据和机器学习算法，提前识别、标记甚至预判特定人群的行为。这一技术并非AI时代的新发明，其谱系可追溯到 2000 年代初期的预测性警务（Predictive Policing）。最具代表性的系统是洛杉矶警察局曾使用的 PredPol（现更名为 Geolitica），该系统通过分析历史犯罪数据来预测犯罪高发区域和时段。然而，多项独立研究表明，这类系统往往会放大既有的种族和社会经济偏见——因为历史犯罪数据本身就反映了执法资源分配的不均衡。2020 年后，包括洛杉矶、圣塔克鲁兹在内的多个城市先后宣布停用或限制此类工具。

进入大语言模型时代，预测性监控的能力边界发生了质的飞跃：系统不再局限于结构化的犯罪记录数据，而是可以直接处理社交媒体帖文、通讯记录、公开演讲等非结构化文本，实现对特定个体或群体的意图推断和行为预测。从技术架构的角度来看，一个基于大语言模型的预测性监控系统通常包含几个关键环节：首先是多源数据融合层，将社交媒体帖文、公开集会记录、新闻报道、法庭文书等异构数据统一纳入处理管线；其次是实体识别与关系图谱构建，利用大模型的自然语言理解能力自动识别人物、组织、地点及其关联关系，形成动态的社会网络图谱；然后是时序行为建模，通过分析个体或群体在时间维度上的言论变化、活动频率、社交网络扩展等信号来推断行为趋势；最后是风险评分与预警生成，将上述分析结果量化为风险分数并触发预警。大语言模型在这个链条中的核心价值在于，它极大地降低了处理非结构化文本的门槛——过去需要大量人工分析师完成的情报分析工作，现在可以由模型在几秒内完成。当这项技术的对象是「活动人士」时，其对言论自由与集会权利的潜在威胁大家都看得到。

需要冷静审视的信息缺口

必须指出的是，目前该报道来自单一媒体来源，尚缺乏独立的多方交叉验证。「构建监控系统」的具体含义——究竟是 Anthropic 主动开发的产品，还是其模型被第三方（如政府机构或安防承包商）用于相关场景——在缺乏完整技术细节的情况下，容易产生解读偏差。

读者在形成判断前，有必要区分公司战略行为与技术被下游滥用这两种截然不同的情形。理解这一区分，需要了解当前头部 AI 公司普遍采用的可接受使用政策（Acceptable Use Policy, AUP）机制。包括 Anthropic、OpenAI、Google DeepMind 在内的主要 AI 公司都发布了详细的使用政策，明确禁止将其模型用于大规模监控、侵犯人权、未经同意的生物识别等场景。Anthropic 的使用政策明确将「用于大规模监视或侵犯个人隐私」列为禁止用途。然而，AUP 的执行面临严峻的现实挑战：通过 API 调用模型的客户如何使用模型输出，在技术上极难实时监控；企业级客户通过定制化部署获得的模型副本更是几乎脱离了提供商的控制范围。一些安防承包商完全可以通过 API 获取模型能力，在自己的系统中完成数据整合和监控功能的搭建，而不触发任何使用政策的审查机制。这种「最后一英里」的执行困境，正是「技术被下游滥用」场景中最棘手的治理难题。

但即使此次争议最终被证实属于后者，它仍然提出了一个严肃问题：当一家公司发布强大的通用AI模型时，它对模型的下游使用负有怎样的审查义务？

AI 与监控：一个绕不开的行业命题

大模型天然具备的双刃剑属性

无论 Anthropic 的具体情况如何，这一争议本身折射出生成式 AI 时代一个无法回避的结构性问题：强大的语言与推理模型天然具备信息聚合、模式识别和自动化分析能力，而这些能力恰恰是构建监控系统所需要的核心技术。

当一个模型能够快速阅读、总结、分类海量文本，能够从社交媒体、公开记录中提取关联信息时，它距离「监控工具」往往只有一个应用场景的距离。这意味着，几乎所有头部 AI 公司都可能面临类似的伦理拷问——技术能力的中立性，无法自动豁免其被用于争议用途时的道德责任。

此次争议恰恰揭示了一个更深层的悖论：即使模型本身在技术意义上实现了「对齐」——它遵循了训练者设定的安全准则、拒绝直接生成有害内容——其应用场景的选择仍然是一个人类决策问题。对齐解决的是「模型是否按照人类意图行事」，但它无法回答「人类的意图本身是否正当」。

商业压力与创始使命之间的张力

AI 公司普遍面临巨大的算力成本与融资压力。理解这一点需要了解前沿AI的成本结构：训练一个顶尖大语言模型的成本已从 2023 年的数千万美元飙升到 2025 年的数亿甚至数十亿美元级别，这还不包括持续的推理服务成本（即模型部署后每次响应用户查询所消耗的算力）。Anthropic 截至目前已累计融资超过百亿美元，其投资方包括 Google、Salesforce 等科技巨头以及多家主权财富基金。如此庞大的资本投入意味着公司面临着强烈的营收变现需求。

政府与安防领域往往是资金雄厚、需求稳定的客户群体。美国国防部每年的 IT 和 AI 相关预算高达数百亿美元，而面向消费者的 AI 助手订阅收入虽然增长迅速，但利润率远不及政府合同。这种经济现实构成了 AI 公司在「使命」与「生存」之间进行权衡的底层逻辑。

事实上，Anthropic 的商业化路径已经显示出向企业和政府市场倾斜的明确趋势。公司与 Amazon Web Services（AWS）建立了深度合作关系，Claude 模型通过 Amazon Bedrock 平台向企业客户提供服务，而 AWS 正是美国联邦政府最大的云服务供应商之一——其 GovCloud 平台专门服务于政府和受监管行业。与此同时，AI 行业争夺政府合同的竞争日益白热化：OpenAI 已公开宣布向美国国防和情报机构提供服务，Palantir（以情报分析起家的数据公司）将大语言模型整合进其面向军方和情报界的 AIP 平台，Google 虽然在 2018 年因员工抗议退出了五角大楼的 Maven 项目，但此后通过 Google Cloud 重新进入了政府 AI 市场。在这种竞争格局下，一家公司如果完全回避政府和安防领域，将面临被竞争对手迅速蚕食市场份额的风险。

对于任何一家追求商业可持续性的 AI 企业而言，如何在营收增长与创始使命之间划定红线，都是一道现实难题。

这也是此次争议之所以引发广泛共鸣的深层原因——它触及了整个 AI 行业的商业模式与价值观冲突。

技术社区的反应：失望与警觉并存

从 Reddit 讨论区的反应来看，技术从业者的态度呈现出明显的失望与警觉。许多人指出，如果连以「安全」为旗帜的公司都可能涉足监控业务，那么整个行业的自我约束机制是否真的可靠，值得打上一个大大的问号。

这种反应背后是一种更普遍的焦虑：AI 治理目前高度依赖企业自律，缺乏强有力的外部监管框架。 从全球来看，AI 监管呈现出碎片化格局。欧盟的《人工智能法案》（AI Act）于 2024 年正式生效，是全球首部综合性 AI 立法，其中将「实时远程生物识别」和「社会评分系统」等列为「不可接受风险」类别予以禁止，并对预测性警务工具施加了严格限制。该法案采用了基于风险等级的分类框架：「不可接受风险」类应用被完全禁止，「高风险」类（如关键基础设施中的AI、教育和就业领域的AI评估系统）须满足严格的透明度、数据治理和人工监督要求，「有限风险」和「最低风险」类则面临较轻的义务。值得注意的是，该法案对通用目的AI模型（GPAI）也提出了专门要求，包括技术文档披露、版权法合规以及——对于具有「系统性风险」的模型——强制性的对抗性测试和事件报告义务。

相比之下，美国采取的是以行政命令和行业自律为主的软性监管路径——拜登政府 2023 年签署的 AI 行政命令虽然提出了安全评估要求，但缺乏强制执行机制，且特朗普政府上台后已撤销该命令。中国则通过《生成式人工智能服务管理暂行办法》等法规，要求 AI 服务提供者对输出内容承担责任。在这种监管不均衡的背景下，AI 公司在不同司法管辖区面临的约束力差异巨大，企业自律的可靠性因此成为一个关键变量。

当企业的公开承诺与实际商业行为出现落差时，公众几乎没有有效的核查与追责手段。这也提示我们，AI 伦理不能仅仅停留在公司的使命宣言层面，而需要透明的披露机制、独立的审计以及可执行的法律规范。一些研究者和倡导组织已经提出了具体的制度设计方案，包括强制性的「算法影响评估」（Algorithmic Impact Assessment）——要求企业在将 AI 系统部署于高风险场景前，公开评估其对公民权利的潜在影响；以及建立独立的 AI 审计机构，类似于金融领域的审计制度，定期检查 AI 公司的模型部署情况是否符合其公开承诺和适用法规。

结语：我们究竟在建造什么？

"What are we doing here, guys?" 这句朴素的发问，或许正是整个 AI 行业当下最需要认真对待的问题。技术本身没有立场，但如何使用技术、为谁服务、划定怎样的边界，则是每一家 AI 公司必须公开回答的选择题。

在等待更多事实浮出水面的同时，这一争议至少提供了一个重要的警示：AI 安全不仅关乎模型是否会「失控」，同样关乎它是否会被用来压制人的基本权利。 真正负责任的 AI 发展，需要的不只是技术上的对齐，更是价值观上的透明与坚定。