AI公共采购的透明度危机：Palantir争议给政府AI战略的警示

引言：当AI战略遇上不透明的政府采购

近日，一篇题为《加拿大的AI战略不应包含秘密的Palantir账单》的评论文章在Hacker News上引发讨论。作者Al Vigier尖锐地指出了各国政府在推进AI战略时容易忽视的关键问题：技术采购的透明度与公众问责。

这一议题看似是加拿大的地方政策争论，实则触及了全球AI公共治理的核心矛盾——政府如何在拥抱前沿AI技术的同时，避免陷入供应商锁定、成本不透明和监督缺失的困境。

Palantir争议的核心：公共支出为何需要透明

Palantir是谁，做什么

Palantir Technologies是一家以大数据分析和AI决策平台著称的美国企业，客户覆盖情报机构、军队、执法部门及各国政府。凭借数据整合与分析领域的技术优势，该公司在全球公共部门的合同规模持续扩大。

值得关注的是，Palantir由Peter Thiel、Alex Karp等人于2003年创立，公司名称源自《指环王》中的"真知晶球"（Palantír）——一种可洞察远方信息的魔法器物，颇具象征意味。公司早期获得美国中央情报局风险投资部门In-Q-Tel的资助，这一基因深刻塑造了其后续发展方向。其两大核心产品线——面向情报分析的Gotham平台和面向商业数据整合的Foundry平台——在数据融合与可视化决策方面具有显著的技术优势。然而，该公司因参与美国移民执法局（ICE）的数据追踪项目、英国NHS医疗数据合同争议以及多国军事合同而长期处于舆论漩涡。

理解Palantir的技术吸引力，需要深入了解其底层的数据哲学。Palantir的技术体系建立在一种独特的「本体论数据模型」（Ontology-based Data Model）之上——这一概念源自哲学与计算机科学的交叉领域，指通过形式化方式定义领域内的概念、属性及其相互关系，形成可供机器推理的知识表示体系。在Palantir的实现中，系统不仅存储原始数据，更在数据之间建立起丰富的语义关系网络：一个"人员"对象可以同时关联其"通讯记录"、"地理位置轨迹"和"金融交易"，形成多维度的知识图谱。这使其在处理来自异构系统的海量数据整合时具有显著优势，能够将来自不同政府部门、不同格式的数据"融合"为一个统一的分析视图。

Foundry平台更进一步，将数据管道（Pipeline）、代码库与分析工作流全部内化，形成封闭的开发生态。这种「一站式」设计极大降低了用户的学习门槛，但也在无形中将数据以高度专有化的方式重新组织——本体模型本身、对象之间的关联定义、以及基于此构建的分析逻辑，均以Palantir专有格式存储，外部工具难以直接读取或迁移。这种封闭生态的商业逻辑与科技行业的「平台经济」如出一辙：通过降低进入门槛和提升使用价值来获取用户，再通过提高迁移成本来留住用户——只是当这套逻辑作用于政府公共系统时，其影响的性质发生了根本改变：被"留住"的不再是普通消费者，而是掌握公民数据与公共决策权力的国家机构，这正是其商业模式的核心张力所在。

其扩张之路伴随着持续的质疑：合同细节不公开、定价机制不透明，以及对公民隐私的潜在影响，始终是外界关注的焦点。

"秘密账单"背后的三重风险

作者标题中的"secret Palantir bills"（秘密的Palantir账单）直指AI公共采购的典型痼疾：

• 合同条款黑箱化：以"商业机密"或"国家安全"为由，拒绝对公众披露采购金额与服务范围，绕开正常监督；
• 供应商锁定效应：核心数据系统一旦建立在特定平台之上，后续迁移成本极高，实际上剥夺了政府的选择自由；
• 技术决策黑箱：公众乃至部分政府官员都难以理解AI系统的实际运作逻辑，无法评估其是否符合公共利益。

关于供应商锁定（Vendor Lock-in），这一现象在政府AI采购中的危害远比商业领域更为深远，且往往在签约多年后才充分暴露。从技术层面分析，锁定效应通常经由三条路径同时发生：

其一是数据格式锁定，当核心数据以专有格式存储、缺乏标准化导出接口时，迁移意味着大规模数据转换工程；其二是接口依赖锁定，业务逻辑深度嵌入特定平台的API体系后，即便数据可以迁出，基于这些API构建的数百个应用也需要重写；其三是人员技能锁定，政府工作人员多年来围绕特定平台建立的操作习惯与知识积累，在切换系统时面临清零重来的巨大组织成本。三重锁定叠加，使迁移的综合成本往往高达原采购金额的数倍。

更值得警惕的是锁定效应的时间维度：在合同初期，政府通常处于相对有利的谈判地位；而当系统上线运行三至五年、业务流程深度依赖、人员技能已然绑定之后，续约谈判中的实质性议价空间往往已大幅萎缩。这一动态使「试用」策略在大型政府IT系统中几乎无从实施——任何大规模部署从一开始便是长期承诺。

Palantir的Foundry平台以其强大的数据整合能力著称，但批评者同时指出，其本体论数据模型与接口设计具有明显的专有特征，外部系统与之交互的兼容性较低。欧盟在其《数据治理法》（Data Governance Act）中已明确要求公共部门数据基础设施具备互操作性，并在《数据法》（Data Act）中进一步强化了用户的数据迁移权利，正是对这一风险的制度性回应。

作者的核心主张清晰有力：一个健康的国家AI战略，不应以牺牲财政透明度和民主问责为代价。

为什么这不只是加拿大的问题

AI公共采购的全球性困境

加拿大面临的挑战并非孤例。在全球范围内，越来越多的政府正将AI引入医疗、司法、社会福利、边境管理等高度敏感的领域。这些系统一旦部署，将直接影响公民的切身权益。

当采购过程缺乏透明度，连锁风险随之而来：纳税人无从知晓资金流向，立法机构难以实施有效监督，独立审计机构无法评估系统的公平性与安全性。这意味着，一套影响深远的技术基础设施，正在民主监督的盲区中悄然成形。

一个常被低估的结构性风险是技术能力的不对称。像Palantir这样的AI平台供应商，每年在研发上投入数亿美元，拥有数千名专业工程师，并长期服务于政府客户，对合同谈判的每个细节了如指掌。而与之对坐谈判桌的政府采购官员，往往缺乏对应的技术深度和谈判经验，这种信息不对称本身就构成了透明治理的系统性障碍。

技术主权：被忽视的战略维度

对于加拿大乃至更多国家而言，将关键公共数据与决策系统托付给外国私营企业，还牵涉技术主权这一敏感议题。

技术主权（Technological Sovereignty）是近年来在欧洲政策讨论中高频出现的战略概念，核心指向一个国家或地区对关键数字基础设施、数据资产和核心算法的自主掌控能力。这一概念并非抽象的政治口号，而有其清晰的操作含义：当一国政府对某项关键数字服务没有替代选择、无法在合理成本内进行迁移、且相关数据处于他国法律管辖之下时，其主权决策空间即受到实质性压缩。欧盟委员会在其《欧洲数字十年》战略中明确将技术主权列为核心目标之一；德国联邦政府也专门发布《数字主权战略》，推动减少对非欧洲云服务商的依赖。值得关注的是，欧洲主权云项目Gaia-X正是在这一背景下应运而生——该项目试图构建一套符合欧洲数据法律要求的云基础设施标准体系，尽管其推进过程颇为曲折，但代表了技术主权从战略愿景向工程实践转化的重要尝试。

对加拿大而言，这一议题具有特殊的地缘政治维度：作为与美国高度经济一体化的国家，其政府数据若大量流入美国企业的系统，将面临独特的法律风险。2018年通过的《澄清境外数据合法使用法》（Clarifying Lawful Overseas Use of Data Act，即CLOUD Act）是理解这一风险的关键法律文本。该法案允许美国执法机构向美国科技企业发出强制令，要求其交出存储于境外服务器的数据，且无需经过被存储国的司法协助程序——这意味着即便数据物理存储于加拿大境内的服务器，只要运营该服务器的是美国企业，其数据在法律上仍可被美国政府机构依法调取。

这一机制与欧盟《通用数据保护条例》（GDPR）存在根本性冲突，导致在欧盟运营的美国云服务商长期处于法律灰色地带，被迫在欧美两套监管要求之间寻求平衡。加拿大虽未受GDPR约束，但其《个人信息保护和电子文件法》（PIPEDA）同样对跨境数据传输设有限制条件；而更早颁布的《美国爱国者法案》（USA PATRIOT Act）所赋予的类似跨境数据调取权力，也一直是加拿大政策圈的敏感议题。在政策讨论层面，加拿大联邦隐私专员办公室已多次就政府数据存储于美国云服务商可能带来的法律风险发出警示，但实际采购实践与这些警示之间的落差依然显著。数据存储在哪里、由谁掌控、适用哪国法律——这些问题是任何严肃的国家AI战略都必须正面回答的。

过度依赖单一供应商，不仅带来经济层面的锁定风险，更可能在地缘政治格局变化时暴露出难以弥补的战略漏洞。

透明AI治理的可行路径

面对上述挑战，一个负责任的政府AI战略应在以下几个维度着力构建：

推动采购信息公开

除非涉及真正的核心国家安全事项，AI相关的政府合同金额、供应商名称、服务范围均应尽可能向公众披露。透明本身，就是防范腐败与低效的第一道防线。

在实践层面，"透明"并非意味着全盘公开所有技术细节，而是需要在信息公开与合理保密之间建立清晰的分层机制。英国政府数字服务（GDS）推行的"数字支出评审"制度提供了一种可借鉴的模式：所有超过一定金额的技术采购合同须提交独立评审，评审结论对公众公开，但合同中涉及安全的具体技术参数可依申请豁免公开。这一制度设计的核心逻辑在于，将"需要保密"的举证责任从公众转移至政府：默认状态是公开，保密需要理由。

澳大利亚信息专员办公室（OAIC）推行的「隐私影响评估」（Privacy Impact Assessment，PIA）制度提供了另一个维度的参照：要求政府机构在引入新的数据系统之前，主动评估并公开披露其对公民隐私的潜在影响，而非等到问题暴露后再被动回应。将类似的强制性评估要求扩展至AI系统的整体公共影响——包括算法偏见风险、财政可持续性和主权依赖风险——或许是推动结构性透明的更有效路径。

建立独立审计机制

由独立第三方对AI系统的准确性、算法偏见和安全性进行定期审计，而非依赖供应商自我背书。然而，独立算法审计（Algorithmic Audit）在实践中面临多重技术挑战，其难度因系统架构不同而存在本质差异。

对于基于梯度提升树（如XGBoost、LightGBM）的传统机器学习模型，可解释性工具已相当成熟：SHAP值（SHapley Additive exPlanations）通过博弈论中的沙普利值方法，量化每个特征对单一预测结果的贡献度；LIME（Local Interpretable Model-agnostic Explanations）则通过在预测点附近构建局部线性近似模型来解释个案决策。这类工具已具备工程化成熟度，审计的可操作性较强。

但当系统迁移至大型神经网络或基础模型（Foundation Model）时，局面变得根本性地复杂——即便是模型的开发者本身，也无法完整追溯某一具体决策的内部推理路径。数百亿参数之间的非线性交互，在数学上就不存在简洁的因果解释，即所谓的"黑箱"问题。这一困境催生了「审计代理」（Audit Proxy）的思路：不再试图打开黑箱，而是通过大规模黑盒测试、差异化输入实验（如针对不同种族、性别特征的对照实验）以及统计分析等方式，从系统行为层面而非内部机制层面评估其公平性与一致性。麻省理工学院媒体实验室开发的「算法审计工具包」以及AI Now研究所的相关研究，是这一领域的代表性实践。

在制度层面，欧盟《人工智能法案》（AI Act）于2024年正式生效，首次以立法形式建立了基于风险等级的AI系统分类监管框架。该法案将AI系统分为不可接受风险（禁止）、高风险（严格监管）、有限风险（透明度义务）和最低风险（自由使用）四个层级，其中用于执法、社会福利评估、教育评分等领域的系统被列为高风险类别，须满足强制性的合规性评估、技术文档留存和人工监督要求。值得关注的是，该法案专门针对通用AI模型（包括GPT-4等大语言模型）设立了额外的透明度和评估义务，是迄今全球最系统性的AI治理立法尝试，为其他国家的政策设计提供了可借鉴的框架。

从设计端防止供应商锁定

在采购设计阶段就应明确数据可移植性、系统互操作性和退出机制，避免在使用多年后才发现已无法脱身。开源方案和开放标准在此可以发挥关键作用。

法国政府自2012年起推行"优先开源"（Open Source by Default）政策，其数字服务机构（DINUM）维护着一份政府推荐开源软件目录，并要求政府在采购前必须证明不存在可行的开源替代方案；德国联邦信息安全办公室（BSI）也资助了多个开源安全评估工具项目。在AI模型层面，欧盟资助的「开放欧盟语言模型」（OpenEuroLLM）项目正试图构建一个在欧洲数据法律框架内训练、以欧洲语言为重点的多语言基础模型，作为商业大模型的主权替代方案。Hugging Face等开源模型社区的崛起，以及Meta发布的LLaMA系列模型所带动的开源大模型生态，也使政府在技术上具备了一定程度摆脱大型商业AI平台依赖的可能性——这在三年前几乎是不可想象的。

然而，开源方案并非万能——其最大瓶颈往往不是技术本身，而是人才。部署和维护开源AI系统需要具备相当水平的机器学习工程能力，涵盖模型微调、推理优化、安全加固等多个专业方向，而公共部门的薪酬体系通常难以在这些领域与科技行业形成竞争力，形成结构性困境。据麦肯锡全球研究院的测算，高级AI工程师的市场薪酬水平通常是政府IT岗位的3至5倍，这一差距在短期内难以通过制度改革消弭。因此，「开源优先」战略通常需要与政府数字人才能力建设计划配套推进，英国的数字、数据和技术（DDAT）职业框架以及新加坡政府科技局（GovTech）的技术人才发展体系，提供了相对成熟的参照经验。

赋予立法机构实质监督权

立法机构不应仅停留在形式审查层面。政府应为议员提供足够的技术支持与信息访问权限，使其能够对AI相关支出进行实质性监督。

这一点在技术层面面临现实挑战：多数立法机构成员缺乏评估复杂AI系统所需的技术背景，而外聘顾问又存在利益冲突的潜在风险。美国国会技术评估办公室（OTA）曾是解决这一问题的重要机构，但于1995年遭到裁撤，留下了持续至今的立法技术能力空白。近年来，包括欧洲议会科学技术选择评估委员会（STOA）和英国议会科学技术委员会在内的机构，正在尝试重建立法机构的技术审查能力，其经验对各国议会具有参考价值。

一个常被忽视的制度设计要素是技术顾问的独立性机制。当政府聘用外部顾问评估AI采购方案时，这些顾问往往同时为被评估的供应商提供咨询服务，形成隐性利益冲突。英国竞争与市场管理局（CMA）在其数字市场竞争政策中提出的「结构性分离」原则——即为政府提供评估服务的机构不得同时作为被评估技术的商业代理——值得AI治理领域借鉴，尽管在实践中其操作难度相当可观。

结语：AI战略的根基是信任

Al Vigier这篇简短却切中要害的评论提醒我们：AI战略的价值，不仅取决于技术的先进程度，同样取决于治理框架是否健全。

建立在秘密账单和黑箱操作之上的AI战略，技术再领先，也终将侵蚀公众信任的根基。相反，透明、可问责、尊重技术主权的AI公共治理，才是人工智能真正服务于公共利益的前提条件。

无论是加拿大、其他发达国家，还是正在制定AI国家战略的发展中国家，这一警示都具有普遍的参考价值：在追逐技术红利的同时，别忘了守护民主监督的底线。

注：本文基于Hacker News上的一篇评论文章及相关公开讨论撰写，原帖讨论热度有限（3分/1评论），观点主要代表作者Al Vigier的立场，供读者参考与思考。