DOGE用ChatGPT审查拨款被判违宪：AI政府决策的法律红线

DOGE用ChatGPT审查拨款：事件始末

美国联邦法官科琳·麦克马洪（Colleen McMahon）于周四发布了一份长达143页的裁决，认定政府效率部门（DOGE）取消超过1亿美元联邦拨款的行为违反宪法。裁决的核心争议在于：DOGE使用ChatGPT来判断某项拨款是否与多元化、公平与包容（DEI）相关，并据此决定是否取消资助。

DOGE全称为Department of Government Efficiency，是特朗普政府在2025年初设立的一个由埃隆·马斯克领导的政府效率改革机构。其核心使命是大幅削减联邦政府开支、裁撤被认为低效或冗余的项目。DOGE在成立后迅速采取了一系列激进行动，包括冻结联邦拨款、裁减政府雇员、关闭部分联邦机构等。然而，该部门的法律地位本身就存在争议——批评者认为它并非经国会授权设立的正式联邦机构，因此其权限范围一直是法律诉讼的焦点。

而DEI（Diversity, Equity, and Inclusion）则是此次争议的另一个关键背景。特朗普政府在2025年1月上任后签署了多项行政命令，要求全面清除联邦政府中的DEI相关项目，认为这些项目构成了对特定群体的"逆向歧视"。这一政策方向导致大量涉及少数族裔社区服务、学术研究多样性、公共卫生公平等领域的联邦拨款面临审查和取消，影响范围从大学研究经费到社区健康项目不等。

这一案件不仅暴露了AI工具在政府决策中被滥用的风险，也引发了关于人工智能在公共行政领域应用边界的深刻讨论。

DOGE的AI审查流程是怎么运作的

把ChatGPT当成拨款审核官

根据法庭文件披露的信息，DOGE在审查联邦拨款时采用了一种令人瞠目的工作流程：将拨款项目的相关信息输入ChatGPT，让这个通用型聊天机器人来判断某个项目是否涉及DEI内容。一旦ChatGPT给出肯定回答，该拨款就面临被取消的命运。

要理解这种做法为何如此荒谬，需要了解ChatGPT背后的技术本质。ChatGPT基于GPT系列大语言模型（Large Language Model, LLM），其工作原理是通过对海量文本数据的统计学习来预测下一个最可能出现的词语序列。这意味着它本质上是一个概率生成系统，而非逻辑推理引擎。模型的"幻觉"问题（Hallucination）是指模型会以高度自信的语气生成事实上完全错误的信息，这是当前所有大语言模型的固有缺陷。更关键的是，LLM的输出具有非确定性——即使输入完全相同的提示词，由于温度参数（temperature）等设置的影响，模型在不同时间可能给出不同甚至矛盾的回答。这种不确定性在日常对话中或许可以接受，但在需要一致性和可复现性的政策审查场景中，构成了根本性的可靠性缺陷。

这种做法存在多重问题：

ChatGPT并非政策审查工具：它是一个通用大语言模型，并非为法律合规性分析而设计，输出具有随机性，同一个问题在不同时间可能得到截然不同的答案。
决策过程缺乏专业审查：将涉及数百万美元公共资金的决策交给一个AI聊天工具，完全绕过了正当程序和专业审核机制。
无法追溯和问责：ChatGPT的判断过程不透明，无法像人类决策者那样对结果承担法律责任。

法官为何认定这一做法"既愚蠢又违法"

麦克马洪法官在裁决中明确指出，DOGE用ChatGPT审查拨款的做法在多个层面上站不住脚：

程序正义缺失：联邦拨款的取消需要遵循严格的行政程序，包括通知受影响方、提供申诉机会等。DOGE完全跳过了这些法定步骤。
决策依据不可靠：ChatGPT的判断不具备法律效力，也不具备对政策进行准确分类的能力。用它来做出影响重大的财政决策，本质上是将政府责任外包给了一个不可控的工具。
超越权限范围：超过1亿美元的拨款被取消，影响了大量已经获批的项目和机构，这种大规模的单方面行动超越了DOGE的法定权限。

值得深入了解的是，美国联邦拨款的管理受到一系列严格法律框架的约束，核心包括《行政程序法》（Administrative Procedure Act, APA）和《国会预算与扣押控制法》（Impoundment Control Act）。根据这些法律，联邦资金一旦经国会批准拨付，行政部门不得单方面扣押或取消，除非经过法定程序。取消已批准的拨款通常需要：向国会提交正式的撤销请求、在规定时间内获得国会批准、向受影响的拨款接受方提供正式通知和申诉机会。这些程序性要求的存在是为了确保行政权力不会侵蚀国会的"钱袋子"权力——即宪法赋予国会的财政拨款专属权。DOGE绕过这些程序直接取消拨款，正是法官裁定其违宪的核心法律依据之一。

AI在政府决策中的应用边界在哪里

辅助工具不能替代人类决策者

这一案件为AI在公共管理中的应用划出了一条清晰的红线。AI工具可以作为辅助手段——帮助整理数据、初步筛选信息、提高工作效率——但绝不应该成为关键决策的唯一依据。在涉及公民权利、公共资金分配等重大事项时，人类的专业判断、法律审查和正当程序不可或缺。

大语言模型存在这个不用我讲的局限性：

幻觉问题：会生成看似合理但实际错误的内容
上下文理解偏差：对复杂政策语境的把握可能出现严重偏差
无法承担法律责任：没有任何法律主体可以为AI的错误判断负责

将这样的工具用于决定数亿美元拨款的去留，不仅是技术上的误用，更是治理层面的严重失职。

事实上，在此案之前，AI在政府决策中的应用已经引发了多起国际争议。最著名的案例之一是荷兰税务机关使用算法系统对儿童保育津贴申请进行欺诈检测，结果导致数万个家庭被错误标记为欺诈者，引发了被称为"儿童津贴丑闻"的重大政治危机，最终导致荷兰内阁集体辞职。在监管层面，拜登政府于2023年发布了关于AI安全的行政命令，要求联邦机构在部署AI系统时进行风险评估并确保透明度。欧盟的《人工智能法案》（AI Act）则将政府用于公共服务决策的AI系统归类为"高风险"，要求满足严格的合规标准。此次DOGE案件的裁决，实质上是美国司法系统首次对政府机构滥用通用AI工具做出的重大宪法层面回应，其意义可能远超美国国境。

这一裁决将带来哪些深远影响

这一裁决可能产生重要的先例效应。随着越来越多的政府机构探索AI应用，法院的判决明确传递了一个信号：AI辅助决策必须嵌入合法的行政程序框架中，而非取代它。

未来政府部门在使用AI工具时，可能需要满足更严格的透明度和问责要求：

明确AI在决策流程中的角色定位，仅作为参考而非决定因素
保留完整的人工审核环节，确保每一项重大决策都经过专业人员把关
保障受影响方的知情权和申诉权，不能因为使用了AI就省略法定程序

总结：AI再强大也不能替代法治

这起DOGE用ChatGPT审查拨款被判违宪的案件，意义远超事件本身。它揭示了AI快速普及时代一个日益紧迫的问题：当强大的AI工具触手可及时，如何防止它们被不当使用？

技术的便利性不能成为绕过法律程序的借口，"用AI说了算"更不能替代负责任的公共治理。法官的裁决提醒我们，无论人工智能多么先进，在涉及公共利益的重大决策中，法治原则和正当程序始终是不可逾越的底线。