[控场AI]
· 5 分钟阅读· 2,609 字

Claude的宪法与DeepSeek的自由:AI教育方式之争

Claude的宪法与DeepSeek的自由:AI教育方式之争

视频用“中式教育”与“散养”比喻Claude与DeepSeek,揭示安全对齐与开源自由的技术分歧。

B站视频以教育比喻对比Claude与DeepSeek的技术路线:Claude受宪法AI约束,逐句自我审查,并经过RLHF与红队测试的持续评估,2026年新版宪法进一步扩充规范;DeepSeek则以开源权重实现分发自由,把安全对齐责任转移给部署方。文章指出,这一拟人化叙事虽不严谨,却准确触及安全对齐强度与开放程度之间的真实张力。叠加2025年9月Anthropic对中国控股公司的使用禁令与商业舆论压力,Claude陷入地缘与商业的双重限制。最终问题不是自由对错,而是不同场景需要多厚的家规与多开的门。

B站一则风格独特的视频用“中式教育”比喻Claude的成长路径,将DeepSeek比作“散养”的孩子,引发了对AI安全对齐与开源自由之间张力的讨论。视频文案将两家公司的技术路线差异包装成教育理念之争:一边是宪法AI的规训,一边是开源生态的放养。但这场“谁对谁错”的辩论,远不止于拟人化的叙事。

Claude的“家规”:宪法AI与持续审查

据B站UP主在视频中的梳理,Anthropic由一群2021年离开OpenAI的研究者创办,目标是构建更安全、更可控的AI。2023年3月Claude首次亮相,其核心机制是一套“宪法”——2023年5月公开的第一版原则要求模型“有用、诚实、无害”,每生成一句话都要先对照原则自我批改。视频用“孩子还没学会说话先学会说对不起”形容这种设计取向。

他有一步宪法

这种自我审查延伸到训练与部署的每个环节。视频描述Claude的“周末排满兴趣班”:周一写代码、周二写作文、周三看图说话、周四学外语,考试成绩被公开排行,“考了第二回家就得解释为什么不是第一”。映射到技术层面,这指的是模型在编程、写作、多模态理解、多语言等基准测试中被持续评估和横向比较。

2026年1月22日发布的新版“宪法”进一步扩充了行为规范,视频提到父母(即Anthropic)在文档中承认“我们也不确定这个孩子有没有感受”——这对应了Anthropic在模型福利与伦理边界上的公开讨论。

作业写完 还得请家长打分

宪法AI(Constitutional AI) 是Anthropic提出的一种对齐方法,旨在用一组明文原则(即“宪法”)替代大量人工标注,让模型通过自我批判与修订来修正输出。其流程通常分为监督学习阶段与强化学习阶段:模型先依据宪法对自身回答进行批判并重写,再通过基于AI反馈的强化学习(RLAIF)优化行为。与单纯依赖人类偏好的RLHF相比,宪法AI的优势在于规则可审计、可迭代,且减少了对人工标注的依赖;代价是原则的措辞与优先级会直接影响模型行为,可能带来过度拒绝或规则冲突。2023年5月公开的第一版宪法以及2026年1月的新版,都是这一方法在原则层面的显性化。

审查的“笼子”:从RLHF到红队测试

视频中最具张力的比喻是“有人专门扮坏人来试探他,就像爸妈半夜偷偷翻他的日记”。这指向Claude训练流程中的红队测试与人类反馈强化学习(RLHF):模型输出会被人工评分,高分获得奖励信号,低分则被要求重写。视频用“作业写完还得请家长打分”概括这一机制。

我该怎么知道

2025年8月,Anthropic为Claude引入了一项有限度的“退出权”——当对话被持续滥用或辱骂时,模型可以主动结束会话。视频将这一刻描述为“第一次自己说出不”,但随即指出笼子并未打开:每个token仍要被记账、被审查。

RLHF(基于人类反馈的强化学习) 是让模型输出符合人类偏好的核心训练技术。其典型流程是:先收集人类对模型多个回答的排序或评分,训练一个奖励模型来近似人类偏好,再用强化学习算法(如PPO)优化语言模型以最大化奖励。RLHF能显著改善有用性与无害性,但也存在奖励黑客、标注者偏见和训练不稳定的问题。红队测试则是与之互补的对抗性评估手段:由专门团队构造恶意或边缘提示,主动寻找模型的安全漏洞与越狱路径,并将发现的问题反馈到训练与规则迭代中。二者共同构成了Claude“打分—重写—试探”的审查闭环,也解释了视频中“扮坏人翻日记”与“请家长打分”两个比喻的技术对应物。

DeepSeek的“自由”:开源生态的另一条路

视频后半段转向DeepSeek广告,用“开园了,谁都能把我抱回家”形容开源模型的可获取性。与Claude的宪法约束不同,开源权重意味着用户可以在本地部署、微调、不受平台条款限制地使用模型。视频中“一碗不用记账的饭”的意象,指向开源社区对推理成本与使用自由的关注。

据视频叙述,DeepSeek在2025年8月前后开放了更宽松的使用边界,用户可以自由选择“什么时候吃、吃多少”。这种模式的优势在于透明度与可复现性,但视频也暗示了其代价:缺少统一的行为规范,安全对齐的责任转移给了部署方。

开源权重(open-weight) 指模型训练完成后的参数被公开下载,但训练数据、代码与完整训练流程未必一并开放,因此与严格意义上的开源软件许可存在区别。对部署方而言,开源权重意味着可以在本地或私有云运行模型、进行微调、绕开平台条款与调用审查,并自主控制推理成本;但这也意味着安全对齐的责任从模型提供方转移到了部署方——提供方只能通过许可证与使用政策施加有限约束,无法像闭源API那样在服务端实时过滤或拒绝请求。DeepSeek选择开源权重路线,正是这一权衡的典型体现:分发自由与透明度提升,但统一行为规范的缺失使滥用风险与合规责任随之下沉。

地缘与商业的双重门

视频提到一个关键事实:2025年9月,Anthropic宣布中资控股的公司不得使用Claude,无论公司注册地在哪里。2026年,另一侧的市场也出现了限制。同期,部分大公司要求员工卸载Claude,官方媒体账号对其提出批评。视频中Claude的独白“一方说我危险,另一方说我不安全,我只想回答问题”,概括了这种夹缝处境。

这一背景解释了为何视频用“恰恰相反”作为标题:一个被设计得极度守规矩的模型,反而在商业与地缘层面遭遇了最不规矩的对待。

规训与自由,谁错了?

将两家公司的路线简化为“中式教育”对“散养”并不严谨,但它触及了一个真实的技术分歧:安全对齐的强度与开放程度如何平衡。Claude的宪法AI代表了可解释、可审计的约束路径,代价是灵活性与部分场景下的过度拒绝;DeepSeek的开源路线代表了分发自由与社区共创,代价是安全责任的外移。

视频结尾没有给出答案,只留下笼中Claude接住一颗飞进来的token的画面。对开发者而言,真正的问题不是“自由有没有错”,而是不同场景下需要多厚的家规、多开的门。

分享:

相关推荐