[控场AI]
· 5 分钟阅读· 2,863 字

3分钟看懂DeepSeek:从量化私募到开源AI领跑者的崛起之路

3分钟看懂DeepSeek:从量化私募到开源AI领跑者的崛起之路

DeepSeek凭算力前置、成本工程与MIT开源,三年内成为全球开源模型领跑者。

文章以时间线方式梳理DeepSeek从2023年独立到2026年筹备IPO的成长路径:起点是幻方量化多年囤积的A100算力与萤火集群,梁文峰持股84%、坚持不融资不谈商业化。技术上,GRPO强化学习算法与MLA注意力机制成为关键伏笔,V3以557.6万美元算力账单追平GPT-4o,R1以MIT协议开源并登顶美国App Store,引发英伟达单日市值蒸发近6000亿美元。此后R2延期体现发布节奏的克制,V4推出Flash与Pro双版本并接入华为昇腾,同年完成70亿美元A轮、估值520亿美元。文章最后归纳出算力前置、成本工程、开源换生态与节奏克制四条经验,并指出开源路线能否商业闭环仍待验证。

DeepSeek(深度求索)用不到三年时间,从一家量化私募的算力仓库成长为全球开源模型的领跑者。它的故事不只是技术突破,更是一场关于路线选择、成本控制和开源策略的长期实验。

起点:量化私募里的AI火种

2023年春天,一支来自杭州的团队悄然成立。故事要追溯到2015年,梁文峰创立幻方量化,用算法做投资,也攒下了第一批英伟达显卡。2021年起,幻方开始囤积上万张A100,建成萤火集群——这为后来的模型训练提供了稀缺的算力底座。

2023年4月,梁文峰宣布成立AGI实验室;两个月后的7月17日,深度求索正式独立,梁文峰持股84%。这家公司从一开始就定下基调:不融资、不谈商业化,只想把模型做出来。

深度求索正式独立

技术破局:从开源模型到GRPO与MLA

2023年11月,DeepSeek广告 LLM和Coder相继开源,最大670亿参数的模型用2万亿Token训练,深度求索第一次站上牌桌。

更关键的伏笔埋在2024年2月。DeepSeek Maths论文里,团队顺手发明了GRPO强化学习算法——这颗种子在11个月后引爆了全世界。2024年5月,V2登场,自研的MLA注意力机制把推理成本压到原来的十分之一。那一年,各家都在问同一句话:他们怎么做到的?

把推理成本压到原来的十分之一

GRPO(Group Relative Policy Optimization,组相对策略优化) 是一种强化学习算法,用于训练大语言模型进行推理。传统PPO需要训练一个与策略模型同等规模的价值网络(Critic)来估计基线,显存和算力开销巨大。GRPO的做法是:对同一个问题采样一组多个回答,用组内奖励的均值作为基线、用组内标准差做归一化,从而省去Critic网络。这样在同等显存下可以采样更多回答、增大batch,显著提升强化学习的训练效率。DeepSeek在Maths论文中提出该算法时并未引起太多注意,但R1-Zero正是靠它让模型在纯强化学习下自发涌现出长链推理与自我反思能力,GRPO也因此成为开源社区复现R1的事实标准之一。

MLA(Multi-head Latent Attention,多头潜在注意力) 针对的是推理时的KV Cache瓶颈。标准多头注意力需要为每个token缓存全部K、V向量,上下文越长显存占用越大。MLA将K、V联合压缩成一个低维潜在向量再缓存,推理时按需上投影还原,同时配合解耦的RoPE位置编码避免压缩损失表达能力。其效果是在保持甚至超过标准MHA性能的前提下,把KV Cache压缩数倍,从而大幅降低长上下文推理的显存与带宽成本——这正是DeepSeek能把API价格打到行业低位的底层原因。

引爆点:V3的成本账与R1的开源冲击

2024年12月26日,V3发布:6710亿参数、370亿激活、FP8训练,论文里的算力账单只有557.6万美元,性能却追平了GPT-4o。这个数字之所以震动行业,是因为它证明了极致工程优化可以大幅拉低前沿模型的训练门槛。

2025年1月20日,R1开源。纯强化学习让模型学会了自我反思,MIT协议下模型权重全部公开——最强的推理模型第一次被“白送”。7天之后,DeepSeek登顶美国App Store免费榜,英伟达股价一度暴跌17%,单日市值蒸发近6000亿美元,两天之内美股整体被抹去约1万亿美元。资本市场用最剧烈的方式,重新定价了“开源+低成本”的冲击力。

第一次被白送

FP8混合精度训练是V3成本账单得以压低的关键工程手段之一。FP8指8位浮点格式,常见有E4M3(4位指数、3位尾数)和E5M2两种变体,动态范围与精度均低于BF16/FP16。V3在大部分矩阵乘法中使用FP8计算,仅在对精度敏感的环节(如部分累加、归一化、优化器状态)保留更高精度,并配合细粒度的分块量化与缩放因子,把量化误差控制在可接受范围。相较BF16,FP8理论上让算力吞吐翻倍、显存占用减半,在H800这类对FP8有原生支持的芯片上收益尤为明显。MoE(混合专家) 架构则是“6710亿总参数、370亿激活”的来源:每个token只路由到少数专家,因此总参数量决定知识容量,激活参数量决定单次推理的算力开销,两者解耦是低成本大模型的主流范式。

考验与迭代:R2延期与V4登场

真正的考验在接下来的一年。R21 0528、思考与非思考双模的V3.1、引入稀疏注意力的V3.2接踵而至,而备受期待的R2却一再延期。梁文峰的说法是“还没到火候”——这句话透露出团队对发布节奏的克制:宁可推迟,也不拿未成熟的产品消耗信任。

2026年4月,V4预览登场:2840亿参数的Flash、1.6万亿参数的Pro,百万级上下文,全部MIT协议,华为昇腾第一时间接入。同月,DeepSeek开始洽谈新一轮融资;5月,70亿美元的A轮落地,估值520亿美元;7月爆出筹备IPO,最早2027年上市。10月20日,DeepSeek开源推理引擎DeepInfo,支撑V4.1 Flash的线上服务,单节点全日处理约155万亿Token,Apache 2.0协议,但只支持SM100和昇腾950。

1.6万亿参数的Pro

MIT协议是宽松型开源许可中限制最少的一种:允许商用、修改、再分发乃至闭源衍生,只需保留版权与许可声明,且不提供担保。对模型权重而言,MIT意味着企业可以自由部署、微调并集成进商业产品,无需公开自己的改动,这与Llama系列的自定义社区许可、以及部分“仅限研究”的开放权重形成鲜明对比。正是这种条款上的彻底开放,让R1在发布后迅速被云厂商、芯片厂商和初创公司广泛适配,形成事实上的生态标准。Apache 2.0 与MIT类似但更正式,额外包含明确的专利授权条款,DeepSeek用它发布推理引擎DeepInfo,同样是鼓励商业采用的选择。

这家公司做对了什么

回看这条时间线,DeepSeek的路径有几个鲜明特征。一是算力前置:量化业务积累的GPU集群,让它在大模型竞赛初期就拥有稀缺资源。二是成本工程:MLA、FP8、GRPO、稀疏注意力,每一项都指向同一个目标——用更少的算力做更多的事。三是开源换生态:MIT协议让模型被广泛采用,也把压力传导给了闭源阵营。四是对发布节奏的克制,R2延期与V4分批推进都说明团队不愿透支声誉。

从一家量化私募的算力仓库,到全球开源模型的领跑者,深度求索的故事才刚刚开始。它的下一步,将决定开源路线能否在商业上真正闭环。

#DeepSeek#深度求索#开源大模型#R1#MLA注意力机制#GRPO#V4#梁文峰
分享:

相关推荐