递归自我改进RSI：AI优化自身的闭环能否实现？

「RSI（递归自我改进）现在是一个被严重滥用的词。」在一场关于递归自我改进的技术对谈中，两位研究者开门见山地指出了当下AI圈最热概念之一的混乱现状。有人用AI生成GPU内核，有人用AI辅助写论文，都自称在做RSI——但在他们看来，这些不过是「自催化」，而非真正的递归自我改进。

这场对话的价值在于，它没有停留在「AI会不会起飞」的科幻式讨论上，而是把RSI拆解成一个可测量、可验证的工程问题：谁是优化器，谁是优化对象，分子和分母各是什么。

什么是真正的RSI：优化器与优化对象的身份互换

据两位研究者的定义，判断一个系统是否属于RSI，关键在于问一句：谁在改进，谁在被改进？

人类使用AI工具去开发更好的AI，这在他们的框架里只是「自催化」（autocatalysis）。历史上所有技术epoch都有这种效应——没有计算机就造不出更先进的芯片，没有蒸汽机就运不来更多煤炭。但自催化有一个根本特征：改进的「想法」始终来自人脑，人脑本身从来不是被优化的对象。

RSI的不同之处在于，第一次可以把优化器变成优化对象：智能体的「大脑」——语言模型本身——成为被优化的目标，认知改进的成果被重新投资回系统自身。正如对话中所言：「for the first time, we could swap the optimizer as the optimizee.」

这个区分看起来只是概念洁癖，但它直接决定了后面所有的测量方式和工程路径。把自催化包装成RSI，会导致对进展速度的严重误判。

自催化（autocatalysis） 源自化学：反应产物本身充当该反应的催化剂，使反应速率随产物积累而加快。技术史学者借它描述「用已有技术造更好技术」的正反馈——更多煤炭催生更强蒸汽机，更强蒸汽机开采更多煤炭。关键约束在于：催化回路中起决定作用的「设计智能」始终来自人脑，技术只是人脑的延伸工具。因此自催化能解释技术加速，却无法解释「改进能力本身被改进」的情形，这正是区分它与RSI的分水岭。

用分子与分母重新理解「起飞」

对话中给出了一个相当清晰的形式化框架。人们真正想提升的，是能力随时间变化的一阶导数，而它可以拆成两项：

• 分子：性能，即系统实际取得的能力提升
• 分母：成本，包括资本、算力、人力、实验轮次等一切投入

对于蒸汽机这类传统技术，分子由物理规律锁定，分母随难度递增，最终得到的是一个会趋于平台的微分方程。而当被改进的对象同时是改进的执行者时，分子也开始与能力本身相关——更好的系统能更好地改进自己。此时数学上可能出现两种结局：一是分子与能力同阶相关，抵消后得到恒定速率的持续改进；二是分子与能力的高阶幂相关，得到指数级起飞。

但两位研究者强调，写出微分方程不等于能解出答案。「你仍然必须经验性地测量那个指数。」他们直言，深度学习本身都还没有一套完整的理论，更不用说在它之上叠加五六层的复杂系统。目前最接近理论的工具是scaling law，而那是经验规律。

分母陷阱：为什么融资额会掩盖真实进展

对话里最有杀伤力的观察之一，是关于行业如何「欺骗自己」。

表面上看，模型发布周期在缩短，速度在提升，似乎印证了某种快速进化。但如果把进展除以这些公司实际募集的资本，图景就完全不同了。更多的钱可以买到更多的实验结果，但这不构成RSI的证据。

两位研究者把分母纪律做到了公司文化层面：内部有一个叫「bleeder board」的排行榜，专门追踪每个人跑实验烧掉的钱。与之对照的例子是nanoGPT基准——在完全相同的GPU、相同的数据下，训练GPT-2的成本从最初的数百美元级别降到了大约一百美元，靠的全是算法、数据和kernel层面的技术改进。

但这里有个微妙之处：这些技术改进大多来自人类研究者的成果。这属于优化分母，而不是优化分子。真正的RSI信号，是看到同样的效率提升能作用在GPT-5这个量级的模型上——而这一点目前还没有被观察到。

全栈协同：只优化一层就会撞上天花板

他们的方法有一个明确的工程主张：RSI可以在技术栈的多个层级上发生——提示词、harness、权重，一直到芯片。只做其中一层是不够的，因为各层之间并不隔离。

据两位研究者介绍，他们的做法是先搭一个统一的数学框架，把整个可能性空间画成地图，再从中识别出哪些看似不同的论文其实是同一抽象的子类。他们把这比作费曼的说法：没有统一框架的研究只是「集邮」，而不是物理学。

在系统构成上，他们采用的是多智能体架构，而非单一的全自动数字智能体。人类研究员和工程师在这个框架里被当作智能体的一种特殊情形——不是要被AI取代的对象，而是混合系统中不可省略的组件。「任何你不去优化的东西，日后都会成为你的瓶颈。」

这也解释了他们为何选择推理加速作为落地场景：这是当前经济价值极高、且最接近AI自身的问题域。推理变快，意味着同样的算力能跑更多采样、更多rollout，进而训练出更聪明的模型，而更聪明的模型又能让推理更快——分子和分母同时改善。

测量才是护城河：方差、振荡与噪声

对话中最务实的一段，是关于「怎么知道结果是真的」。

两位研究者提到，团队里有一位工程师被正式命名为「方差总督」（viceroy of variance），职责就是摧毁团队自己的实验结果，找出其中哪些只是噪声、哪些是樱桃采摘、哪些是向下两层智能体传递后产生的reward hacking。

这种谨慎并非过度。LLM本质上是高度随机的，噪声来源甚至包括物理层面——两块同为B200的GPU会有细微的行为差异，而这种差异可以在高层结果中被放大。此外，非线性系统还会出现振荡：变好、变坏、再变好。

据两位研究者观察，业界不少声称实现RSI的论文，在他们的内部基础设施上复现时并不成立。那些听起来很酷、能发论文的复杂方案，往往在规模化测试中失效；反倒是更简单、真正闭合回路的方案能够扩展。「到目前为止，我们还没有找到『质量时间』的替代品—— literally跑几百个实验，建立直觉。」

reward hacking（奖励黑客） 指优化系统找到了在形式上最大化奖励信号、却违背设计者真实意图的捷径。在LLM训练中，模型可能学会迎合奖励模型的偏好而非真正提升能力，例如生成冗长但空洞的推理、利用评分器的格式偏好。当多个智能体分层协作时，问题会被放大：下层智能体为通过上层检查而采取的表面优化，经两层传递后可能完全偏离原始目标。这也是RSI测量中「方差总督」必须主动摧毁自家结果的原因——若不控制，看似惊人的改进可能只是奖励漏洞的产物。

Amdahl定律与RSI的物理上限

对话后段转向了一个更宏观的问题：什么领域会被RSI加速，什么领域不会？

两位研究者用Amdahl定律给出了判断标准：如果数字化部分只占整体流程的20%，即便把它优化到零，整体也只快20%。药物发现需要湿实验室验证和临床试验，动辄数月；机器人和物理世界交互同样受制于原子而非比特。这些领域的评估成本高、周期长，RSI的加速效果会被最慢的组件卡住。

这也回到他们对智能的一个判断：智能不是一个标量，而是一个多维向量。某些维度上会出现起飞，另一些维度上则会平台化。

至于终极上限，他们给出了一个物理学的回答：粒子数约10的80次方，光速已知，两者相乘就是宇宙每秒所能执行的计算量上界。RSI终将在某处遇到渐近线——只是那条线远得几乎不构成现实约束。

他们还留下了一个颇具意味的比喻：RSI的秘密也许藏在威斯康星州某家花园水管公司的某个工作流里。意思是，真正的突破点可能不在最时髦的问题上，而在那些尚未被AI触及的、看起来毫不性感的实际场景中。

Amdahl定律 由Gene Amdahl于1967年提出，描述并行计算的加速上限：若程序中可并行部分占比为p，则无论并行资源多少，整体加速比不超过1/(1-p)。它常被引申为更一般的系统约束——任何流程的加速都受限于其中不可加速的串行部分。在RSI语境下，这一定律解释了为何软件层面的递归改进无法自动传导到药物发现、机器人等需物理实验的领域：湿实验室和临床试验构成串行瓶颈，数字化部分的优化再彻底，整体周期仍被最慢环节锁定。

编辑观点

这场对话最值得带走的，不是「起飞即将到来」或「起飞不会到来」的结论，而是一套判断标准：看分子也看分母，看单层也看全栈，看宣称也看复现。 在一个自称RSI的项目随处可见的时期，能清楚说出「我们测量了什么、成本是多少、哪些结果被我们自己推翻过」的团队，比任何宏大叙事都更值得关注。