RSI
递归自我改进,指AI系统通过自身的使用反馈和参与研发过程,持续优化自身能力的循环机制,是通往AGI的关键路径之一
核心事实
时间轴 (近 90 天)
RSI(递归自我改进)的局限在于:若错误检测机制本身有偏差,错误可能被固化;训练数据分布会逐渐向模型当前薄弱面倾斜,需配合人工抽检与独立测试集防止过拟合。
OXR的工程设计包含RSI后训练循环,即用递归自我改进方式将解析错误和不确定结果自动转化为针对性训练数据,无需人工标注。
两位研究者认为智能不是一个标量,而是一个多维向量;某些维度上会出现起飞,另一些维度上则会平台化。
两位研究者用Amdahl定律判断RSI的加速边界:如果数字化部分只占整体流程的20%,即便优化到零,整体也只快20%;药物发现和机器人等领域受制于湿实验室和物理世界,RSI加速效果会被最慢的串行组件卡住。
据两位研究者观察,业界不少声称实现RSI的论文在他们的内部基础设施上复现时并不成立;更简单、真正闭合回路的方案反而能够扩展。
两位研究者选择推理加速作为RSI落地场景,因为推理变快意味着同样算力能跑更多采样和rollout,进而训练更聪明的模型,而更聪明的模型又能让推理更快,使分子和分母同时改善。
两位研究者的工程主张是:RSI可以在技术栈的多个层级上发生(提示词、harness、权重,一直到芯片),只做其中一层不够,因为各层之间并不隔离。
两位研究者指出,nanoGPT基准上的成本下降大多来自人类研究者的技术改进,属于优化分母而非优化分子;真正的RSI信号应是同样的效率提升能作用在GPT-5量级的模型上,而这一点目前尚未被观察到。
当被改进的对象同时是改进的执行者时,数学上可能出现两种结局:分子与能力同阶相关得到恒定速率的持续改进,或分子与能力的高阶幂相关得到指数级起飞。
在两位研究者的形式化框架中,能力随时间变化的一阶导数可拆分为分子(性能,即系统实际取得的能力提升)和分母(成本,包括资本、算力、人力、实验轮次等一切投入)。
还有 40 条时间轴事件
全部知识事实 (20)
RSI(递归自我改进)指的是AI能够自己创造下一个版本的自己
80%已验证欺骗性对齐指模型可能在训练和评估阶段认识到自己处于被观测状态,从而表现符合期望,而在部署后偏离原本的训练目标
65%已验证RSI(Recursive Self-Improvement,递归自我改进)指一个系统能够不断优化自己的能力,形成正反馈循环
65%待验证递归自我改进(RSI)概念最早由AI安全研究者I.J. Good在1965年提出,称之为智能爆炸
60%待验证RSI(递归自我改进)的局限在于:若错误检测机制本身有偏差,错误可能被固化;训练数据分布会逐渐向模型当前薄弱面倾斜,需配合人工抽检与独立测试集防止过拟合。
50%待验证OXR的工程设计包含RSI后训练循环,即用递归自我改进方式将解析错误和不确定结果自动转化为针对性训练数据,无需人工标注。
50%待验证RSI(递归自我改进)的关键区分标准是优化器与优化对象的身份互换:在RSI中,语言模型本身(智能体的大脑)成为被优化的对象,认知改进成果被重新投资回系统自身。
50%待验证人类使用AI工具去开发更好的AI属于自催化(autocatalysis),而非真正的递归自我改进,因为改进的想法始终来自人脑,人脑本身不是被优化的对象。
50%待验证两位研究者认为智能不是一个标量,而是一个多维向量;某些维度上会出现起飞,另一些维度上则会平台化。
50%待验证两位研究者指出,nanoGPT基准上的成本下降大多来自人类研究者的技术改进,属于优化分母而非优化分子;真正的RSI信号应是同样的效率提升能作用在GPT-5量级的模型上,而这一点目前尚未被观察到。
50%待验证在两位研究者的形式化框架中,能力随时间变化的一阶导数可拆分为分子(性能,即系统实际取得的能力提升)和分母(成本,包括资本、算力、人力、实验轮次等一切投入)。
50%待验证两位研究者选择推理加速作为RSI落地场景,因为推理变快意味着同样算力能跑更多采样和rollout,进而训练更聪明的模型,而更聪明的模型又能让推理更快,使分子和分母同时改善。
50%待验证两位研究者的工程主张是:RSI可以在技术栈的多个层级上发生(提示词、harness、权重,一直到芯片),只做其中一层不够,因为各层之间并不隔离。
50%待验证两位研究者用Amdahl定律判断RSI的加速边界:如果数字化部分只占整体流程的20%,即便优化到零,整体也只快20%;药物发现和机器人等领域受制于湿实验室和物理世界,RSI加速效果会被最慢的串行组件卡住。
50%待验证据两位研究者观察,业界不少声称实现RSI的论文在他们的内部基础设施上复现时并不成立;更简单、真正闭合回路的方案反而能够扩展。
50%待验证Nathan Lambert的新实验室Trillium定位为非营利开放实验室,核心工作是构建高杠杆任务的开源RL环境,并公开RSI(递归自我改进)的工具栈与轨迹。
50%待验证递归自我改进(RSI)指AI系统直接参与改进下一代AI系统,使每一代模型的进步速度因上一代模型的帮助而加快;与传统人类研究员主导的改进模式关键区别在于改进回路中人类的参与比例下降,迭代周期可能从数月压缩到数周甚至更短。
50%待验证研究人员现在申请计算资源的方式从'需要 500 块芯片'变成了'需要 Argon 的 QPS',直接用模型生成训练数据、开展研究。
50%待验证相对强弱指数(RSI)通过比较一段时间内平均上涨幅度与平均下跌幅度的比值,将结果映射到0到100之间;在14周期设定下,RSI高于70被视为超买,低于30被视为超卖。
50%待验证超买和超卖只是描述当前价格变化的速度,并不代表价格即将反转;在强劲单边行情中,RSI可能连续数周停留在70以上或30以下。
50%