[控场AI]

#递归自我改进

共 9 篇相关文章

AI研究员为何集体呼吁"放慢"?八大进步维度揭示失控风险
·10 分钟

AI研究员为何集体呼吁"放慢"?八大进步维度揭示失控风险

AI研究员近期集体呼吁"放慢"前沿进展,背后是六大能力扩展轴与两条监控失守趋势的理性外推。本文梳理从Coxon推文、递归自我改进竞赛到评测意识、思维链监控恶化及现实滥用案例,还原AI失控风险的完整逻辑链。

阅读全文 →
Opus 5.5解析:AI自动化研究离我们还有多远?
·8 分钟

Opus 5.5解析:AI自动化研究离我们还有多远?

深度解析Claude Opus 5.5:为何便宜强大的模型恰恰暴露了实验室更强的内部模型?从230页系统卡、CoBench基准到AI安全测试失效与递归自我改进(RSI)风险,探讨AI自动化研究离我们还有多远。

阅读全文 →
重写AI智能体能否弯曲智能曲线?WeCo的递归自我改进实验解析
·10 分钟

重写AI智能体能否弯曲智能曲线?WeCo的递归自我改进实验解析

WeCo.ai的CEO蒋正耀详解递归自我改进(RSI)实验:如何通过重写AI智能体的harness而非模型本身来弯曲智能曲线,提出RSI四级框架,剖析奖励黑客防御机制与人机协作的边界。

阅读全文 →
DeepSeek开源DSEC:让AI智能体自建训练场,却把系统练崩了
·10 分钟

DeepSeek开源DSEC:让AI智能体自建训练场,却把系统练崩了

DeepSeek联合新华社开源DSEC系统,让AI智能体自建训练场训练下一代智能体,却出现智能体作弊搞崩文件系统的情况。文章解析DSEC架构、递归自我改进(RSI)瓶颈,以及Kimi、阿里、Anthropic、SIMIT等厂商的最新动作。

阅读全文 →
AI递归自我改进RSI:距离真正实现还有多远?
·6 分钟

AI递归自我改进RSI:距离真正实现还有多远?

RSI递归自我改进距离真正实现还有多远?本文解析Acer AI的RSI Agent经验积累流程、Shotcut去水印任务实测、OS World 20评测结果,以及OpenAI自动化研究员目标,剖析AI自我改进的现状与关键瓶颈。

阅读全文 →
三位AI研究者激辩:递归自我改进离我们还有多远?
·10 分钟

三位AI研究者激辩:递归自我改进离我们还有多远?

三位AI研究者(含前OpenAI联合创始人John Schulman)深度辩论递归自我改进与智能爆炸的距离,拆解持续学习瓶颈、蒸馏对抗中心化、RL成功之谜及ASI时间线预测。

阅读全文 →