复合误差

在自回归预测中，每一步的误差会叠加到下一步，导致长程预测迅速退化

Anthropic 的文章警告对 Agent 而言护栏会带来更高成本，并可能产生复合误差，建议在沙箱化、隔离的环境中做大量测试并配合护栏使用。

若长程任务单步成功率为p，执行N步的总体成功率约为p^N，这解释了复合误差（compounding error）问题。

对长程任务而言，仿真到现实的迁移误差会与复合误差叠加，因此落地前往往需要大量真机验证。