[控场AI]
概念stop condition

停止条件

代理工程中的基础安全机制,通过最大迭代次数、超时限制、预算上限和明确的成功判据来防止模型陷入死循环或无限重试

时间轴 (近 90 天)

10月24日

模型本身没有内建的“我已经做完了”判定,它只是在每一步预测下一个token;若没有明确终止信号,模型倾向于继续调用工具。

待验证50%
10月24日

停止条件的工程解法分两层:运行时层硬约束(最大步数、最大token预算、超时)和任务层软约束(把完成状态写成可判定的谓词)。

待验证50%
10月24日

硬约束触发时任务往往未完成,因此日志中应记录终止原因,便于区分“正常完成”与“预算耗尽”。

待验证50%
10月23日

设计Agent时应明确权限边界(可调用哪些工具、访问哪些数据、执行哪些操作)和停止条件(如不确定时、敏感操作时、循环次数超阈值时停下来询问人类)。

待验证50%
10月18日

工程上常见的代理终止手段包括最大步数/最大轮次限制、超时预算、连续失败计数器,以及基于规则或模型判定的失败信号识别。

待验证50%
10月13日

停止条件不是模型自述的完成,而是产品/仓库层面可被第三人独立验证的状态,例如脚本化重载显示字段仍存在、测试从红变绿或trace复现出旧失败。

待验证50%

全部知识事实 (6)

来源文章