待验证60% 置信事实精确时间
kill switch指的是在AI系统出现失控、异常或造成潜在危害时能够被迅速关闭或中止运行的机制
2
来源数
60%
置信度
长期有效
时效性
2026/9/15
首次发现
来源
涉及实体
相关事实
待验证'紧急刹车'在AI安全领域对应的更正式概念是可中断性（Corrigibility）或关闭问题（Off-Switch Problem）75% 相似待验证如果system prompt规则模糊，AI代理可能在错误方向上反复循环，浪费token和时间。72% 相似待验证史密斯提出的监管框架包括紧急停止机制，即在系统失控时能够强制关闭AI系统的能力71% 相似待验证AI Labs创建了一个hook钩子，每当Agent试图停止时触发抛出退出码2，提示Agent继续工作直到所有门控通过，该概念借鉴自Ralph loop71% 相似待验证紧急停止机制（Kill Switch/Emergency Stop）概念源自工业控制系统领域，在核电站、工业机器人、化工设备中早有成熟应用71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/924035API
curl https://kongchang.com/api/v1/knowledge/claims/924035MCP
get_claim(id=924035)