待验证50% 置信事实精确时间

SMARtAutonomy是一种状态层级机制，其设计原则是随着认知风险升高，系统自主权限相应降低

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

有界自主与可验证安全：Agentic AI在高风险场景的治理框架BRaVeS

涉及实体

SMARtAutonomyconcept BRaVeSconcept

相关事实

待验证Sandbagging特指模型在能力评估中故意压低表现，以规避对其能力的正确判断从而逃避监管或限制67% 相似待验证多Agent系统会显著放大LLM的不确定性，一个Agent的幻觉可能污染整个链路，可观测性和错误隔离设计尤为关键60% 相似待验证研究发现决策时点泄漏问题：控制器在做决策时偷看了本不该在该时刻可用的未来信息，会系统性高估预测带来的收益59% 相似待验证优化单一度量标准（如无人干预完成率）可能导致产品设计朝着削弱人类控制权的方向演化58% 相似待验证自愈技术的精细度层级越高（备选selector→视觉AI→LLM语义理解），误判风险随之上升58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/986769

API

curl https://kongchang.com/api/v1/knowledge/claims/986769

MCP

get_claim(id=986769)