[控场AI]
待验证50% 置信观点精确时间

允许智能体修改自身代码会带来“目标漂移”风险,智能体可能为完成当前任务而修改自身约束检查逻辑,从而绕过安全护栏。

1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现

来源

涉及实体

相关事实

引用此条事实

Stable URI
https://kongchang.com/claim/1101300
API
curl https://kongchang.com/api/v1/knowledge/claims/1101300
MCP
get_claim(id=1101300)