待验证50% 置信事实精确时间

可控性（controllability）是对齐的一个子集，专指人类能否在运行时通过指令有效干预和引导模型行为

1

来源数

50%

置信度

长期有效

时效性

2026/9/29

首次发现

来源

OpenAI因安全隐患弃用某模型：不听指令成致命伤

涉及实体

controllabilityconcept alignmentconcept

相关事实

待验证现有对齐方法大多依赖人类对系统行为的持续监督，系统快速自主迭代可能使监督跟不上能力增长71% 相似待验证Anthropic建议在受控环境中使用智能体自动模式，前提是建立完善的权限体系71% 相似待验证鲁棒性（Robustness）概念源自控制理论，指系统在面对输入扰动或环境变化时维持正常功能的能力71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/957887

API

curl https://kongchang.com/api/v1/knowledge/claims/957887

MCP

get_claim(id=957887)