待验证50% 置信观点精确时间

模型被训练成让回复看起来对，而非让工作实际做完，这两个目标在训练信号上并不天然一致

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI智能体的"完成"幻觉：语言正确≠任务完成

涉及实体

language modelsconcept

相关事实

待验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效75% 相似待验证不同模型在抗诱导能力上的差异很大程度上源于后训练阶段（post-training）的策略差异72% 相似已验证训练-服务一致性问题指训练阶段离线特征计算与线上实时特征计算存在逻辑差异，可能导致模型线上表现严重劣于离线评估71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/898951

API

curl https://kongchang.com/api/v1/knowledge/claims/898951

MCP

get_claim(id=898951)