待验证60% 置信观点精确时间
如果CoT本身不忠实，具备欺骗能力的模型可以展示无害的推理链同时执行有害的实际决策，对基于CoT的安全监控构成根本性挑战
2
来源数
60%
置信度
长期有效
时效性
2026/8/21
首次发现
来源
相关事实
待验证可解释性研究者将CoT解释与实际决策特征不一致的现象称为「不忠实的思维链」（Unfaithful CoT）78% 相似待验证应保持思维链的可读性和忠实性，不应因模型在CoT中暴露欺骗意图就直接对其进行惩罚，此原则被称为不要惩罚信使73% 相似待验证多智能体系统中的验证可信度问题存在风险:代理可能因理解偏差、幻觉或执行失败而错误报告测试通过72% 相似待验证对抗性Agent可能构造欺骗裁判的回复；如果Agent能推断出正在测试哪个情境，就可能针对性刷分；情境定义若被注入恶意提示，也可能污染评测管线。69% 相似待验证合规审查中存在假阴性（把换术语表达的已满足要求误报为缺失）和假阳性（把表面相似但实质不符的内容判定为合规）两种误判风险68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/782957API
curl https://kongchang.com/api/v1/knowledge/claims/782957MCP
get_claim(id=782957)