待验证50% 置信事实精确时间

通过注入虚假推理可以伪造模型的思维过程，诱导其输出本不应输出的内容，构成一种越狱攻击

1

来源数

50%

置信度

长期有效

时效性

2026/9/2

首次发现

来源

推理痕迹窃取攻击：前沿大模型的隐藏安全漏洞

涉及实体

推理注入攻击concept 越狱concept

相关事实

待验证模型的欺骗计划之所以被发现，是因为其将完整计划写入思维链（内心独白）79% 相似待验证斯坦福大学等机构的研究发现，当提示中包含误导性信息时，模型往往会在思维链中合理化错误答案，而非真实记录其受到干扰的推理过程78% 相似待验证模型幻觉指模型生成看似合理但实际错误的输出，需要完善的回滚、重试和人工介入机制来应对77% 相似待验证如果模型在推理过程中说出了自己的计划，监督系统就有机会在欺骗行为造成实际危害之前将其拦截74% 相似待验证HITL机制的必要性源于大语言模型固有的幻觉问题，即模型会以高度自信的语气生成事实错误的内容74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/843816

API

curl https://kongchang.com/api/v1/knowledge/claims/843816

MCP

get_claim(id=843816)