已验证75% 置信事实精确时间
大模型在处理上下文时缺乏天然的'指令来源可信度'区分机制，难以自动甄别哪些文字是可执行的授权指令，哪些只是应被处理的数据内容
3
来源数
75%
置信度
长期有效
时效性
2026/10/9
首次发现
来源
涉及实体
相关事实
已验证由于大模型本身无法严格区分指令与数据，提示词注入从根本上很难被彻底消除80% 相似待验证语言模型无法可靠区分“数据”和“指令”，因此仅靠提示词建立的安全边界天然脆弱。77% 相似待验证模型在生成时没有置信度门控机制，无法判断自己是否知道某件事，面对知识盲区时不会停下来表示不确定，而是继续生成统计上最流畅的续写76% 相似待验证大型语言模型在AI for Science任务中的局限在于缺乏显式的符号验证机制，生成结果仍需领域专家或自动化工具进行正确性校验。76% 相似待验证由于LLM推理的决策路径难以提前穷举，基于规则的白名单策略往往不够用，检测系统还需具备语义理解和异常基线建模能力75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/992206API
curl https://kongchang.com/api/v1/knowledge/claims/992206MCP
get_claim(id=992206)