已验证65% 置信事实精确时间
提示词注入利用的是「数据」与「指令」之间边界模糊这一根本性缺陷
3
来源数
65%
置信度
长期有效
时效性
2026/10/2
首次发现
来源
涉及实体
相关事实
已验证LLM架构无法从语义层面严格区分'指令'与'数据'，这是提示注入难以根治的根源73% 相似已验证提示注入本质上是一种指令劫持攻击，利用LLM无法从语义层面区分系统指令与用户数据的结构性缺陷，与SQL注入有概念相似性72% 相似待验证工具调用裁判模型存在系统性缺陷：当输入中找不到某个值的出处时，即使这个值完全正确，裁判也更倾向于拒绝它，这一现象被命名为'推导鸿沟'。72% 相似待验证同一类错误可能对应完全不同的成因：指令不清晰和检索没覆盖到关键文档都表现为「答非所问」；缺少实时数值和缺少私有知识都表现为「编造内容」；基座模型能力不够和训练数据标签有噪声也可能给出看似相似的错误。71% 相似待验证措辞不当的提示词可能导致AI输出不稳定，进而让下游节点因数据格式不符而报错。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/968346API
curl https://kongchang.com/api/v1/knowledge/claims/968346MCP
get_claim(id=968346)