待验证50% 置信观点精确时间

在涉及检索增强（RAG）、工具调用和多步推理的LLM智能体系统中，一次微小的提示词修改可能让原本暴露的风险路径消失

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

RedThread：让LLM智能体红队测试真正可复现

涉及实体

RAGconcept LLM智能体concept

相关事实

待验证检索增强生成（RAG）技术可以通过引入外部知识源部分缓解幻觉问题，但在需要深度代码理解的漏洞分析场景中效果有限71% 相似待验证作者认为LLM智能体的真正风险不在于一条链是否返回错误的话，而在于检索文本和中间工具结果会改变后续工具调用行为69% 相似待验证LlamaIndex 在知识密集型RAG场景中往往具备比LangChain更细粒度的控制能力68% 相似待验证该SWD特征变换实验在决策树上表现良好，但在逻辑回归、SVM、KNN等算法上效果糟糕68% 相似待验证间接提示注入攻击中，攻击者只需在RAG会检索到的数据源中植入恶意指令即可操纵模型，传统WAF无法拦截68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/899754

API

curl https://kongchang.com/api/v1/knowledge/claims/899754

MCP

get_claim(id=899754)