待验证50% 置信观点精确时间

作者认为LLM智能体的真正风险不在于一条链是否返回错误的话，而在于检索文本和中间工具结果会改变后续工具调用行为

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

RedThread：让LLM智能体红队测试真正可复现

涉及实体

Matheusperson LangChainproduct

相关事实

待验证在涉及检索增强（RAG）、工具调用和多步推理的LLM智能体系统中，一次微小的提示词修改可能让原本暴露的风险路径消失69% 相似待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改67% 相似待验证LLM幻觉问题源于模型基于概率预测生成文本而非检索真实数据，在涉及具体统计数字、引文来源和法律条款时尤为危险66% 相似待验证下游用户对模型的二次微调可能意外破坏原有安全特性65% 相似待验证如果部署平台的解析器不能正确识别工具调用标记，将其当作普通文本处理，模型会陷入等待状态并不断重复推理形成死循环65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/899756

API

curl https://kongchang.com/api/v1/knowledge/claims/899756

MCP

get_claim(id=899756)