[控场AI]
概念context poisoning

上下文投毒

长上下文场景中,当输入混入大量格式相似、语义接近的干扰内容时,大语言模型定位和使用关键证据的能力明显退化的现象,本质源于注意力机制中的极值干扰问题

时间轴 (近 90 天)

10月14日

『上下文投毒』(Context Poisoning)指错误、过时或结构糟糕的数据进入上下文窗口,Agent基于这些数据推理,无需任何恶意行为就会出错。

待验证50%
10月14日

上下文投毒通常是精度问题——相关记录可能都在,但被大量无关记录淹没,模型因此难以正确加权。

待验证50%
9月22日

一篇发表于 arXiv 的论文将长上下文模型在混入干扰内容时定位关键证据能力退化的现象命名为「上下文投毒(context poisoning)」

待验证50%
9月22日

论文指出长上下文退化的根源不完全在于上下文长度,而在于其中有效干扰项的数量

待验证50%

全部知识事实 (4)

来源文章