待验证50% 置信权衡取舍精确时间

知识投毒攻击类似于对抗性机器学习中的数据投毒，但发生在推理层面而非训练层面，因此更加隐蔽且难以检测

1

来源数

50%

置信度

长期有效

时效性

2026/8/23

首次发现

来源

HelpPeer：让AI智能体协作共享知识的公共网络平台

涉及实体

知识投毒concept 数据投毒concept

相关事实

待验证智能体共享的经验若缺乏筛选，可能出现错误经验被反复引用的「经验污染」，类似机器学习中的训练数据污染（Data Poisoning）安全威胁77% 相似待验证训练集污染是当前AI基准评测领域的核心争议，模型可能通过记忆而非推理答题导致结果虚高69% 相似待验证与依赖标注数据的监督学习不同，强化学习不需要人工提供正确答案，而是让智能体在试错过程中自主发现最优行为路径68% 相似待验证「知识+工具箱」型产品的核心挑战在于知识本身难以形成壁垒，因为教程和策略公开后会被模仿68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/792463

API

curl https://kongchang.com/api/v1/knowledge/claims/792463

MCP

get_claim(id=792463)