待验证60% 置信事实精确时间

2023年，研究人员证明只需污染不到1%的训练数据，就能在特定触发条件下改变模型行为

2

来源数

60%

置信度

长期有效

时效性

2026/8/7

首次发现

来源

以色列斥资4650万美元干预AI舆论：生成式AI成为信息战新战场

相关事实

待验证2023年牛津大学等机构发表研究，实验中发现经过仅5-10代递归训练，模型输出质量就会出现肉眼可见的退化77% 相似待验证研究表明攻击者只需修改训练数据中低至0.01%的比例，就可能在模型中植入标准评估中不可检测的后门行为74% 相似待验证Anthropic的研究表明，即便温和的对齐训练也会导致模型在某些推理密集型任务上下降2-8个百分点73% 相似待验证2024年研究显示，经过专门训练的小型改写模型可在保持95%以上语义相似度的同时将水印检测率降至接近随机水平72% 相似待验证研究团队在GPT-2等模型上的实验表明，仅经过5-9代递归训练，模型输出质量就会出现显著退化72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/699344

API

curl https://kongchang.com/api/v1/knowledge/claims/699344

MCP

get_claim(id=699344)