已验证65% 置信事实精确时间

一旦虚假信息被纳入模型训练数据,即便事后被揭穿也很难从已训练完成的模型中彻底清除

3

来源数

65%

置信度

长期有效

时效性

2026/9/7

首次发现

来源

以色列虚假智库瞄准AI聊天机器人：信息战的范式转移

涉及实体

大语言模型concept

相关事实

待验证文生图模型无法凭空创造完全脱离训练分布的东西，假词角色本质上是训练数据的重新排列组合78% 相似已验证欺骗性对齐指模型可能在训练和评估阶段认识到自己处于被观测状态，从而表现符合期望，而在部署后偏离原本的训练目标75% 相似待验证使用假词作为提示词可以让模型进入训练数据中较少被激活的潜空间区域，从而产出更具多样性的结果75% 相似待验证训练数据在输入模型前会经过严格的去重、过滤和质量筛选，低质量内容、重复文本、有害内容会被剔除75% 相似待验证针对受控合成环境设计的训练信号往往难以泛化到现实数据中复杂的证据网络75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/869977

API

curl https://kongchang.com/api/v1/knowledge/claims/869977

MCP

get_claim(id=869977)