待验证50% 置信事实精确时间

对抗样本是经过刻意微调、对人几乎无感知却能诱使机器学习模型做出错误判断的输入

1

来源数

50%

置信度

长期有效

时效性

2026/11/1

首次发现

来源

垃圾电话短信暴增？这个AI防骚扰方案火了

涉及实体

对抗样本concept

相关事实

待验证模型对忽略某信息这类负向指令的遵循能力可能远比假设的要弱78% 相似已验证研究表明模型可能产生不忠实的思维链，即表面推理步骤与实际决策依据不一致77% 相似待验证轻量模型会自信地给出错误答案，而普通用户根本分辨不出来；专家则能一眼识破胡编的答案。75% 相似待验证将机器学习叠加于测谎技术之上并不能解决生理信号与欺骗行为之间因果关系不明确的核心缺陷75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1124342

API

curl https://kongchang.com/api/v1/knowledge/claims/1124342

MCP

get_claim(id=1124342)