待验证50% 置信事实精确时间

神经网络存在对抗样本脆弱性，微小的人类不可察觉的输入扰动可能导致模型输出剧烈变化

1

来源数

50%

置信度

长期有效

时效性

2026/8/27

首次发现

来源

AI智能体失控风险：当自主AI进入关键基础设施

涉及实体

对抗样本concept 神经网络concept

相关事实

待验证叠加现象指神经网络倾向于用远少于特征数量的神经元同时编码大量语义特征，与传统一个神经元一个特征的直觉相悖78% 相似待验证深度神经网络天然倾向于过拟合训练分布，对分布外样本的处理能力往往大幅下降75% 相似待验证偶发性故障的内存条可能交替产生正确和错误的计算结果，导致神经网络训练中梯度计算偶发性偏差，影响模型收敛性且不触发硬件告警74% 相似待验证仅无约束地最大化SWD会导致神经网络扭曲数据结构得到退化解，因此需引入几何约束在分离性与保真度之间权衡73% 相似待验证梯度消失是深层神经网络中梯度值在反向传播过程中指数级衰减，导致靠近输入层的参数几乎得不到更新73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/810310

API

curl https://kongchang.com/api/v1/knowledge/claims/810310

MCP

get_claim(id=810310)