已验证70% 置信事实精确时间

梯度消失是深层神经网络中梯度值在反向传播过程中指数级衰减，导致靠近输入层的参数几乎得不到更新

4

来源数

70%

置信度

长期有效

时效性

2026/7/13

首次发现

来源

AI时代还需要手写机器学习算法吗？答案与方法

redditr/learnmachinelearning2026/7/11

相关事实

待验证深度神经网络天然倾向于过拟合训练分布，对分布外样本的处理能力往往大幅下降79% 相似已验证RNN存在梯度消失/爆炸问题，梯度跨越大量时间步传递时会指数级衰减或膨胀，导致难以学习远距离依赖77% 相似待验证稀疏奖励加上长时间跨度使得基于梯度的优化信号在反向传播过程中大幅衰减77% 相似已验证梯度下降通过沿着损失函数梯度的反方向迭代调整权重使预测误差逐步收敛74% 相似待验证仅无约束地最大化SWD会导致神经网络扭曲数据结构得到退化解，因此需引入几何约束在分离性与保真度之间权衡74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/496006

API

curl https://kongchang.com/api/v1/knowledge/claims/496006

MCP

get_claim(id=496006)