待验证50% 置信事实精确时间
相比 Sigmoid 或 Tanh 激活函数，ReLU 的梯度在正半轴恒为 1，有效缓解了深层网络训练中的梯度消失问题，同时计算代价极低
1
来源数
50%
置信度
长期有效
时效性
2026/9/20
首次发现
来源
涉及实体
相关事实
待验证ReLU激活函数为f(x)=max(0,x)，计算简单且不存在梯度消失问题，使更深网络训练成为可能77% 相似待验证Sigmoid将输出压缩到0~1之间，Tanh是早期常用激活函数，但随网络层数加深会导致梯度消失问题74% 相似待验证Wasserstein距离即使在两个分布完全不重叠时也能提供有意义的梯度信号，缓解原始GAN训练中的模式崩溃和梯度消失问题71% 相似已验证梯度消失问题源于Sigmoid或Tanh等饱和激活函数在输入值较大或较小时导数趋近于零，导致梯度逐层衰减69% 相似已验证Sigmoid函数存在梯度消失问题：当输入绝对值较大时，其导数趋近于0，导致反向传播时梯度逐层衰减67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/936211API
curl https://kongchang.com/api/v1/knowledge/claims/936211MCP
get_claim(id=936211)