已验证65% 置信事实时间未知
ReLU激活函数的数学定义为f(x) = max(0, x)，相比Sigmoid和Tanh能有效缓解梯度消失问题
3
来源数
65%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
PyTorch入门教程：张量操作与神经网络构建完全指南
bilibili论文发刊罗小黑
涉及实体
相关事实
待验证导数的数值近似公式为 (f(a+h)-f(a))/h，源自微积分中极限的定义70% 相似待验证残差块的公式为 y = x + F(x)，反向传播时梯度经过 (1 + dF/dx) 中的"1"，为梯度提供直通早期层的捷径66% 相似待验证math.atan2(y, x)是反正切函数的双参数变体，能根据x、y符号自动判断象限，返回[-π, π]范围的完整角度，而普通arctan返回[-π/2, π/2]64% 相似待验证球谐函数Y_l^m(θ,φ)是拉普拉斯方程在球坐标下的角度部分解，由阶数l和次数m标定，每个阶数l对应2l+1个函数64% 相似待验证Deep Sets论文证明任何对集合的排列不变函数f(X)在满足可数集合等条件下可分解为ρ(Σφ(x_i))的形式62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/4692API
curl https://kongchang.com/api/v1/knowledge/claims/4692MCP
get_claim(id=4692)