高斯分布
一种常见的连续概率分布,呈钟形曲线,在扩散模型中用于建模噪声,其可加性和线性变换性质是推导的关键。
时间轴 (近 90 天)
对于高斯分布,专家乘积融合后的精度矩阵等于各专家精度矩阵之和,均值是各专家均值按精度加权的结果。
在PPO等随机策略算法中,策略网络通常输出一个高斯分布的均值μ和标准差σ,实际执行的动作从N(μ, σ²)中采样;训练时σ提供探索随机性,推理时通常取均值动作(σ=0)以获得确定性行为。
反对称采样要求扰动分布关于原点对称(如高斯分布),否则成对扰动的均值不为零,质心锚定性质不再成立。
两个独立高斯分布相加,结果仍是高斯分布,且均值相加、方差相加。
在短程依赖下,论文证明迭代值在 √γ 尺度下渐近服从高斯分布,渐近方差由总体曲率和 Expectile 得分的长期方差共同决定。
EL-F给出了超越强制探索预算后regret的超多项式衰减尾部界,并在两臂高斯实例上精确刻画了线性regret偏差的指数,同时建立了在同等的每实例期望regret预算约束下策略类的匹配下界。
多元高斯分布下的互信息可以完全由协方差矩阵决定,可表示为联合协方差矩阵与边际协方差矩阵的行列式比值
此前研究表明,当每一对信息源—目标变量联合服从高斯分布时,BROJA优化问题可被约化为有限维数值优化问题
当ρ是协方差矩阵为Σ的高斯分布时,矩量测度对应的先验Gibbs分布协方差为Σ⁻¹,导致ρ分散时先验高度集中于零点,使传输映射的Lipschitz常数爆炸
当假设预测误差服从均值为零、方差固定的高斯分布时,对似然函数取负对数并展开,其主要项恰好就是均方误差的形式
还有 8 条时间轴事件
全部知识事实 (18)
对于高斯分布,专家乘积融合后的精度矩阵等于各专家精度矩阵之和,均值是各专家均值按精度加权的结果。
50%待验证在PPO等随机策略算法中,策略网络通常输出一个高斯分布的均值μ和标准差σ,实际执行的动作从N(μ, σ²)中采样;训练时σ提供探索随机性,推理时通常取均值动作(σ=0)以获得确定性行为。
50%待验证反对称采样要求扰动分布关于原点对称(如高斯分布),否则成对扰动的均值不为零,质心锚定性质不再成立。
50%待验证两个独立高斯分布相加,结果仍是高斯分布,且均值相加、方差相加。
50%待验证在短程依赖下,论文证明迭代值在 √γ 尺度下渐近服从高斯分布,渐近方差由总体曲率和 Expectile 得分的长期方差共同决定。
50%待验证EL-F给出了超越强制探索预算后regret的超多项式衰减尾部界,并在两臂高斯实例上精确刻画了线性regret偏差的指数,同时建立了在同等的每实例期望regret预算约束下策略类的匹配下界。
50%待验证多元高斯分布下的互信息可以完全由协方差矩阵决定,可表示为联合协方差矩阵与边际协方差矩阵的行列式比值
50%待验证此前研究表明,当每一对信息源—目标变量联合服从高斯分布时,BROJA优化问题可被约化为有限维数值优化问题
50%待验证当ρ是协方差矩阵为Σ的高斯分布时,矩量测度对应的先验Gibbs分布协方差为Σ⁻¹,导致ρ分散时先验高度集中于零点,使传输映射的Lipschitz常数爆炸
50%待验证当假设预测误差服从均值为零、方差固定的高斯分布时,对似然函数取负对数并展开,其主要项恰好就是均方误差的形式
50%待验证在高斯输出分布假设下,最小化负对数似然(NLL)与最小化均方误差(MSE)在数学上完全等价
50%待验证高斯分布 PDF 包含 exp(-x²/2σ²) 项,当 x 远离均值或 σ 极小时指数项会下溢为零,因此实践中常在对数空间中计算 log-PDF 以保证数值稳定性
50%待验证中心极限定理指出,独立同分布随机变量(方差有限)的标准化均值在数量足够大时趋近于标准正态分布,与原始分布类型无关
50%待验证高斯分布尾部以exp(-x²/2)速度衰减,超过3σ的事件概率约0.27%
50%待验证高斯分布的尾部衰减是指数级的,因此对极端值几乎不预期
50%待验证单变量高斯分布中均值μ控制位置,方差σ²控制离散程度
50%待验证高斯分布的尾部呈指数级快速衰减,导致基于高斯假设的模型对离群点敏感
50%待验证高斯分布无处不在源于中心极限定理,即大量独立随机变量之和趋近于正态分布
50%