神经网络
神经网络是一种受生物神经系统启发而构建的计算模型,由大量相互连接的节点(神经元)按层次结构组成,通常包括输入层、隐藏层和输出层。其核心机制是通过调整节点间的连接权重来学习数据中的规律,能够完成分类、回归、模式识别等任务。神经网络是机器学习的重要分支,也是深度学习的基础框架。
核心事实
时间轴 (近 90 天)
用神经网络逼近确定性逻辑的核心难点是:确定性逻辑要求零错误的逐步推进,而神经网络本质连续、近似、易受数值误差累积影响,长序列执行时小误差会被放大。
将模拟器塞进权重面临精度问题:神经网络输出是概率性的,而游戏模拟要求确定性的状态转移,偏差可能导致画面错乱或逻辑崩溃。
神经网络擅长插值和泛化,但不天然保证离散状态机的精确转移;对于NES这类确定性硬件,误差会随步数累积。
神经-数值混合专家是一种将可学习的神经网络与固定的数值求解器结合的设计范式,固定数值更新不含可训练参数,负责按照方程的结构化规则推进状态,可学习预测器负责输出数值格式所需的中间量。
在神经网络中,参数通过梯度下降共同编码多个任务的知识,当模型在新任务上训练时,梯度更新会大幅改变对旧任务至关重要的权重,而旧任务数据不再出现,导致模型逐渐忘记旧任务。
Neuron Persona Library 的核心假设是:神经网络中的单个或一组神经元的激活方向变化可能对应模型行为风格的转变。
在科学计算中可以利用神经网络求解或加速流体模拟,将物理建模与机器学习方法结合。
在神经网络校正排放清单的应用中,生物源校正的误差降低了2.4–5倍,并且恢复了单次反演会丢失的低温排放信息。
在神经网络中实现记忆事务面临根本性困难,因为权重更新是分布式且连续的,单次输入引起的梯度变化弥散在整个参数空间中,难以精确定位和撤销。
人类记忆的不可逆性源于生物神经系统的可塑性与重构性,而神经网络权重的残留则源于梯度更新的分布式特性,纠错信号只能沿当前输入方向调整权重,无法精确抵消此前的更新分量。
还有 40 条时间轴事件
全部知识事实 (20)
神经网络训练中反向模式自动微分是反向传播的数学本质,因为参数数量远多于损失值输出维度
85%已验证神经网络的前向传播本质上就是矩阵乘法
80%已验证许多神经网络存在过度自信的校准偏差,即便错误率很高,输出的置信度分数依然接近1
75%已验证灾难性遗忘(Catastrophic Forgetting)是神经网络在持续学习场景下的经典痛点,当网络在新任务上更新参数时会覆盖旧任务对应的权重分布,导致旧能力退化
75%已验证动机性推理过程发生在内部思维链中,外部观察者难以监测和发现
75%已验证深度学习是机器学习的一个子领域,核心是多层人工神经网络,思想最早可追溯至1940年代
75%已验证灾难性遗忘是神经网络领域的经典难题,早在1990年代研究者就发现神经网络在新任务上持续训练时旧任务性能会急剧下降
75%已验证偶发性故障的内存条可能交替产生正确和错误的计算结果,导致神经网络训练中梯度计算偶发性偏差,影响模型收敛性且不触发硬件告警
75%已验证人脑约有860亿个神经元,突触连接总数估计约100万亿个,能耗效率约20瓦
70%已验证梯度消失是深层神经网络中梯度值在反向传播过程中指数级衰减,导致靠近输入层的参数几乎得不到更新
70%已验证神经元对齐后两个网络之间的损失地景往往呈现线性模式,插值模型可保持相当性能,而朴素平均通常落入高损失的障碍区
65%已验证神经网络中每一层的输出可以表示为 f(Wx + b),其中 f 是激活函数,W 是权重矩阵,b 是偏置向量,x 是输入向量
65%已验证模型权重是神经网络经过训练后存储的参数数值,公开权重意味着任何人可以在本地运行、微调和深度审计模型
65%已验证现代语音克隆技术借助神经网络模型只需数秒音频样本即可还原音色
65%待验证Hinton等人在深度学习取得突破之前已经在'神经网络寒冬'中坚持研究长达数十年
90%待验证神经网络层数越多、神经元越多,模型的表达能力越强,但也越容易出现过拟合
85%待验证单层感知机无法解决XOR问题导致神经网络研究陷入长达十余年的'寒冬'
85%待验证未经校准的神经网络通常存在过度自信(overconfidence)问题,在分布外数据上尤为严重
70%待验证概率论是现代AI的数学基础,涵盖贝叶斯推断、生成模型采样、不确定性量化和强化学习策略优化等领域
70%待验证有质疑者认为训练数据的规模是决定AI生成质量的关键因素,语言简洁性未必是决定性因素
60%