神经网络入门：从基本原理到手写数字识别实战

神经网络是深度学习的基石，但不少初学者对其内部机制一知半解。这篇文章将从零开始，系统讲解神经网络的核心概念——输入层、隐藏层、输出层、前向传播、反向传播、梯度下降等，并结合手写数字识别的经典案例，帮你真正理解神经网络的工作原理。

神经网络的历史背景：神经网络的概念最早可追溯到1943年，神经科学家Warren McCulloch和数学家Walter Pitts提出了第一个数学神经元模型（M-P模型），试图用数学方式模拟人脑神经元的工作机制。1958年，Frank Rosenblatt发明了感知机（Perceptron），这是第一个可以通过学习自动调整权重的模型。然而，1969年Minsky和Papert证明了单层感知机无法解决XOR问题，导致神经网络研究陷入长达十余年的"寒冬"。直到1986年，Rumelhart等人重新推广了反向传播算法，神经网络才重新焕发生机。2012年，Hinton团队的AlexNet在ImageNet竞赛中以压倒性优势夺冠，正式开启了深度学习时代。

神经网络的基本结构

一个最基本的神经网络由三部分组成：输入层（Input Layer）、隐藏层（Hidden Layer） 和 输出层（Output Layer）。

隐藏层的层数和每层的神经元个数都可以自定义。比如，我们可以设置一个包含 128 个神经元的隐藏层，也可以再加一个 64 个神经元的隐藏层。隐藏层的核心作用是提取数据中的特征——层数越多、神经元越多，模型的表达能力就越强，但也越容易出现过拟合。

过拟合与正则化：过拟合（Overfitting）是指模型在训练数据上表现优异，但在未见过的测试数据上性能大幅下降的现象。直觉上，过拟合的模型"死记硬背