神经网络分类MNIST数据集
目录
一 、问题背景
1.1 神经网络简介
神经网络基本概念:神经网络由许多单元组成,单元之间通过有向的链进行连接。单元的结构非常简 单,如下图所示,若干结点的输出作为一个节点的输入,通过神经元输出。每一个边有一个权值,神经 单元的激活函数相同。

前馈神经网络模型:
前馈神经网络模型如图所示,神经网络被分为若干层次,相邻两层的结点全连接,即一层的输出作为下 一层的输入;不相邻的层不存在直接相邻,网络中也不会出现环。最底层为输入层,最顶层为输出层, 剩下的层为隐藏层。

训练神经网络过程:反向传播算法

一个神经网络的好坏由各个结点的权重 和偏置 决定,神经网络引入损失函数来评估模型训练的结果,模型优化的过程就是最小化损失函数的过程。

反向传播的过程可以总结为:先利用观察到的误差计算输出单元的修正误差值 ,然后从输出层开始,重复以下两步:将 值传播回前一层;更新这两层之间的权重;直到到达最早的隐藏层。












