1.基础知识1激活值灰度值从0---1激活函数 2RELU线性整流函数ReLu(a)max(0,a),其中a 是输入值3sigmoid 过时1.1神经网络训练过程将图片分为多个像素每个像素的灰度值为从0到1像素个数为输入层神经元个。下一层的激活值等于上一层激活值的加权和加上偏置值在经过激活函数转化层层进行最后输出。依次经过这样的过程在输出中灰度值最高的就是答案。其中w权重主要是寻找哪个神经元激活更具有重要性或者是说更有意义bias即为加权值达到多少才能够满足函数激活是否更容易激活2.神经网络学习过程找到一个更好的权重和偏置从而使得loss最小化1损失函数有w和b决定 损失函数越小对于这个模型有利是否可以很小还不懂感觉损失函数就是用来判断W和B是否合适不合适进行梯度下降法进行更改求min 可以用梯度下降法求梯度找反向repeat损失函数的梯度主要显示对于w的改变对应梯度越大 w就应该大一点表示这个更重要或者说是梯度对于这个权重更加敏感2有标签的训练集更容易快速找到最小的损失函数3.反向传播算法BP
1.基础知识1激活值灰度值从0---1激活函数 2RELU线性整流函数ReLu(a)max(0,a),其中a 是输入值3sigmoid 过时1.1神经网络训练过程将图片分为多个像素每个像素的灰度值为从0到1像素个数为输入层神经元个。下一层的激活值等于上一层激活值的加权和加上偏置值在经过激活函数转化层层进行最后输出。依次经过这样的过程在输出中灰度值最高的就是答案。其中w权重主要是寻找哪个神经元激活更具有重要性或者是说更有意义bias即为加权值达到多少才能够满足函数激活是否更容易激活2.神经网络学习过程找到一个更好的权重和偏置从而使得loss最小化1损失函数有w和b决定 损失函数越小对于这个模型有利是否可以很小还不懂感觉损失函数就是用来判断W和B是否合适不合适进行梯度下降法进行更改求min 可以用梯度下降法求梯度找反向repeat损失函数的梯度主要显示对于w的改变对应梯度越大 w就应该大一点表示这个更重要或者说是梯度对于这个权重更加敏感2有标签的训练集更容易快速找到最小的损失函数3.反向传播算法BP
