李哥深度学习班第二课 多层神经网络
·
人工神经网络（Artificial Neural Network, ANN）是深度学习的核心组成部分，而神经元（Neuron）是其最基本的单元，是人工神经网络（ANN）的最小计算单元，其灵感来源于生物神经元的工作机制。每个神经元接收多个输入信号，与对应的权重（w）相乘并求和，加上偏置（b）后，通过激活函数进行非线性变换，得到输出值，再传递给下一层神经元。
神经元的工作方式模拟了人脑中的生物神经元，即接收输入信号、加权处理、求和后添加偏差，最后通过激活函数转换得到输出信号。
不加入激活函数的神经元和神经网络。神经元的工作就是把输入向量(x1,x2,x3,x4)与权向量(w1,w2,w3,w4)做一个内积，并且加上一个偏置值。
最后表现出来就是矩阵的相乘。
但是这样会产生一个问题
多层神经网络在这种情况下就失去了意义。
于是需要进一步模拟生物神经元的工作方式，给定一个激活函数，让神经元能够根据输入的情况决定产生的输出有多大，即模拟生物神经元对不同信号产生不同的兴奋程度。
如此就给神经网络中引入了非线性因素，使其变得更加复杂。
深度学习（三）—— 神经元与神经网络_神经网络神经元-CSDN博客
上图是一个感知机模型，相对于单层神经网络来说，它一共包含两层，分别是输入层和输出层。
输入层中每个神经元被分解为了两个部分，即先对各个输入做加权相加，而后再将结果通过一个激活函数，得到神经元各自的输出α。
输出层则将α再做一次加权相加，得到最后的估计值。
上图中的W、b、cT、b都是可以优化的参数
更多推荐
5
0- 0
已为社区贡献9条内容
所有评论(0)