1. 神经元与激活函数神经元：下图有d个输入，我们可以认为当d是净输入的时候，d就是神经元的输入，让净输入加权求和并加上偏执项，并最终求和，得到一个输出，将这个输出作为激活函数的输入，其会对加权和再做一次运算最后输出a。这就是一个典型的神经元。激活函数：对于上图右部分即激活函数，其主要作用就是加强网络的表达能力，还有学习能力。我们要求激活函数是：1.连续的，可以允许个别点不可导，但绝大多数都是可导