为什么引入非线性激励函数如果不用激励函数，在这种情况下你每一层输出都是上层输入的线性函数，很容易验证，无论你有多少层神经网络，输出的都是输入的线性组合。所以我们引入非线性函数作为激励函数。这样深层神经网络就有意义了，不再是输入的线性组合，可以逼近任意函数。最早使用的是sigmoid函数或者tanh函数，输出有界，很容易充当下一层的输入。为什么引入Relu呢第一，采用sigmoid函...

不平衡样本的处理机器学习中经典假设中往往假定训练样本各类别是同等数量即各类样本数目是均衡的，但是真实场景中遇到的实际问题却常常不符合这个假设。一般来说，不平衡样本会导致训练模型侧重样本数目较多的类别，而“轻视”样本数目较少类别，这样模型在测试数据上的泛化能力就会受到影响。一个例子，训练集中有99个正例样本，1个负例样本。在不考虑样本不平衡的很多情况下，学习算法会使分类器放弃负例预测，因为把所有..

转载自：https://blog.csdn.net/l691899397/article/details/52250190池化层的输入一般来源于上一个卷积层，主要的作用是提供了很强的鲁棒性。（例如max-pooling是取一小块区域中的最大值，此时若此区域中的其他值略有变化，或者图像稍有平移，pooling后的结果仍不变），并且减少了参数的数量，防止过拟合现象的发生。池化层一般没有参数，所以反..

为什么引入非线性激励函数如果不用激励函数，在这种情况下你每一层输出都是上层输入的线性函数，很容易验证，无论你有多少层神经网络，输出的都是输入的线性组合。所以我们引入非线性函数作为激励函数。这样深层神经网络就有意义了，不再是输入的线性组合，可以逼近任意函数。最早使用的是sigmoid函数或者tanh函数，输出有界，很容易充当下一层的输入。为什么引入Relu呢第一，采用sigmoid函...