深度学习之四卷积神经网络进阶（alexnet）为什么要有不同的网络结构？不同的网络结构解决的问题不同。不同的网络结构使用的技巧不同。不同的网络结构应用的场景不同。每次的dropout都是随机的，所以结果相当于是很多子网络的组合，在机器学习中模型组合一般是能提升最后的模型效果。神经元之间的依赖关系被消除，就降低了过拟合的风险。过拟合是神经元记住了所有的数据，而一个神经元是记不住的，而是需要多个神经元

深度学习之三 卷积神经网络1.问题引入。普通的神经网络在处理图像时遇到的问题：参数过多。参数过多引来的问题有：①.容易过拟合，导致模型的泛化能力非常差。②.收敛到较差的局部极值。解决问题–卷积。2.卷积。对于一个图像数据来说，它具有非常强的区域性。基于这样的图像性质，我们可以做一定的筛减，将全连接变成局部连接，从而降低它的参数量。①.局部连接由于图像的特征和它的位置无关，我们强制使得每一个神经元和

深度学习之四卷积神经网络进阶（alexnet）为什么要有不同的网络结构？不同的网络结构解决的问题不同。不同的网络结构使用的技巧不同。不同的网络结构应用的场景不同。每次的dropout都是随机的，所以结果相当于是很多子网络的组合，在机器学习中模型组合一般是能提升最后的模型效果。神经元之间的依赖关系被消除，就降低了过拟合的风险。过拟合是神经元记住了所有的数据，而一个神经元是记不住的，而是需要多个神经元

深度学习之二神经网络进阶1.神经元：2.神经网络结构：多个神经元组合在一起就会形成一个神经网络，下图是具有一个隐藏层的神经网络。3.正向传播：为了从数据中计算出它的预测值。4.反向传播：为了求解参数，是梯度下降算法在神经网络上的具体的计算过程。如上图：如果给定了损失函数，我们可以直接运用梯度下降法（对损失函数求偏导）求出W3的值，那么对于W1和W2如何计算损失函数对于它们的导数呢？答案是用链式法则

深度学习之三 卷积神经网络1.问题引入。普通的神经网络在处理图像时遇到的问题：参数过多。参数过多引来的问题有：①.容易过拟合，导致模型的泛化能力非常差。②.收敛到较差的局部极值。解决问题–卷积。2.卷积。对于一个图像数据来说，它具有非常强的区域性。基于这样的图像性质，我们可以做一定的筛减，将全连接变成局部连接，从而降低它的参数量。①.局部连接由于图像的特征和它的位置无关，我们强制使得每一个神经元和

深度学习之三 卷积神经网络1.问题引入。普通的神经网络在处理图像时遇到的问题：参数过多。参数过多引来的问题有：①.容易过拟合，导致模型的泛化能力非常差。②.收敛到较差的局部极值。解决问题–卷积。2.卷积。对于一个图像数据来说，它具有非常强的区域性。基于这样的图像性质，我们可以做一定的筛减，将全连接变成局部连接，从而降低它的参数量。①.局部连接由于图像的特征和它的位置无关，我们强制使得每一个神经元和

深度学习之四卷积神经网络进阶（alexnet）为什么要有不同的网络结构？不同的网络结构解决的问题不同。不同的网络结构使用的技巧不同。不同的网络结构应用的场景不同。每次的dropout都是随机的，所以结果相当于是很多子网络的组合，在机器学习中模型组合一般是能提升最后的模型效果。神经元之间的依赖关系被消除，就降低了过拟合的风险。过拟合是神经元记住了所有的数据，而一个神经元是记不住的，而是需要多个神经元

Python3入门机器学习之10.1 决策树1.什么是决策树？通过以上的例子，我们会提出如何构造决策树的问题：①.每个节点在哪个维度做划分？②.某个维度在哪个值上做划分？2.信息熵：熵在信息论中代表随机变量不确定度的度量。熵越大，数据的不确定性越高；熵越小，数据的不确定性越低。公式如下：对于一个系统中，可能有k类的信息，每一类信息所占的比例就叫做pi。举个例子来理解这个公式，如下：右边的计算结果比

深度学习之二神经网络进阶1.神经元：2.神经网络结构：多个神经元组合在一起就会形成一个神经网络，下图是具有一个隐藏层的神经网络。3.正向传播：为了从数据中计算出它的预测值。4.反向传播：为了求解参数，是梯度下降算法在神经网络上的具体的计算过程。如上图：如果给定了损失函数，我们可以直接运用梯度下降法（对损失函数求偏导）求出W3的值，那么对于W1和W2如何计算损失函数对于它们的导数呢？答案是用链式法则

Python3入门机器学习3.4 向量化1.向量化运算：在上一节中，求解参数a时，使用的for循环依次求解出分子和分母的m项都是什么，然后将它们相加在一起。而使用for循环这种方式性能相对来讲是比较低的，如果有办法将这个计算变为向量计算，那么性能就会大大的提升，这就是向量化运算的意义。在a的式子里，仔细观察分子和分母都属于以下这样一种模式：而w是一个向量，v也是一个向量。有了这样两个向量，将它们进