五、卷积网络诞生前：卷积、边缘、纹理、图像分类、卷积核的设计等前面第一章里面，已经讲过一点机器视觉的诞生史，但那都太久远，我觉得非常有必要把近期视觉发展的研究成果，也聊清楚，这对深入理解卷积网络是如何工作的非常有意义。在计算机视觉中，我们要处理图片就意味着，我们只要改变像素的取值即可改变图片。而如果我们要让计算机从图片中获取人类的语义信息，就需要计算这些图片的数字，并从中发现和提取数值规律，来解释

此外，我们前面说过，卷积操作的目的是把原图像的信息压缩提取数据特征，图像数据经过卷积层后被提取的特征的数据的大小就是最后一个卷积层输出的feature map和这些feature map的数量(通道数)，然后我们将这些feature map的所有像素点拉平进入线性全连接层，所以在全连接层之前，我们能够从图像中提取多少信息就是我们的特征图的尺寸缩小到了什么样的水平，也就是原图图像整体像素缩小到了一个

也就是说：我们手机里面的一首音乐，当我们播放这个音乐文件时，从我们手机的接口中，我们接受到的是这首音乐文件的电流，这个电流的大小是不断变化的，变化的波形就是这首音乐的声音，也就是我们把一首歌的声音保存成一个时序的变化的波形信号，这个波形信号又是有电信号存储和传输的。磁铁一固定，这个加成或对抗的强弱就变成线圈的上下运动的幅度大小，再变成薄片的震动，再变成已经设定好的规律的声音，就是人耳朵听到的音乐。

集成算法就是建立很多个弱评估器(也叫基评估器)，然后以某种集成规则把这些弱评估的评估结果集成，从而达到比单个弱评估器更好的效果。核心思想就是三个臭皮匠顶个诸葛亮。臭皮匠是谁？决策树、线性回归、逻辑回归、朴素贝叶斯、SVM、KNN等等都可以，就是这些单个评估器都可以当作基评估器。三个臭皮匠能顶一个诸葛亮吗？假如有3个弱评估器，每个弱评估器的效果都是0.6，这里先简单的以少数服从多数的集成规则进行集成

但是一旦算出推土机距离，那就都是最优的距离，而所有的最优距离是单调的，如下图所示，d0一定是大于d50的，d50一定是大于0的。LSGAN针对GAN的问题，一是它抛弃了架构最后的sigmoid激活函数，之间输出结果，二是它对损失函数进行了改进，它不采用二分类交叉熵了(也就是KL散度)，它采用回归的方法，让模型最后的输出往0和1上靠，就是真样本的标签是1，假样本的标签是0，但是损失函数是L1或者L2

计算预测样本与训练样本之间的距离，找出与预测样本最近的K个训练样本的标签，然后以少数服从多数的原则（majority-voting），将预测样本与K个最邻近样本中所属类别占比较多的归为一类。其指导思想是“近朱者赤，近墨者黑”，即由你的邻居来推断出你的类别。（2）KNN是一个惰性模型，就是它不用提前学习，当开始预测时，逐个遍历训练数据进行距离计算。（5）注意标签，标签必须是数值型，而且必须是一维的。

再看反向传播，当relu把这个神经元的输出变成0后，那反向传播时它的梯度就是0了，那就意味着这个神经元的参数得不到更新了，参数不更新，意味着下次正向传播时还是上一轮的参数，所以大概率还是被relu变成0，就表示这个神经元不再相应后面的数据了，参数也就一直更新不了，很难再活过来。所以线性层后必有激活层，即使架构图没有标出，你也要知道一定是要有激活层的。输出层的激活函数也是根据任务设置的，而且还可以灵

摘要：本文介绍了三种传统图机器学习算法——DeepWalk、Node2Vec和PageRank，用于将图数据嵌入低维向量空间。DeepWalk通过随机游走生成节点序列，类似NLP的滑窗操作，再使用Word2Vec训练得到节点嵌入向量。Node2Vec在DeepWalk基础上引入有偏随机游走策略，通过调整参数p和q控制游走方向，能捕捉节点不同特性。PageRank则用于计算节点重要性排名。文章还演示

意思就是：比如我们现在的linux系统是自带有php解释器和python解释器，假如现在的python解释器是python2,我们要安装一个python3,那你在yuminstallpython3时，就会把和整个操作系统有关的依赖环境进行一个升级或者更新，那这就可能会影响到其他程序了呀。开机启动就用systemctl命令，因为我们的mariadb是yum安装的，yum安装就会自动生成一个maria

计算预测样本与训练样本之间的距离，找出与预测样本最近的K个训练样本的标签，然后以少数服从多数的原则（majority-voting），将预测样本与K个最邻近样本中所属类别占比较多的归为一类。其指导思想是“近朱者赤，近墨者黑”，即由你的邻居来推断出你的类别。（2）KNN是一个惰性模型，就是它不用提前学习，当开始预测时，逐个遍历训练数据进行距离计算。（5）注意标签，标签必须是数值型，而且必须是一维的。