一、 概述现在我们也知道，随着神经网络的高速发展，网络的规模和参数量也成为阻碍神经网络应用的阻碍，因此神经网络应运而生。二、剪枝剪枝在我的理解就是，神经网络其实存在着很大的冗余，有很多层，通道以及参数都是对网络正确推理结果没有影响或者说影响可以忽略不记的。那这样的层，通道和参数就是没用意义的，只是浪费我们的存储空间以及推理速度。这里我就简单介绍几种我这段时间学习的几种不同的剪枝方法。剪枝按颗粒度划

GAN的原理说起来很简单，就是一个生成网络，一个鉴别网络，两个网络不断对抗各自优化，道高一丈，魔高一尺，道再高一丈的过程。那么gan到底是如何通过对抗，就可以使得随机的一张图可以生成我们想要的图片呢？gan的目的很简单，希望构建一个从隐变量 Z 生成目标数据 X 的模型，也就是说假设了服从某些常见的分布（比如正态分布或均匀分布），然后希望训练一个模型 X=g(Z)，这个模型能够将原来的概率分布映射

会议：cvpr,iccv,eccv, 三大顶会nips,icml,aaai,ijcai,acm-mm期刊：tpami, tip查论文方法：dblp: computer science bibliography先搜索关键词， 之后在右下方选择refine by venue中随便一个，再修改搜索框中想要选择的会议和期刊名即可。...

一Filter Pruning via Geometric Median for Deep Convolutional Networks Acceleration论文链接：https://arxiv.org/pdf/1811.00250.pdf这篇论文，首先就是说现在一些基于权重的剪枝，基于通道的剪枝的一些算法，简单介绍。之后，提出了现在广泛使用的基于范式准则的剪枝方法的先决条件：（个人认为非常准

剪枝1.1MetaPruning: Meta Learning for Automatic Neural Network Channel Pruning该论文提出了一种使用元学习(meta learning)来实现深度神经网络剪枝的策略。什么是元学习？一句话来说，机器学习是让机器学习，元学习是让机器学会如何学习。听起来很厉害，实际上我个人认为意义不是特别大，因为元学习通过学习超参数来实现所谓的机器

一Filter Pruning via Geometric Median for Deep Convolutional Networks Acceleration论文链接：https://arxiv.org/pdf/1811.00250.pdf这篇论文，首先就是说现在一些基于权重的剪枝，基于通道的剪枝的一些算法，简单介绍。之后，提出了现在广泛使用的基于范式准则的剪枝方法的先决条件：（个人认为非常准

同时，作者提出一种自顶向下的剪枝方法，大致的流程就是从最后一层开始反推减去的patch，因为与卷积是不一样的，transformer的patch是一一对应的，而cnn却不是，意思是transformer中，如果我们从头剪，那么剪去的patch在后面是没有的，那么是非常影响精度的，因为前面冗余不代表后面冗余，所以从后往前是最好的选择，具体如图。的含义是：随着模型的层数由浅到深，token 的数量逐渐

train.py--weigths: 指的是训练好的网络模型，用来初始化网络权重--cfg：指的是网络结构--data：训练数据路径--hyp: 训练网络的一些超参数设置--epochs：训练迭代次数--batch-size：每次喂给神经网络的图片数目--imgsz：训练图片尺寸--rect： 是否采用矩形训练--resume： 指定你之前训练的网络模型，想继续训练这个模型--nosave： 只保

同时，作者提出一种自顶向下的剪枝方法，大致的流程就是从最后一层开始反推减去的patch，因为与卷积是不一样的，transformer的patch是一一对应的，而cnn却不是，意思是transformer中，如果我们从头剪，那么剪去的patch在后面是没有的，那么是非常影响精度的，因为前面冗余不代表后面冗余，所以从后往前是最好的选择，具体如图。的含义是：随着模型的层数由浅到深，token 的数量逐渐

为什么我们需要Precision(准确率)和Recall(召回率)？首先我们仅仅只看loss的话，会出现什么问题。举个例子：比如对于一个二分类的模型，我们通过训练得到最终loss仅为5%，也就是准确率达到了95%，这很明显我们认为这是一个比较优秀的模型。但是，如果我们的训练数据，仅有3%的数据对应标签为0，也就是负样本，其余均为正样本，对应标签为1.这样会发生什么？如果我们的网络只能输出1，无论输