pytorch conv1d的理解

下载及安装流程为：https://github.com/jadehh/MagicONNX/tree/dev。2、onnx格式按照act 终端命令行转换为.om格式的文件，需要指定NCHW格式的输入数据，以及input_name:1,1,28,28。3、inputname需要根据nutron可视化onnx模型，以便获得onnx模型的输入层的名字，即name。1、.h5格式转换为onnx格式，借助on

数据预处理踩坑

导数：理解为某处切线的斜率；偏微分：向量，方向为各个变量的方向，对每一个变量都有一个偏微分；梯度：向量，每个元素是在每个自变量上的偏微分；方向代表函数增长方向和增长趋势，模代表延这个方向增长的速率。鞍点：在一个方向上取得极大值，一个方向取得极小值。动量：momentum，理解为惯性，这样可以冲出局部极小值点，找到全局极小值点。其他记录：神经网络层数越深，loss函数越平滑，优化起来操作越容易进行。

最近刚接收深度学习项目，负责网络模型压缩与加速。基于自己的理解，写一下对通道剪枝的理解。博主主要通过叙述帮助你理解为什么要进行通道剪枝，本文涉及的数学理论知识较少，希望阅读本文后能帮助你建立一个概念，我为什么要干这件事？以及这件事干了有意义吗？文中有出错的地方，欢迎批评指正。初步理解通道剪枝，故名起义，就是对卷积通道 进行裁剪，以达到网络模型减小的目的。但是这里就涉及到两个问题：如何裁剪？裁剪之后

1.正确安装anaconda此部分安装省略，请自行查找。2.创建环境conda create -n pytorch python=3.7 %创建一个名字为pytorch的环境，并给她安装3.7版本的python。3.官网不稳定，从清华源下载安装conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs

1. KL divergence是什么KL 散度是一个距离衡量指标，衡量的是两个概率分布之间的差异。ypredy_{pred}ypred​指的是模型的输出的预测概率，形如[0.35,0.25,0.4]; ytruey_{true}ytrue​是一个one-hot形式的真实概率，形如[0,1,0]。神经网络的训练目标是使得输出的预测概率尽可能接近真实的概率分布。KL divergence loss的

总结矩阵求导以及矩阵求导在机器学子中的应用在深度学习神经网络的反向传播时，需要根据最后输出的loss反向更新网络的参数，神经网络的训练过程实际上就是参数的更新过程，参数是根据梯度下降法更新的，而梯度的计算需要用到偏导数。因此本文总结了3种在机器学习种用到最多的矩阵求导公式。考虑三种常见的情况：case1 vector to vectory=f(x)\mathbf{y}=f(\mathbf{x})y

如何理解通信中的迫零预编码？正则化迫零预编码与脏纸预编码？ZF预编码可以理解为把user自身因为多天线空间信道传输而产生的在同时同频的自干扰消掉(但没有考虑消去高斯分布的noise)，从而最小化了真实信号和估计的误差平方和，而从统计来看就是Maximize likelihood这个模型R-ZF预编码泛化一些理解可以解释为机器学习中linear regression的不带正则化的模型，而linear