记录一次PyTorch版本更新问题描述：更新PyTorch中遇到的问题。问题1：conda中无法安装PyTorch直观表现为在conda的库中，找不到PyTorch的下载方式。本人的Anaconda是从镜像下载的。不排除其他人可以通过这个方式下载。[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8zngVAky-1570705870113)(C:\Use...

深度学习算法对训练数据的胃口很大，当你收集到足够多的带标签数据构成训练集时，算法效果最好。这导致很多团队用尽一切方法收集数据，然后把它们堆到训练集里，让训练的数据量更大。但是有些数据，甚至是大部分数据，都来自和开发集和测试集不同的分布。所以深度学习时代，越来越多的团队都用和dev set、test set分布不同的数据来训练。这里有一些微妙的地方，一些最佳做法来处理训练集training s...

神经网络中的 batch 和 epoch 的详细解释

左图为我们对于低维空间的想象，似乎局部最优广泛存在。梯度下降法或者某个算法可能困在一个局部最优中，而不会抵达全局最优。但这些理解并不正确事实上如果我们要创建一个神经网络，通常梯度为0的点并不是左图中的局部最优点。实际上成本函数的零梯度点通常是鞍点。因为一个具有高维空间的函数，如果梯度为0，那么在每个方向，它可能是凸函数也可能是凹函数。如果在20000维空间中想要得到局部最优，发生概率为2-...

归一化介绍归一化输入包括两个部分：归一化均值归一化方差对于有两个输入特征（features）的数据，先归一化均值再归一化方差。最后x1和x2的均值均为0，方差均为1。提示一下，如果你用这种方法来调整数据，那么用相同的μ和σ2来归一化测试集（尤其是训练集和测试集的归一化应该相同，即用同样的方法调整测试集，而不是在训练集和测试集上分别预估μ和σ2）。归一化的好处如果在左图这样的...

“ImportError DLL load failed 找不到指定的程序”的解析和解决办法。运行程序的时候，发现了ImportError DLL load failed 找不到指定的程序的报错。网上搜了一天多都找不到解决办法，这里我的解决过程整理出来，希望可以帮助到和我遇到一样问题的人。问题描述（不想看可以跳过）首先澄清一点，这个报错不是ModuleNotFoundError: No m...

问题描述运行程序时出现报错：RuntimeError: CUDA error: no kernel image is available for execution on the device (launch_kernel at /opt/conda/conda-bld/pytorch_1556653114079/work/aten/src/ATen/native/cuda/Loops.cuh:7

在setting --> Build, Execution, Deployment --> Python Debugger下，选中第三项"Gevent compatible"即可

转自：Caffe训练过程中的train，val，test的区别。训练过程中的train，val，test的区别val是validation的简称。training dataset和validation dataset都是在训练的时候起作用。而因为validation的数据集和training没有交集，所以这部分数据对最终训练出的模型没有贡献。validation的主要作用是来验证是否过拟...

左图为我们对于低维空间的想象，似乎局部最优广泛存在。梯度下降法或者某个算法可能困在一个局部最优中，而不会抵达全局最优。但这些理解并不正确事实上如果我们要创建一个神经网络，通常梯度为0的点并不是左图中的局部最优点。实际上成本函数的零梯度点通常是鞍点。因为一个具有高维空间的函数，如果梯度为0，那么在每个方向，它可能是凸函数也可能是凹函数。如果在20000维空间中想要得到局部最优，发生概率为2-...