前言：pytorch虽然提供了torchvision.datasets包，封装了一些常用的数据集供我们很方便地调用，但我们经常需要训练自己的图像数据，构建并加载数据集往往是训练神经网络的第一步，本文将介绍如何构建加载自己的图像数据集，并用于神经网络输入。一. 自定义图像数据集：1. 数据集的文件结构：train为数据集根目录，下一级为每个类别的文件夹，分别包含着若干张图像：2. torch.uti

在使用pytorch训练模型时，经常可以在迭代的过程中看到optimizer.zero_grad(),loss.backward()和optimizer.step()三行代码依次出现，比如：model = MyModel()criterion = nn.CrossEntropyLoss()optimizer = torch.optim.SGD(model.parameters(), lr=0.00

一、前言有关tensorflow多gpu分布式的知识点介绍可以参考这篇博客，本文主要是记录一下自己训练时遇到的几个易错点，代码使用的分布式策略是数据并行中的同步方式。文章最后会放上完整代码，包括训练及在训练过程中验证的过程。二、易错点1. 数据划分不当导致loss为nan划分数据到不同的gpu上的代码片段如下:inputs = tf.placeholder(tf.float32, [None, i

初入pytorch，机器上有两块gpu，分别同时训练两个模型，分别添加了如下代码加以区分：os.environ["CUDA_VISIBLE_DEVICES"] = "0"os.environ["CUDA_VISIBLE_DEVICES"] = "1"第一块gpu上的模型正常运行，但在第二块gpu上的模型运行时报错AssertionError: Invalid device id，定位错误代码为：o

为了节省显存，pytorch在反向传播的过程中只保留了计算图中的叶子结点的梯度值，而未保留中间节点的梯度，如下例所示：import torchx = torch.tensor(3., requires_grad=True)y = x ** 2z = 4 * yz.backward()print(x.grad)# tensor(24.)print(y.grad)# None可以看到当进行反向传播后，

初入pytorch，机器上有两块gpu，分别同时训练两个模型，分别添加了如下代码加以区分：os.environ["CUDA_VISIBLE_DEVICES"] = "0"os.environ["CUDA_VISIBLE_DEVICES"] = "1"第一块gpu上的模型正常运行，但在第二块gpu上的模型运行时报错AssertionError: Invalid device id，定位错误代码为：o

一、固定部分网络层参数1. 将需要固定，不参与训练层参数的requires_grad属性设为False：# 在nn.Modele子类内固定features层参数for p in self.features.parameters():p.requires_grad=False2. 将参与训练的层参数传入Optimizer：param_to_optim = []for param in self.mo

一、裁剪单个多边形import numpy as npimport cv2# 读取图像img = cv2.imread("dog.jpg")# 坐标点pointspts = np.array([[10, 10], [15, 0], [35, 8], [100, 20], [300, 45], [280, 100], [350, 230], [30, 200]])pts = np.array([pt

在使用pytorch训练模型时，经常可以在迭代的过程中看到optimizer.zero_grad(),loss.backward()和optimizer.step()三行代码依次出现，比如：model = MyModel()criterion = nn.CrossEntropyLoss()optimizer = torch.optim.SGD(model.parameters(), lr=0.00

前言：pytorch虽然提供了torchvision.datasets包，封装了一些常用的数据集供我们很方便地调用，但我们经常需要训练自己的图像数据，构建并加载数据集往往是训练神经网络的第一步，本文将介绍如何构建加载自己的图像数据集，并用于神经网络输入。一. 自定义图像数据集：1. 数据集的文件结构：train为数据集根目录，下一级为每个类别的文件夹，分别包含着若干张图像：2. torch.uti