BCELoss的话只需要网络输出一个通道，CE Loss(Cross Entropy Loss)需要输出n_class个通道。对于二分类任务可以使用CE Loss输出两个通道，也可以使用BCE Loss输出一个通道。

torch.softmax()torch.reduce_max()torch.pow()torch.subtrack()torch.gather()torch.log()

requires_grad表示这个tensor是否要求计算梯度，自己新建的tensor(即叶子节点）默认为False,不用计算梯度，如果某个输入需要计算梯度，则其输出也默认需要计算梯度，就算想把这个输出强行改为False也不行会提示错误torch.no_grad()是一个上下文管理器，被该语句 wrap 起来的部分将不会track 梯度。with torch.no_grad()或者@torch.n

module.state_dict()、module.named_parameters()、module.parameters()pytorch中获取模型参数：state_dict和parameters两个方法的差异比较一、module.state_dict()返回的是一个顺序字典，key为层名，值为层的权值参数或者偏置参数。作用：1、查看每一层与它的对应关系；2、模型保存时使用。二、module

RCNN、Fast RCNN和Faster RCNN都是two stage网络，第一步是生成proposal,第二步是分类和回归。1、RCNN的region proposal是使用SS算法生成2k个region proposal，然后进行warp或者crop成统一尺寸。2、Fast RCNN同样是通过SS算法生成候选框，但是通过ROI Pooling层将ROI（region of interest

一、torch.cat()添加链接描述按照指定维度拼接张量c=torch.cat((A,B),0)#按维度0拼接c=torch.cat((A,B),1)#按维度1拼接二、torch.view()添加链接描述x = torch.randn(4, 4)print(x.size())y = x.view(16)print(y.size())z = x.view(-1, 8)# -1表示该维度取决于其它维

根据PyTorch的自动求导机制，如果一个tensor设置require_grad为True的情况下，才会对这个tensor以及由这个tensor计算出来的其他tensor求导，并将导数值存在tensor的grad属性中，便于优化器来更新参数。所以一般情况下，只有对训练过程的tensor设置require_grad为True，便于求导和更新参数。而验证过程只是检查当前模型的泛化能力，只需要求出lo

写在前面：Shell中的特殊字符有$ 美元符\ 反斜杠` 反引号"双引号< ,>;,*,?,[,]1、反引号``：命令替换在输出一句话的时候，如果想中间加入命令输出结果，在反引号里面输入命令就可以做到，和KaTeX parse error: Expected 'EOF', got '#' at position 32: …ot@localhost ~]#̲ echo today is

一、MSE对于线性回归问题，

一、提高非线性当想要更多的非线性时就必须加深网络的深度，如果利用的是3X3或者5X5的卷积核时，虽然能提高非线性，但同时也会加大深层网络的感受野。二、改变维度利用1X1卷积核能改变通道数的情况下不增加参数量，在iception中可以减小特征图的情况下保证相同的信息承载量。...