程序是对现实世界/需求的映射，pytorch也不例外。在深度学习领域中，一般所需要的三种变量及pytorch中对应的三种tensor总结如下：

1. 不需要反向传播来更新，也不需要保存在模型的文件参数中：这种对应的就是普通的tensor, 例如模型的图片输入tensor和模型的标签tensor。
2. 不需要反向传播来更新，但是需要保存在模型的文件参数中用于推理的时候加载：这种就对应nn.Module.buffer，最经典的如batch noarm层中的mean和std，这在训练的时候不是反向传播更新而是计算出来的，模型训练完成后，会保存在参数文件中，模型被加载推理的时候，可以被取到。另外，就是如果之前做过目标检测任务的话，有一篇经典的文章gfl, 它也用到了这种变量：

        self.register_buffer('project',
                             torch.linspace(0, self.reg_max, self.reg_max + 1))

这样的话，就会有一个project变量被保存在参数文件中。
3. 需要反向传播，也需要保存在模型参数文件中用于推理的时候加载：这种就对应nn.Parameter。当然所有层的weights, bias都是这样的变量。另外一个例子，比如说vit论文中的可学习的一个cls token也是这种变量

self.cls_token = nn.Parameter(torch.randn(num_cls_tokens, dim))

这种也不用记忆，尤其是大模型时代。但是一般想好自己的需要（是否反向传播，是否保存至模型参数文件中），这种如何prompt，如何选择还是要知道，因此总结一下这个小点，作为自己的笔记。

4. feedback

• 记录于2026年7月2日，最近在运行PWOOD-semi_point2rboxv2_dota15_10p.py#L79的时候，有一个变量iter_count的定义就可以利用nn.Module.buffer的类型做的更加优雅一点。当前该仓库的做法有一个问题，就是如果从一个中间的模型文件resume训练，该变量是从0开始的，而这会导致代码内部的一些基于该变量数值的判断出现失效，其本质原因是该变量未保存至pth模型文件中。