剪枝有哪些方法首先, 选择剪枝的颗粒度：规律 or 不规则然后,选择在哪里剪枝：权重 or 结构其次，选择剪枝程度：计算量减少5倍？yolov7代码中的train.pytest.py要了解因为我们剪枝进行finetune的时候需要train()这个函数，prune的时候需要test()这个函数。

了解model.named_models，为剪枝做准备。剪枝有一些层如果你不想剪掉，那就用需要你会用 model.named_models功能。先放一段控制剪枝的代码，感受一下ignored_layers = [] # 这些层不剪枝。

【代码】export CUDA_HOME=/usr/local/cuda-11.8。

在深度学习中，反向传播（Backpropagation）是训练神经网络的关键步骤，其中需要保留前向传播时的中间结果以计算梯度。Gradient checkpointing通过在前向传播过程中将某些中间结果临时存储在内存中，而不是一直保留，从而显著减少了内存需求。具体而言，它通过在前向传播期间记录计算图的某些部分，然后在反向传播时重新计算这些部分，从而避免了在反向传播过程中保留所有中间结果。这种技术

什么是微调，什么是泛化

目标检测(Object Detection): 你需要知道的一些概念，mAP, NMS, FPN, 一阶段检测器

开放集目标检测器GroundingDINO，无需训练，检测任何物体的模型，效果非常好

#results是一个TEXT：大概长这样 ('[[1,2,3,4#5,6,7,8]]')for each in results:each = each[0]print(each)each = each.replace('[','').replace(']','').replace('\n',' ')print(each)tokens = each.split()print(to.

把数据拉回标准正态分布，因为神经网络的Block大部分都是矩阵运算，一个向量经过矩阵运算后值会越来越大，为了网络的稳定性，我们需要及时把值拉回正态分布。当testing的时候batchnorm就变成了一个线性运算（linear operator），可以跟前一层的全连接层或者卷积层融合起来计算。具体来说，当一个层的输入分布发生变化时，该层需要不断地适应新的输入分布，这会使得网络的训练过程变得不稳定，

（乘法 + 加法）=每一层输出的元素个数 * 每一个元素的运算量 =(c_out * H * W) *(c_in * K * K) = (64 * 56 * 56) * (3 * 11 * 11) = 72855552。权重的形状 = c_out * (c_in * k * k) = 64 * 3 * 11 * 11。= C * H * W = 64 * 56 * 56 = 200704 个元素。