pytorch 多GPU并行训练介绍，参考我之前的博客:pytorch中使用多GPU并行训练。本文主要针对代码部分进行讲解。1. 首先判断有没有可用的GPU，如果没有的话，这边会报错提醒，因为我们的脚本对针对多GPU训练的场景的。2. 初始化各进程环境。

你可能听说过Kaggle数据科学竞赛，但你知道Kaggle还有许多其他功能，可以帮助你完成机器学习项目吗?对于为机器学习项目寻找数据集的人，Kaggle允许你访问别人的公共数据集，并共享你自己的数据集。对于那些希望构建和训练自己的机器学习模型的人，Kaggle还提供了浏览器上notebook开发环境和一些免费的GPU时长。你也可以查看其他人的公开的notebook!除了网站之外，Kaggle还有一

计算机视觉领域自20世纪60年代末就已经存在。图像分类和目标检测是计算机视觉领域的一些最古老的问题，研究人员已经努力解决了几十年。使用神经网络和深度学习，我们已经达到了一个阶段，计算机可以开始真正地理解和识别一个物体，并具有很高的准确性，甚至在许多情况下超过了人类。要学习神经网络和计算机视觉的深度学习，OpenCV的DNN模块是一个很好的起点。由于其高度优化的CPU性能，初学者也可以很容易地开始，

原理： L1正则是基于L1范数和项，即参数的绝对值和参数的积项；L2正则是基于L2范数，即在目标函数后面加上参数的平方和与参数的积项。 区别：1.鲁棒性：L1对异常点不敏感，L2对异常点有放大效果。2.稳定性：对于新数据的调整，L1变动很大，L2整体变动不大。 答案解析 数据分析只需要简单知道原理和区别就行，公式推导不需要，面试过程中也不会出现。:逻辑回归里面，对于正负例的界定，通常会设一个阈值，

del 用于删除变量、列表元素、字典项、对象属性等。在使用 del 删除元素时，确保索引或键存在，避免引发异常。del 是用来显式删除对象的，但并不立即释放内存，内存管理依赖于垃圾回收。

链接：https://www.cnblogs.com/LXP-Never/p/15151578.html

在过去十年中，卷积神经网络（CNNs）已证明是解决基本计算机视觉任务的非常有效的工具。神经网络的一个主要应用包括自动驾驶汽车中的实时感知系统，其中目标检测通常是一项非常重要的任务。然而，将CNNs部署到实时应用程序中会对内存和延迟造成严格限制。另一方面，最先进的检测器的性能提高通常伴随着内存需求和推理时间的增加。因此，网络模型的选择及其相应的检测性能受到严格限制。已经提出了几种技术来解决这个问题，

在这篇文章中，我们将展示如何使用一个名为Mask RCNN(基于区域的卷积神经网络)的卷积神经网络模型来进行目标检测和分割。使用mask - rcnn，我们不仅检测对象，我们还获得一个灰度或二进制mask对象。Mask rcnn最初是在2017年11月由facebook的人工智能研究团队使用Python和caffe2推出的。我们将在c++和Python中共享OpenCV代码来加载和使用模型。The

​知识蒸馏，近年来越来越受到研究界的关注。大型深度神经网络取得了显著的成功，特别是在大规模数据的真实场景中，因为当考虑新数据时，过度参数化提高了泛化性能。然而，由于移动设备的算力和存储受限，在这些设备中部署DNN模型是一个巨大的挑战。为了解决这个问题，Bucilua等人（2006）首次提出了模型压缩，将信息从大模型或集成模型转移到训练的小模型中，并且不会显著导致精度下降。从大模型中学习小模型的方法

对应的输入输出特征矩阵shape是一样的，不需要虚线的残差;而对于更深层的网络resnet50/101/152,通过最大池化下采样之后它所得到的特征矩阵shape为。所对应的一系列残差结构，它们的第一层也是虚线的残差结构，但是它们的虚线结构只用来特征输出特征矩阵的channel,而对于。,因为第一层必须要将它上一层的特征矩阵的高和宽以及channel调整为当前层所需要的高宽以及channel.所以