PyTorch是由Facebook的人工智能研究团队开发的一款开源深度学习框架。与TensorFlow的静态图相比，PyTorch采用动态图机制（即运行时定义计算图），便于调试和开发复杂模型。内置强大的自动求导（Autograd）模块，可以自动计算梯度，极大简化了反向传播算法的实现。提供了张量（Tensor）运算、神经网络层（nn模块）、优化器（optim模块）等丰富的工具和函数，方便快速搭建各种

本文将从神经网络定义、深度学习定义、深度学习历史、基础神经网络来简单介绍神经网络的基础部分。1、神经网络定义神经网络也称为人工神经网络（ANN）或模拟神经网络（SNN），是机器学习的子集，也是深度学习的算法支柱；被称为“神经”， 是因为它模仿大脑中神经元相互发出信号；很多科学发明都是从大自然中获得了想法，比如飞机的发明是受鸟类的启发，神经网络是一种受人脑启发的机器学习算法，它是一个由互连节点或人工

我们都知道卷积的重要性，但你知道深度学习领域的卷积究竟是什么，又有多少种类吗？研究学者Kunlun Bai发布了一篇介绍深度学习的卷积文章，用浅显易懂的方式介绍了深度学习领域的各种卷积及其优势。1、卷积与互相关在信号处理、图像处理和其他工程/科学领域，卷积都是一种使用广泛的技术。在深度学习领域，卷积神经网络（CNN）这种模型架构就得名于这种技术。但是，深度学习领域的卷积本质上是信号/图像处理领域内

卷积神经网络（Convolutional Neural Networks，CNN）是深度学习领域中最重要和广泛应用的模型之一。自20世纪80年代提出以来，CNN在图像处理、计算机视觉、自然语言处理等领域取得了显著的成功。本文旨在综述CNN的基本原理、发展历程、主要应用以及未来研究方向，并引用相关文献以支持论述。

批大小。在深度学习中，一般采用SGD训练，即每次训练在训练集中取batchsize个样本训练。1个iteration等于使用batchsize个样本训练一次。1个epoch等于使用训练集中的全部样本训练一次。训练集有1000个样本，batchsize=10，那么训练完整个样本需要100次iteration，1次epoch。（1）batch数太小，而类别又比较多的时候，可能会导致loss函数震荡而不

对训练图像中的每个像素做标记非常耗时，特别是对医学图像而言，完成对一个三维的CT或者MRI图像中各组织的标记过程需要数小时。图中灰色部分是原来的RCNN结合 ResNet or FPN的网络，下面黑色部分为新添加的并联 Mask层，这个图本身与上面的图也没有什么区别，旨在说明作者所提出的Mask RCNN方法的泛化适应能力：可以和多种RCNN框架结合，表现都不错。如果学习算法能通过对一些粗略标记过

然而，目标检测算法的有效性很大程度上取决于输入图像的质量。图像退化是一个常见的问题，可能由低分辨率、噪声、模糊和压缩伪影等多种因素引起，严重阻碍目标检测系统的性能。本文深入探讨图像退化对目标检测的影响，分析其带来的挑战，并探索缓解这些影响的潜在解决方案。随着技术的进步，目标检测系统对图像退化的鲁棒性无疑将得到提高，从而拓宽其在不同领域中的应用范围和可靠性。在光与像素的复杂交织中，清晰与复杂相遇，目

在卷积神经网络里，卷积核其实就是一个过滤器，但在深度学习里，它不做反转，而是直接执行逐元素的乘法和加法，我们把这个又称为互相关，在深度学习里称为卷积。

本文将从反向传播的本质、反向传播的原理、反向传播的案例三个方面，详细介绍反向传播（Back Propagation）。

本文将从Transformer的本质、Transformer的原理 和 Transformer架构改进三个方面，搞懂Transformer。一、Transformer的本质1. Transformer架构主要由输入部分（输入输出嵌入与位置编码）、多层编码器、多层解码器以及输出部分（输出线性层与Softmax）四大部分组成。Transformer架构（1）输入部分将源文本中的词汇数字表示转换为向量表