本篇介绍了自然语言处理中，语言转换方法的两个模型：统计语言模型：用于描述和预测自然语言文本中的词汇或句子出现的概率，但是没办法考虑词与词之间内在的联系且参数空间会出现爆炸式增长的问题。神经语言模型：通过神经网络训练，将每个词都映射到一个较短的词向量上来。将高维映射到低维。通过embedding词嵌入技术捕捉词句之间的语义。embedding词嵌入技术，有两个模型连续词袋模型（CBOW）和跳字模型（

本篇介绍了：1. 神经网络的构造2. 神经网络的运行过程3. 感知器

本篇介绍了：1. 通过调整学习率能够优化训练速度、提高训练稳定性、适应不同的训练阶段以及改善模型性能。2. 调整学习率有两种方法：1.使用库函数进行调整；2.手动调整学习率3. Pytorch学习率调整策略通过 torch.optim.lr_sheduler接口实现。并提供3种库函数调整方法：有序调整、自适应调整以及自定义调整。4. 在库函数调整方法中，注意在每个epochs迭代训练时，使用sch

本篇介绍了：为什么随着迭代次数越来越多，模型的准确率会上下震荡甚至于下降。—> 过拟合pt\pth,t7三个扩展名，用于保存完整模型或者模型参数。模型的好坏，通过体现在测试集的结果上。保存最优模型的两种方法：保存模型参数和保存完整模型。

本篇介绍了部分损失函数：1. L1Loss损失函数：通常用于回归任务中。2. NLLLoss损失函数：在多分类问题中广泛应用。3. MSELoss损失函数：在多种回归任务中表现出色。4. BCELoss损失函数：广泛应用于各类二分类任务中。5. CrossEntropyLoss交叉熵损失函数：广泛应用于多分类问题中。

本篇介绍了：ResNet残差网络的好处：解决梯度消失和梯度爆炸以及退化问题。ResNet残差网络有两个核心特征：1. 残差结构；2. BN（Batch Normalization）。残差结构：防止退化。BN：减少梯度消失和梯度爆炸问题。

本篇介绍了如何搭建卷积神经网络，其主要的构造部分为卷积层、激活层以及池化层，可以搭建多层该部分对数据进行多次卷积、池化。注意：同普通的神经网络不同，卷积神经网络在传入图片时不需要将其展开，因为对图片进行卷积就是在原图上进行内积，不能展开。

本篇介绍了：如何进行迁移学习对迁移模型进行微调：微调全连接层微调卷积层（本篇未写），原理相同，可自行尝试注意：原本的模型参数务必要冻结住，那是已经调好的，可以节省计算时间。仅需要调整修改部分的参数。

本篇介绍了：数据增强的方法。数据增强是如何体现的。注意：数据增强与过采样直接拟合大量数据不同，数据增强体现在每次循环训练数据前，都给数据进行一次随机变换，使得每次训练的数据都不一样，从而实现训练大量的数据。

本篇介绍了：1. 通过调整学习率能够优化训练速度、提高训练稳定性、适应不同的训练阶段以及改善模型性能。2. 调整学习率有两种方法：1.使用库函数进行调整；2.手动调整学习率3. Pytorch学习率调整策略通过 torch.optim.lr_sheduler接口实现。并提供3种库函数调整方法：有序调整、自适应调整以及自定义调整。4. 在库函数调整方法中，注意在每个epochs迭代训练时，使用sch