首先对比图像分类的步骤机器学习领域1特征提取(很考验使用者的经验)2特征筛选3输入分类器简单来说就是基于机器学习深度学习领域特征的提取，筛选，分类集成于一体简单来说就是基于神经网络论文框架摘要(abstruct)部分介绍了alexnet网络结构及成果⬇⬇⬇⬇⬇⬇⬇⬇⬇⬇⬇⬇⬇⬇介绍(introduction)部分，说明了神经网络在算力更好的GPU与更加强大的数据的加持下会有更好的结果(硬件与Gar

简单来说就是得出A然后结合A与下一个特征得出B,结合A,B与下一个特征得出C，那么整个句子的内在关联就是Z=A+B+C

在多任务学习中，不同任务之间可以是相关的，共享的，或者相互支持的，因此通过同时训练这些任务可以提供更多的信息来改善模型的泛化能力。多任务学习的优势在于可以通过共享模型参数和特征表示来促进任务之间的知识传递，从而加速模型训练，提高模型的泛化性能，减少过拟合，并能够从有限的数据中更有效地学习。迁移学习：多任务学习可以被视为一种特殊的迁移学习，其中任务之间的知识传递有助于提高目标任务的性能。相关任务：多

参数是模型内部学习的变量，通过训练过程自动调整。超参数是在训练之前设置的参数，直接影响模型的训练和性能表现。优化参数可以使模型更好地适应训练数据，而合适的超参数选择可以提高模型的泛化能力和性能。

学习率衰减（Learning Rate Decay）是一种优化算法，在训练深度学习模型时逐渐减小学习率，以便在训练的后期更加稳定地收敛到最优解。学习率衰减可以帮助在训练初期更快地靠近最优解，而在接近最优解时减小学习率可以使模型更精细地调整参数，从而更好地收敛。指数衰减：使用指数函数来衰减学习率，例如每隔一定迭代步骤，将学习率按指数函数进行衰减。定期衰减：在训练的每个固定的迭代步骤，将学习率乘以一个

例如，在单层感知机中，使用线性激活函数无法分割异或问题，但通过引入非线性激活函数，如Sigmoid、ReLU等，神经网络可以轻松解决这类问题。神经网络需要非线性激活函数，才能在多层网络中逐渐组合线性变换，从而表达更丰富的函数和特征。通过使用非线性激活函数，神经网络可以更好地逼近这些复杂函数关系，从而提高模型的表现力和预测能力。线性模型的拟合能力有限，容易受到噪声的影响，而非线性激活函数可以提高模型

迁移学习（Transfer Learning）是一种机器学习技术，旨在将在一个任务上学到的知识或模型迁移到另一个相关任务上，以提高新任务的性能。迁移学习的优势在于可以充分利用已有的数据和模型，从而在目标任务上减少数据需求，加快模型收敛速度，并提高模型的泛化能力。特征迁移：在源领域上训练的模型的特征表示，可以用于目标领域的任务。模型迁移：将源领域上训练的模型迁移到目标领域上，可以是整个模型或部分模型

概念引入矩阵A的大小为m*n如图以此类推图中的∑为S，S是对角阵(只有对角阵上是有元素的)以图上的矩阵A为例，我们可以将他分成三个矩阵相乘的形式先在X轴上做变换这是在X,Y轴上同时做了变换特征值越大，对变换的影响也就越大，比如上图中的蓝色箭头，是图中以几何形式影响最大的特征值不是所有的特征值都要处理，那样会使得情况无穷无尽(试想一下把矩阵A分成N种情况)，我们挑选影响较大的就可以了，在上图中，就表

我们可以先定义一个类NeuralNetwork，其中包含神经网络的层数、每层神经元个数、权重矩阵和偏置向量等属性，以及前向传播和反向传播等方法。在上面的代码中，layer_sizes是一个列表，包含了每层神经元的个数，例如[2, 3, 1]表示输入层有2个神经元，隐层有3个神经元，输出层有1个神经元。weights是一个列表，其中每个元素是一个权重矩阵，表示该层和前一层之间的权重关系。biases

PowerTransformer 是用于对数据进行幂变换（也称为Box-Cox变换）的预处理工具。幂变换可以使数据更接近正态分布，这有助于某些机器学习算法的性能提升。它支持两种常用的幂变换：Yeo-Johnson变换和Box-Cox变换。MinMaxScaler 是用于将数据进行最小-最大缩放的预处理工具。它将数据缩放到指定的范围，通常是。这对于那些受到特征尺度影响的算法（如K近邻和支持向量机）非