机器学习（Machine Learning）是人工智能的一个分支，它使计算机系统能够利用数据和算法自动学习和改进其性能。深度学习则是机器学习的一个子集，特指利用人工神经网络，通过模仿人类大脑的数据处理和模式生成能力实现自动决策的算法。与其他机器学习算法相比，深度学习的精度明显较高。人工神经网络是模拟人脑神经元的网络结构，正是人工神经网络使得深度学习成为可能。

红框左边（

其中不带标签的数据只有x没有y（标签即分类）

Bart是生成模型，他有解码器生成=Encoder+Decoder。

Bart是生成模型，他有解码器生成=Encoder+Decoder。

其中不带标签的数据只有x没有y（标签即分类）

红框左边（

KV都来源于Encoder产生的输出，只有Q来自Decoder，这其实很合理，对于所有的模型都输入一个START，那经过self-attention的结果应该都差不多，那谁能决定这个输出呢，很显然不是START，而是Enocder的。Decoder接收到一个特殊的token （START）就知道要开始推理了（一个字一个字的推，例如：chatGPT在生成序列文字时），经过Decoder得到特征，再经

其中不带标签的数据只有x没有y（标签即分类）

Bart是生成模型，他有解码器生成=Encoder+Decoder。