如果将Diffusion与其他生成模型（如Normalizing Flows、GAN或VAE）进行比较，它并没有那么复杂，它们都将噪声从一些简单分布转换为数据样本，Diffusion也是从纯噪声开始通过一个神经网络学习逐步去噪，最终得到一个实际图像。Diffusion对于图像的处理包括以下两个过程：我们选择的固定（或预定义）正向扩散过程 𝑞𝑞 ：它逐渐将高斯噪声添加到图像中，直到最终得到纯噪声

这一篇是用resnet50构建一个狼狗二分类的任务。采用的是迁移学习方式。在已经预训练好的模型上进行重新训练，可以提高训练的速度，也是现在最常用的训练方式。就比如一些大语言模型，就是在原本的模型上面，用新的数据集进行微调训练的，避免从头训练需要的大量时间和资源。

K临近算法基本思想就是设定一个k值。一个点属于哪一类，就根据在周围最近的k个点中的多数确定。k过小容易受噪声影响，反之分类界限会模糊。这里需要设计距离度量方式，采用何种距离。

通过连接下载mnist数据集后，调用MnistDataset进行加载，这样数据集就加载了好。在mindspore官网昇腾910的jupyternotebook下载他网站上的数据集的话，速度很快。基本上，如果要入门学习，就可以使用自带的数据集。如果要自己构建数据集，就自定义数据集，进行后续的训练和评估。可以直接导入mindspore的dataset中的数据集，具体有哪些数据集，可以查阅官方文档。实现

模型的保存和加载是很重要的。有时就是需要一些模型进行保存，方便后续继续微调。调用mindspore.save_checkpoint可以将模型的权重参数保存为ckpt文件。通过load_checkpoint函数加载模型参数，通过load_param_into_net导入对应的model中，完成模型加载。param_not_load是没有加载的参数，如果它为空，说明参数全部加载完毕。除Checkpoi

construct是网络的构造函数。在手写数字识别上，先用flatten将手写数据识别的图片数据28*28的图片展平为512。最后输出为值表示10类计算的值。用ops.ones构造一个简单的1张图片，大小28*28的。计算出结果后，用nn.Softmax进行归一化，最大的就是这类数字的概率。用nn.SequentialCell可以将各个层串联起来。Dense是线性层，前两个参数为输入和输出的维度长

主要考虑下载的速度，存储空间是否足够，显存大小。当然如果是使用大语言模型的话，最方便的还是使用在线的大语言模型，比如chatgpt4，通义千问，文心一言，kimi，豆包这些吧。这里直接从modelscope下载ChatGLM-6B模型，采用half的半精度，这种简版的模型权重更小，需要的运行占用内存更少，适合推理。这样运行代码后，会从镜像下载模型。首先安装mindspore，mindnlp，mdt

当然这里只是一个简单的手动构造的数据集的训练实体识别。也可以找现有的数据集进行训练命名实体识别。采用BERT预训练模型，然后构建网络进行训练。如果考虑做底层优化性能的话，可以自行组建网络训练，或者采用预训练+微调的形式。如果考虑应用的话，也可以直接用nltk和spacy库，下载对应的预料后，直接调用api接口实现命名实体识别任务。如果采用BIOE方式标注，对一个实体开头为B，其他不分为I。序列标注

hwc分别是高度height、宽度width、通道channel。有时候通道是第一维度，有时候是第三维度。HWC2CHW就是将(h,w,c)转换为（c,h,w）模式。比torch的张量按维度转置方便理解一些吧。以上是对于语言的分词。可以将字符串按照空格，构造出一个个单独的单词分词。Vocab是生成此表，单词到index的映射。用lookup生成构造好映射的数据集。mindspore.dataset

就是预测值和真实值之间的误差，对神经网络中的权重w和偏置b求导，希望误差越小越好，达到预测值和真实值之间的拟合。尽管对于神经网络为什么能达到这个预测的效果是黑盒模型，但是确实可以拟合实现预测效果。当进行模型训练的时候，会自动微分，反向传播，更新神经网络的参数。这里是简单的手动实现自动微分的示例。有时候，比如评估模型的时候，不需要计算梯度反向传播，可以通过stop_gradient停用计算梯度。这样