Diffusion 逆向过程:则需要学习如何逆转正向扩散过程,训练一个神经网络来预测每一步应该去除多少噪声,并再在逆向过程中去除噪声。Diffusion 前向过程:逐步向数据添加小量的高斯噪声,终点: 经过T步后,原始数据完全变为随机噪声。这篇文章,由pytorch迁移到昇思Mindspore框架进行训练和推理。最后生成的图像质量不是很好,可以考虑下优化数据集,设置更多epochs。其中x_t是第

这次的课程使用CycleGAN(Cycle Generative Adversarial Network) 即循环对抗生成网络来将图像的风格转换成另一种风格,实现了在没有配对示例的情况下学习将图像从源域 X 转换到目标域 Y 的方法。，其标准差为0.02。用于后续网络层的权重初始化,类这个类是卷积、归一化和ReLU激活函数的组合模块。初始化器定义了一个权重初始化对象。类这个类定义了整个生成器网络。

函数式自动微分,通过反向传播算法实现自动计算模型参数相对于损失函数的梯度。

模块，专门用于数据变换,同时也支持支持一系列通用Transforms。今天学习下昇思Mindspore课程的数据变换transforms。可以立即看到变换的效果，有助于调试。

实现CRF需要定义两个东西：发射概率和转移概率。发射概率就是模型认为一个词对应某个标签的概率，而转移概率则是从一个标签转移到另一个标签的概率。通过计算整个序列的得分，并比较所有可能的标签序列，CRF能够找出最可能的标签序列。最后通过模型进行预编译和训练500个step,最后进行预测和后处理,能转换回正常可读的标签形式。这次课程使用LSTM+CRF（长短期记忆网络+条件随机场）进行序列标注。首先使用

使用ViT模型进行图像分类,ViT模型的主体结构是基于Transformer模型的Encoder部分,但是Normalization部分进行了位置上的调整,最主要的结构依然是Multi-head Attention结构。设置损失函数、优化器、回调函数等，进行模型训练 训练完成之后使用ImageFolderDataset、CrossEntropySmooth和Model等接口进行模型验证。

首先下载数据集,本次数据集一共有50000张训练图片和10000张评估图片,这里使用官方提供的`mindspore.dataset.Cifar10Dataset`接口来加载数据集，并进行相关图像增强操作。来减轻退化问题，使用ResNet网络可以实现搭建较深的网络结构（突破1000层）ResNet网络层数越深，其训练误差和测试误差越小。我调整了训练轮数.30轮的训练之下,准确率有提升,Accurac

通过在每个时间步保留最可能的 num_beams 个词，并从中最终选择出概率最高的序列来降低丢失潜在的高概率序列的风险。一定程度保留最优路径 缺点无法解决重复问题；在每个时间步𝑡都简单地选择概率最高的词作为当前输出词:,缺点是会省略低概率词后面的高概率词。能根据当前条件概率分布随机选择输出词𝑤_𝑡,文本生成多样性高,但是不连续。最后课程结合通过TopK和TopP采样的优点，提供更平衡的文本生

在训练的过程中,分别获取训练过程中的损失，并在每轮迭代结束时进行测试，将隐码批量推送到生成器中，以直观地跟踪生成器。来训练生成式对抗网络,我们可以使用该网络模拟生成手写数字图片。首选使用Mindspore的数据处理api来进行数据集处理。模块可视化部分训练数据,之后就能看到训练的详情。课程在判别器和生成器中采用全连接网络架构和。函数将数据转换成字典迭代器，然后使用。最后加载生成器网络的模型生成的图

用Jupyter形式挺直观的,也不用去配置和下载环境,详细的文档和代码配置好,也可以直接用华为的云服务器,直接运行就行了,挺OK的。CSDN和华为昇思Mindspore25天学习打卡营。