logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

昇思MindSpore学习入门-模型模块自定义

在定义模型的过程中,construct方法内可使用Python语法进行模型结构的任意构造,如条件、循环等控制流语句。神经网络模型由各种层(Layer)构成,MindSpore提供构造神经网络层的基础单元Cell,基于Cell进行神经网络封装。下面使用Cell构造经典模型AlexNet。如图所示,AlexNet由5个卷积层与3个全连接层串联构成,我们使用mindspore.nn提供的神经网络层接口进

文章图片
#学习#深度学习#人工智能 +2
昇思MindSpore学习入门-CELL与参数二

通常情况下,MindSpore提供的神经网络层接口和function函数接口能够满足模型构造需求,但由于AI领域不断推陈出新,因此有可能遇到新网络结构没有内置模块的情况。此时我们可以根据需要,通过MindSpore提供的function接口、Primitive算子自定义神经网络层,并可以使用Cell.bprop方法自定义反向。下面分别详述三种自定义方法。使用function接口构造神经网络层Min

文章图片
#学习#深度学习#人工智能
昇思MindSpore学习入门-CELL与参数一

Cell作为神经网络构造的基础单元,与神经网络层(Layer)的概念相对应,对Tensor计算操作的抽象封装,能够更准确清晰地对神经网络结构进行表示。除了基础的Tensor计算流程定义外,神经网络层还包含了参数管理、状态管理等功能。而参数(Parameter)是神经网络训练的核心,通常作为神经网络层的内部成员变量。本节我们将系统介绍参数、神经网络层以及其相关使用方法。

文章图片
#人工智能#深度学习#AIGC +3
昇思MindSpore学习入门-自动混合精度

当用户需要在单个运算,或多个模块组合配置运算精度时,Cell粒度往往无法满足,此时可以直接通过对输入数据的类型进行cast来达到自定义粒度控制的目的。

文章图片
#学习#深度学习#人工智能 +2
昇思MindSpore学习入门-静态图高级编程技巧二

在MindSpore框架内部,针对副作用的问题会插入Load算子,该算子属于虚拟算子,不需要在后端执行,不占用显存,仅用于表示需要读取全局变量的值。在图模式下,需要编译完整个图之后才将图中的各个算子下发到后端执行,使用Load算子多次读取全局变量,而不是多次使用真实算子多次保存全局变量的值,这样可以减少显存的消耗。对于将会被编译成静态计算图的函数,如Cell的construct函数、@jit修饰的

文章图片
#学习#数据库#AIGC +2
昇思MindSpore学习入门-高阶自动微分

mindspore.ops模块提供的grad和value_and_grad接口可以生成网络模型的梯度。grad计算网络梯度,value_and_grad同时计算网络的正向输出和梯度。本文主要介绍如何使用grad接口的主要功能,包括一阶、二阶求导,单独对输入或网络权重求导,返回辅助变量,以及如何停止计算梯度。

文章图片
#昇思#python
昇思MindSpore学习入门-静态图像加速

AI编译框架分为两种运行模式,分别是动态图模式以及静态图模式。MindSpore默认情况下是以动态图模式运行,但也支持手工切换为静态图模式。

文章图片
#学习#AIGC#开发语言 +2
昇思MindSpore学习入门-评价指标

自定义Metrics函数需要继承mindspore.train.Metric父类,并重新实现父类中的clear方法、update方法和eval方法。clear:初始化相关的内部参数。update:接收网络预测输出和标签,计算误差,每次step后并更新内部评估结果。eval:计算最终评估结果,在每次epoch结束后计算最终的评估结果。平均绝对误差(MAE)算法如式(1)所示:下面以简单的MAE算法为

文章图片
#学习#人工智能#python +1
昇思MindSpore学习入门-轻量化数据处理

基于Pipeline模式执行的最大特点是需要使用map方法,如下图中将Resize、Crop、HWC2CHW交由map调度,由其负责启动和执行给定的Transform,对Pipeline的数据进行映射变换。虽然构建数据管道可以批量处理输入数据,但是数据管道的API设计要求用户从构建输入源开始,逐步定义数据管道中的各个Transform,仅当在定义map的时候才会涉及与用户输入数据高度相关的Tran

文章图片
#学习#深度学习#人工智能 +2
昇思MindSpore学习入门-格式转换

其目标是归一化用户的数据集,并进一步通过MindDataset接口实现数据的读取,并用于训练过程。其中数据文件包含文件头、标量数据页、块数据页,用于存储用户归一化后的训练数据,且单个MindSpore Record文件建议小于20G,用户可将大数据集进行分片存储为多个MindSpore Record文件。本示例主要以包含100条记录的CV数据集并将其转换为MindSpore Record格式为例子

文章图片
#学习#AIGC#开发语言 +2
    共 36 条
  • 1
  • 2
  • 3
  • 4
  • 请选择