logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

头歌工程实训答案-机器学习篇之优化器

第1关:SGD# 声明一个线性模型# 补全代码,声明一个SGD优化器optimizer,其中,模型model中的linear层学习率为默认值1e-6# 输出优化器param_groups的长度# 输出linear层的学习率。

文章图片
#机器学习#深度学习#人工智能
头歌工程实训答案-机器学习篇之优化器

补全代码,声明一个Adadelta优化器optimizer,设置模型model中的linear层缩放的系数为1e-04,计算平方梯度的运行平均值的系数0.8,分母里的项为1e-04,权重衰减为0。# 补全代码,声明一个Adagrad优化器optimizer,设置模型model中的linear层学习率为默认值1e-6,学习率衰减0,权重衰减0,moment累加器的初始值1,eps为1e-9。第2关:

文章图片
#机器学习#深度学习#人工智能
头歌工程实训答案-机器学习篇之神经网络

然后,将该模型的softmax层之前的输出视为另一小模型的软目标。利用软目标传递来提高小模型的泛化能力,从而提高其性能。以上描述的是哪一种模型压缩方法(D)x = torch.linspace(-5, 5, 200)# 构造一段连续的数据。在模型优化过程中,Dropout层的作用是(A)

文章图片
#机器学习#神经网络#pytorch
头歌工程实训答案-机器学习篇之神经网络

然后,将该模型的softmax层之前的输出视为另一小模型的软目标。利用软目标传递来提高小模型的泛化能力,从而提高其性能。以上描述的是哪一种模型压缩方法(D)x = torch.linspace(-5, 5, 200)# 构造一段连续的数据。在模型优化过程中,Dropout层的作用是(A)

文章图片
#机器学习#神经网络#pytorch
头歌工程实训答案-机器学习篇之模型构建 —— LeNet

output = self.fc(feature.view(img.shape[0], -1))# 全连接层。nn.Linear(16*16, 120),# 全连接层。nn.MaxPool2d(2, 2),# 最大池化层。nn.Conv2d(6, 16, 5),# 卷积层。nn.Conv2d(1, 6, 5),# 卷积层。激活函数、最大池化层、卷积层、激活函数、最大池化层,这里搭建全连接层,需要按

文章图片
#深度学习#python#神经网络
头歌工程实训答案-机器学习篇之神经网络

然后,将该模型的softmax层之前的输出视为另一小模型的软目标。利用软目标传递来提高小模型的泛化能力,从而提高其性能。以上描述的是哪一种模型压缩方法(D)x = torch.linspace(-5, 5, 200)# 构造一段连续的数据。在模型优化过程中,Dropout层的作用是(A)

文章图片
#机器学习#神经网络#pytorch
头歌工程实训答案-机器学习篇之模型构建 —— ResNet

前面1x1和3x3卷积的filter个数相等,最后1x1卷积是其expansion倍。# 用于ResNet50,101和152的残差块,用的是1x1+3x3+1x1的卷积。# 如果不相同,需要添加卷积+BN来变换为同一维度。# 经过处理后的x要与x的维度相同(尺寸和深度)# 用于ResNet18和34的残差块,用的是2个3x3的卷积。

文章图片
#机器学习#深度学习#python
头歌工程实训答案-机器学习篇之优化器

补全代码,声明一个Adadelta优化器optimizer,设置模型model中的linear层缩放的系数为1e-04,计算平方梯度的运行平均值的系数0.8,分母里的项为1e-04,权重衰减为0。# 补全代码,声明一个Adagrad优化器optimizer,设置模型model中的linear层学习率为默认值1e-6,学习率衰减0,权重衰减0,moment累加器的初始值1,eps为1e-9。第2关:

文章图片
#机器学习#深度学习#人工智能
头歌工程实训答案-机器学习篇之模型构建 —— ResNet

前面1x1和3x3卷积的filter个数相等,最后1x1卷积是其expansion倍。# 用于ResNet50,101和152的残差块,用的是1x1+3x3+1x1的卷积。# 如果不相同,需要添加卷积+BN来变换为同一维度。# 经过处理后的x要与x的维度相同(尺寸和深度)# 用于ResNet18和34的残差块,用的是2个3x3的卷积。

文章图片
#机器学习#深度学习#python
    共 16 条
  • 1
  • 2
  • 请选择