logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

D - 整数变换问题(搜索算法)

D - 整数变换问题Description整数变换问题。关于整数i的变换f和g定义如下:f(i)=3i;试设计一个算法,对于给定的2 个整数n和m,用最少的f和g变换次数将n变换为m。例如,可以将整数15用4 次变换将它变换为整数4:4=gfgg(15)。当整数n不可能变换为整数m时,算法应如何处理?对任意给定的整数n和m,计算将整数n变换为整数m所需要的最少变换次数。Input输入数据的第一行有

处理多维特征的输入《PyTorch深度学习实践》

多维的特征输入:每一个维度的xi乘相应的权值wi的和加上一个偏置量bi,送入sigmoid函数进行二分类多维输入,有多个特征,进行分类机器学习—数据库每行:样本—记录每列:特征—字段矩阵运算可以利用GPU并行运算,for循环不行import numpy as npimport torchimport matplotlib.pyplot as plt# delimiter=','分隔符xy = np

#深度学习#pytorch
T5模型结构部分简述

在train模式下和在test模式下Decoder的输入是不同的,在train模式下Decoder的输入是Ground Truth,也就是不管输出是什么,会将正确答案当做输入,这种模式叫做teacher-forcing。,在Encoder中是将所有的词一起输入一起计算,但是在Decoder中不是的,在Decoder中依然是像RNN一样一个一个词输入,将已经出现的词计算得到的Q与Encoder计算得

#python#nlp#自然语言处理
循环神经网络RNN基础《PyTorch深度学习实践》

Dense全连接 DeepDNN稠密网络,全连接网络(权重最多,占大头)卷积 权重少 原因是:卷积核上权重整个图像上是共享的,所以参数少循环神经网络RNN:专门用来处理带有序列关系模式的数据(天气,故事,自然语言),使用权重共享来减少需要训练的权重的数量使用思路:不仅要考虑序连接关系还要考虑先后的时间关系RNN Cell:本质线性层(一个维度映射到另一个维度) 如下图h0先验值:CNN+FC(图像

#深度学习#pytorch#rnn
Neural ODE 神经常微分方程

欧拉法求解:欧拉法求解过程是一个递归的过程,这个思想和牛顿法、梯度下降法是相似的。它就相当于是计算器,我们给出初始to,h(t0),神经网络,要求的时间t ,它就可以自动求解。先由当前点用欧拉法求出下一点wi+1’的值,再用当前点梯度和预报点梯度的平均 作为 区间平均变化率 求解真正wi+1点的值。最近的研究发现梯度下降算法的迭代过程(GDA) 可以看作是常微分方程 (ODE) 的欧拉离散化。先用

文章图片
#python#机器学习#深度学习 +2
本地IP配置

IP地址是互联网协议地址,用于标识互联网或本地网络上的设备。IP地址类似于电话号码,第一部分是区号,指定了一个非常大的区域;第二部分是前缀,将范围缩小到本地呼叫区域;最后一部分是用户号码,将范围缩小到具体的连接。IP地址是TCP/IP协议中的一个重要概念,它是实现网络通信的基础之一。IP地址分为IPv4和IPv6两种版本。win+R,cmd打开命令窗口输入ipconfig得到,用于判断IP地址的网

#tcp/ip#网络#网络协议
torch.nn.Parameter(),nn.Embedding()

含义是将一个固定不可训练的tensor转换成可以训练的类型parameter,并将这个parameter绑定到这个module里面(net.parameter()中就有这个绑定的 parameter,所以在参数优化的时候可以进行优化),所以经过类型转换这个变量就变成了模型的一部分,成为了模型中根据训练可以改动的参数。(2)使用self.test = torch.nn.Parameter(torch

#python#深度学习#pytorch
Pytorch使用Grad-CAM绘制ViT热力图

(2)反向梯度传播是从最后预测开始,逆着经过整个模型,而Dropout和MLP都是单个token做的,不能将最后y_c结果梯度传给所有token,只有在倒推回自注意力后才能将梯度返传给所有token。所以,去掉class_token序列,拿到所有组成原图的token,将它们reshape回原图的大小。图片划分patch,加上class_token,加上位置编码,传到transformer,分类预测

#pytorch#深度学习#python +1
C盘占内存能删的部分

C:\Users\用户名\AppData里面一般有三个文件夹,分别是Local,LocalLow,Roaming,简单地来说,都是用来存放软件的配置文件和临时文件的,里面有很多以软件名称或软件公司命名的文件夹,理论上都可以删除。软件在慢慢的使用过程中,我们会发现这个软件越来越顺手,可能你改了软件的主题,可能你改了布局,也可能你改了相应的快捷键,等等,特别是一些可定制性强的软件。C:\Users\用

#缓存
模型训练,预测,数据集调用

模型做预测时的各种参数值。各种数据集调用形式。

#python#深度学习#pytorch +1
    共 13 条
  • 1
  • 2
  • 请选择