logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【NLP】hanlp依存句法分析使用说明

主函数名为:HanLP.parseDependency("以色列20日对加沙地带实施轰炸,造成3名巴勒斯坦武装人员死亡")运行结果如下:image.png函数返回值数据结构和背景知识:CONLL标注格式包含10列,分别为:———————————————————————————------------------------------ID FORM LEMMA CPOSTAG POSTAG FEA

【深度学习】GeLU高斯误差线性单元原理

GeLU,(Gaussian Error Linerar Units),高斯误差线性单元1 Gelu数学原理G(x) = xΦ(X<=x)其中,Φ(X)为正态分布。累积分布函数是指随机变量XX小于或等于xx的概率,用概率密度函数表示为:正态分布的累积分布函数可以用“误差函数”erf 表示:其中误差函数的表达式为:2 代码实现:def gelu...

【pytorch】pytorch 计算 CrossEntropyLoss 需要先经 softmax 层激活吗

答案是不需要。碰到一个坑,之前用pytorch实现自己的网络时,如果使用CrossEntropyLoss我总是将网路输出经softmax激活层后再计算交叉熵损失。刚刚查文档时发现自己大错特错了。考虑样本空间的类集合为{0,1,2},网络最后一层有3个神经元(每个神经元激活值代表对不同类的响应强度),某个样本送入网络后的输出记为net_out: [1,2,3], 该样本的真...

【pytorch】gpu训练的模型无法在cpu下使用问题解决

最近遇到一个问题,发下gpu训练的模型在cpu下不能跑,很难受。结果发现原来是自己使用了DataParallel的问题,我保存的是整个模型。model=DataParalle(model)torch.save(‘xx.pkl’,model)然后把模型copy到自己电脑上用cpu跑model=torch.load(‘xx.pkl’)#此处报错了。。。。原因是cpu环境不能直接导入gpu训练的Data

【NLP】语法、文法、句法、词法概念的区别

语法、文法、句法、词法概念的区别:语法与文法表示同一概念,不同角度诠释而言。句法,描述句子的结构,词之间的依赖关系。词法,研究词自身的结构与性质。...

【深度学习】GeLU高斯误差线性单元原理

GeLU,(Gaussian Error Linerar Units),高斯误差线性单元1 Gelu数学原理G(x) = xΦ(X<=x)其中,Φ(X)为正态分布。累积分布函数是指随机变量XX小于或等于xx的概率,用概率密度函数表示为:正态分布的累积分布函数可以用“误差函数”erf 表示:其中误差函数的表达式为:2 代码实现:def gelu...

【pytorch】查看torch的gpu是否可用

torch.cuda.is_available()cuda是否可用;torch.cuda.device_count()返回gpu数量;torch.cuda.get_device_name(0)返回gpu名字,设备索引默认从0开始;torch.cuda.current_device()返回当前设备索引;

【深度学习】RNN(循环神经网络)之LSTM(长短时记忆)

1 循环神经网络(RNN)概念循环神经网络,是一种线性序列结构,前一个神经元的结果会传递给后一个神经元。递归神经网络,是一种层次结构,前一个神经元会影响后一个神经元,后一个神经元同样也会影响前一个神经元。循环神经网络是递归神经网络中的一种特殊情况,因为线性结构是层次结构的一种特例。2 RNN结构2.1 误差传播为什么容易消失或放大1)如果采用线性激活函数,误差会被放大;2)如果采用sigmo

希腊字母ppt输入及读音表

希腊字母读音表Ααalpha/a:lf/阿尔法角度,系数Ββbeta/bet/贝塔磁通系数,角度,系数Γγgamma/ga:m/伽马电导系数,角度Δδdelta/delt/德(儿)塔变动,密度,屈光度Εεepsilon/ep`silon

【pytorch】pytorch 计算 CrossEntropyLoss 需要先经 softmax 层激活吗

答案是不需要。碰到一个坑,之前用pytorch实现自己的网络时,如果使用CrossEntropyLoss我总是将网路输出经softmax激活层后再计算交叉熵损失。刚刚查文档时发现自己大错特错了。考虑样本空间的类集合为{0,1,2},网络最后一层有3个神经元(每个神经元激活值代表对不同类的响应强度),某个样本送入网络后的输出记为net_out: [1,2,3], 该样本的真...

    共 40 条
  • 1
  • 2
  • 3
  • 4
  • 请选择