logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

带你从入门到精通——深度学习(三. PyTorch中张量的形状重塑、拼接和自动微分)

静态计算图的优点:性能较高,可以在编译阶段对计算图进行优化,以提高计算效率,例如进行常量折叠、内存分配优化等,并且静态计算图的稳定性较高,固定的计算图结构使得代码更加稳定和可预测。动态计算图的缺点:性能较低,由于计算图的结构不固定,可能无法进行一些高级优化并且稳定性较低,由于计算图的结构在运行时变化,可能导致代码不稳定。,并且第一个参数为需要拼接的张量组成的元组,dim参数用于指定拼接的维度,指定

文章图片
#深度学习#人工智能#python +1
带你从入门到精通——机器学习(八. 朴素贝叶斯算法)

当我们有一个函数y = f(x)时,若有结果x0 = argmax(f(x)),则表示当函数f(x)取x = x0的时候,得到f(x)在取值范围内的最大值,上式表示朴素贝叶斯法会将样本分到后验概率最大的类别中。上式中x代表特征的取值,Y=Ck代表Ck这个类别,j代表第j个特征,分母是全概率公式,对于所有类别都是一样的,对结果没有影响,通过。:是指在考虑了新数据或证据之后,对事件概率的重新评估。其中

文章图片
#算法#机器学习#人工智能
带你从入门到精通——知识图谱(二. 实体抽取)

基于传统机器学习的方法通常是将实体抽取任务转化为序列标注任务,需要经过特征选择(需要人工进行特征选择)、模型选型、模型训练、模型预测四个步骤。隐马尔科夫模型(Hidden Markov Model, HMM)以及条件随机场(Conditional Random Field,CRF)。与基于规则和词典的方法相比基于传统机器学习的方法的可移植性更强,但仍然需要人工进行特征工程,成本较高。

文章图片
#知识图谱#人工智能#深度学习 +1
带你从入门到精通——自然语言处理(九. 迁移学习和transformers库)

迁移学习是机器学习中的一种方法,旨在将在一个任务(源任务,即有充足数据且已经训练好模型的任务)中学到的模型参数、特征表示或其他知识迁移另一个相关的任务(目标任务,即待解决的任务)中,在目标任务数据不足或标注数据困难的情况下,迁移学习可以显著加快模型在目标任务上的训练,提高模型的性能。

文章图片
#自然语言处理#人工智能#深度学习 +4
带你从入门到精通——自然语言处理(十三. 模型压缩)

模型量化是指将深度学习模型中使用高精度浮点数(例如FP32、FP16)来表示的权重和激活值(模型中持续更新的输入通常被称为激活值)转换为低精度的整数(INT8、INT4)的过程,能够起到压缩模型、加速推理的作用。目前主流的量化技术为训练后量化(Post-Training Quantization,PTQ),PTQ在模型完成训练后直接对权重和激活值进行低精度转换,无需重新训练或微调。

文章图片
#人工智能#自然语言处理#深度学习 +2
带你从入门到精通——深度学习(六. 神经网络的优化方法和正则化方法)

其中,EMAt​是时间t时的指数移动平均值,xt是时间t时的实际值,β被称为平滑因子,取值范围为0<β<1,EMAt−1是值前一时刻的指数移动平均值,初始条件通常为。(缩放+平移),γ和β都是可学习的参数,它相当于对标准化后的数据做了一个线性变换,γ为系数,β为偏置,eps是一个极小的数,以避免分母为0。,鞍点是指函数在此点一阶导数为零,但该点是某一方向上的函数极大值点,在另一方向上是函数极小值点

文章图片
#深度学习#人工智能#python +2
带你从入门到精通——深度学习(八. 卷积神经网络)

卷积神经网络(Convolutional Neural Network,CNN)卷积层:负责提取图像中的局部特征。池化层:负责降维,减少参数量,提高运算速度。全连接层:复杂输出最终的结果。

文章图片
#人工智能#深度学习#pytorch +1
带你从入门到精通——深度学习(一. 深度学习简介和PyTorch入门)

深度学习(也被称为仿生物脑)是机器学习中的一种特殊方法,它使用被称为神经网络(也被称为仿生物神经元)的复杂结构,特别是“深层”的神经网络,来学习和做出预测。深度学习特别适合处理大规模和高维度的数据,例如图像、声音和文本。深度学习的精度高,性能优于其他的机器学习算法,甚至在某些领域超过了人类,并且随着计算机硬件的发展,可以近似任意的非线性函数。但深度学习是一种“黑箱”模型,很难解释模型的工作机制,并

文章图片
#python#pytorch#深度学习 +1
带你从入门到精通——自然语言处理(五. 自注意力机制和transformer的输入部分)

RNN模型是依次输入各个token并进行编码,因此RNN模型能够直接感知输入序列中各个token之间的位置关系,而在transformer模型中,对于输入序列是并行进行编码的,因此它无法直接感知输入序列中各个token的位置关系,所以transformer中引入了位置编码器(Positional Encoding),位置编码器能够为embedding后的词向量引入该词在输入序列中位置信息。的作用是

文章图片
#python#深度学习#自然语言处理 +2
带你从入门到精通——知识图谱(一. 知识图谱入门)

知识图谱(Knowledge Graph)是一种基于图数据结构的关系网络或数据库,在知识图谱中,节点可以表示概念(抽象出来的事物,也称本体)、实体(具体的事物)、属性值,边可以表示事物的关系(事物的内外部联系)或属性(事物的内部特征),由于图可以分为有向图和无向图,因此知识图谱也可以是有向或无向的。与传统的关系型数据库,如MySQL相比,知识图谱能够通过节点和边的关系更便捷地处理复杂的多跳关系、并

文章图片
#人工智能#python#深度学习 +3
    共 40 条
  • 1
  • 2
  • 3
  • 4
  • 请选择