logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【NLP】one-hot到word2vec发展路线

对于L来说,计算L,对于一对(vt,vc)来说,需要计算b次点积(b是词向量的特征个数:n-dim),复杂度为O(b),对于一对(vt,vc)来说,需要计算k个负样本的概率值,也就是计算k次,总时间复杂度为O(kd)—>O(1)。但是此时的Lbound下界是一个得分,但我们最终要计算的是一个概率,那就需要给这个L得分套上一个sigmoid激活函数,再取对数值,起到一个放大差异的作用,最终我们需要有

文章图片
#自然语言处理#word2vec#人工智能
【NLP】手撕RNN网络+RNN情感分类任务+RNN生成式任务

重点了解正向传播中的递归中的数据流向,反向传播的梯度更新。输入数据格式为:(seq_len, batch_size, input_dim) 。二、RNN情感分类任务情感分类(Sentiment Classification),是自然语言处理(NLP)中的一个经典任务,旨在对文本进行情感分类,通常包括将文本氛围“正面”、“负面”或“中性”等情感类别。IMDb数据集是情感分类任务的著名数据集,包含来自

文章图片
#自然语言处理#rnn#分类
【NLP】基础概念+RNN架构

本文概述了NLP(自然语言处理)的发展历程及其在人工智能领域的重要性。文章指出,认知智能是人工智能的终极目标,而NLP是实现人机同频交流的关键。从早期的规则驱动方法到如今的Transformer架构和大语言模型(LLMs),NLP经历了探索、提升和应用三大阶段。当前大模型时代的核心方向包括研发训练技术、降低成本以及商业应用落地。NLP不仅在学术界持续繁荣,也在工业界催生了大量创新产品,深刻改变了人

文章图片
#自然语言处理#rnn#分类
【NLP】基础概念+RNN架构

本文概述了NLP(自然语言处理)的发展历程及其在人工智能领域的重要性。文章指出,认知智能是人工智能的终极目标,而NLP是实现人机同频交流的关键。从早期的规则驱动方法到如今的Transformer架构和大语言模型(LLMs),NLP经历了探索、提升和应用三大阶段。当前大模型时代的核心方向包括研发训练技术、降低成本以及商业应用落地。NLP不仅在学术界持续繁荣,也在工业界催生了大量创新产品,深刻改变了人

文章图片
#自然语言处理#rnn#分类
pytorch_lesson2 张量的索引+torch.index_select+torch.view+张量的分片函数+张量的合并操作+张量的维度变换

文章目录前言一、张量的符号索引1、一维张量索引2、二维张量索引3、三维张量索引二、张量的函数索引torch.index_select()方法三、tensor.view()方法四、张量的分片函数1、分块:chunk函数2、拆分:split函数四、张量的合并操作1、cat2、stack堆叠六、张量维度变换1、squeeze函数:删除不必要的维度2、unsqueeze函数:手动升维前言张量作为有序的序列

#pytorch#python#深度学习
Regression回归应用场景+实现步骤+案例结果分析+模型改进+基本概念(bias&variance+诊断欠拟合和过拟合的方法+解决方案)

哦吼,深度学习开始了,要加油啊!早一点把模型搞懂,老师就不用push我了,哭哭!目录一、Regression回归1、应用场景(1)Stock Market Forecast——股价预测(2)Self-driving Car——自动驾驶(3)Recommendation——推荐系统2、步骤(1)给一个Model(2)Goodness of Function(函数优度)(3)Find the best

#深度学习#python#机器学习
Graph_convolution_深度学习基础_利用mnist数据集实现mlp/cnn和自编码器

深度学习基础,利用mnist数据实现前反馈神经网络、卷积神经网络和自编码神经网络

#深度学习#cnn#python
kmeans算法

文章目录1、概述1.1 无监督学习与聚类算法1.2 sklearn中的聚类算法2、KMeans2.1 KMeans是如何工作的?2.2 簇内误差平方和的定义和解惑3、sklearn.cluster.KMeans3.1 重要参数n_clusters3.2 聚类算法的模型评估指标3.2.1当真实标签已知时3.2.2 当真实标签未知时:轮廓系数3.3案例:基于轮廓系数来选择n_clusters3.4 重

#算法#kmeans#机器学习
数据挖掘的五大流程、sklearn中常用的模块介绍、数据预处理、特征选择(过滤法+Embedded嵌入法+Wrapper包装法)

文章目录1、数据挖掘的五大流程:1.1获取数据1.2数据预处理1.3 特征工程:1.4 建模,测试模型并预测出结果1.5 上线,验证模型效果2、sklearn中的数据预处理和特征工程3、数据预处理 Preprocessing & Impute3.1 数据无量纲化·preprocessing.MinMaxScalerpreprocessing.StandardScalerStandardSc

#sklearn#数据挖掘#机器学习
到底了