
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本次学习对中文文本实现了分类,主要代码和N1周基本一致。
本次打卡学习了word2vec模型的调用和使用,了解到了其在文本任务中的作用和便利性。
本次将加入Word2vec使用PyTorch实现中文文本分类,Word2Vec则是其中的一种词嵌入方去,是一种用于生成词向量的浅层神经网络模型,由Tomas Mikolov及其团队于2013年提出。Word2Vec通过学习大量文本数据,将每个单词表示为一个连续的向量,这些向量可以捕捉单词之间的语义和句法关系。
本次通过使用seq2seq架构实现了英译法的问题,回顾了文本数据预处理和向量化的过程,在训练过程中引入了teacher-forcing能够帮助模型快速收敛,而不用teacher-forcing更接近真实应用中的生成场景,但训练会困难。
创建一个大小为 [max_len, embed_dim] 的零张量# 创建一个形状为 [max_len, 1] 的位置索引张量pe[:, 0::2] = torch.sin(position * div_term) # 计算 PE(pos, 2i)pe[:, 1::2] = torch.cos(position * div_term) # 计算 PE(pos, 2i+1)# 将位置编码张量注册为模
【代码】深度学习打卡第R2周:文本分类RNN-心脏病预测。
训练循环train_loss = 0 # 初始化训练损失和正确率# 计算预测误差pred = model(x) # 网络输出loss = loss_fn(pred, y) # 计算网络输出和真实值之间的差距# 反向传播opt.zero_grad() # grad属性归零loss.backward() # 反向传播opt.step() # 每一步自动更新# 记录losssize = len(data
【代码】深度学习打卡第R5周:天气预测。
【代码】深度学习打卡第J1周:ResNet-50算法实战与解析。
【代码】深度学习打卡第J2周:ResNet50V2算法实战与解析。







