社区云

transformer

lorogy 来自华为开发者联盟HarmonyOS专区

huaweidevelopers.csdn.net · 2023-09-04 15:24:49

【huggingface】数据集及模型下载并保存至本地

数据集及模型下载及保存

#自然语言处理 #transformer

908 

0 
小金子的夏天来自腾讯云开发者社区

tencentcloud.csdn.net · 2023-02-10 10:56:46

【转】Generative Pretrained Transformer

在做下游任务的时候，利用第一步预训练好的参数初始化 GPT 的网络结构，这样通过预训练学到的语言学知识就被引入到你手头的任务里来了，这是个非常好的事情。文章中使用的是多层Transformer的decoder的语言模型。用V表示词汇表大小，L表示最长的句子长度，dim 表示 Embedding 维度，则 Wp 是一个 L×dim 的矩阵，We 是一个V×dim 的矩阵。特征抽取器不是用的 RNN，

#transformer #深度学习 #神经网络

2486 

0 
阿正的梦工坊来自腾讯云开发者社区

tencentcloud.csdn.net · 2022-03-23 12:53:23

深度学习论文阅读：Generative Pre-Training(GPT)

GPT论文研读

#深度学习 #transformer

5205 

0 
Algorithm_Engineer_ 来自华为开发者联盟HarmonyOS专区

huaweidevelopers.csdn.net · 2023-07-18 22:28:45

Transformer入门-Huggingface的基础03-tokenizer的使用

这一节主要介绍关于Transformer中huggingface下的tokenizer，首先简答的介绍tokenizer,然后介绍如何使用tokenzier以及tokenizer的基本原理，帮助大家更好的了解大预言模型的分词

#transformer #深度学习 #人工智能

133 

1 
z_m_zzmz 来自腾讯云开发者社区

tencentcloud.csdn.net · 2022-04-21 01:16:03

无网络时使用AutoTokenizer.from_pretrained

最近集群不通外网，导致诸多不便无法直接从链接下载一开始的想法是先下到cache里然后传上去tokenizer = AutoTokenizer.from_pretrained("bert-base-uncased",cache_dir='./cache3')但发现不行，传了cache3之后还是会报ConnectionError最后找了一大圈发现需要加local_files_only = True这句

#pytorch #transformer

2951 

2 
自动驾驶之心来自华为开发者联盟HarmonyOS专区

huaweidevelopers.csdn.net · 2023-08-06 00:02:23

CVPR'22 | CMT：CNN和Transformer结合新范式（已开源）

作者|王云鹤编辑|汽车人原文链接：https://zhuanlan.zhihu.com/p/534567826点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【Transoformer】技术交流群本文只做学术分享，如有侵权，联系删文大家好啊，好久没在知乎发帖了，今天给大家分享一个组里最新的CVPR22工作，对CNN和Transformer的如何高...

#cnn #transformer #人工智能 +2

75 

0 
咆哮的阿杰来自华为云开发者联盟

huaweicloud.csdn.net · 2022-03-25 21:01:08

SimSwap: An Efficient Framework For High Fidelity Face Swapping

offifical infernece code背景Deepfake式的换脸decoder的目的是将B的脸换到A的头上。但输入特征是由从B处得到，因此要求decoder学习到了A的表示。这注定了Deepfake只能对两个人之间换脸，无法实现任意人之间的换脸。MethodSimSwap其实也很简单，模型分成5个部分。一个Encoder，对target image提取特征。IIM：由多个ID blo

#transformer #深度学习 #pytorch

1029 

1 
鳗小鱼来自华为云开发者联盟

huaweicloud.csdn.net · 2023-08-24 21:35:30

（已解决）OSError: openai/clip-vit-large-patch14 does not appear to have a file named pytorch_model.

在代码的上下文中，出现错误的代码段涉及到 "openai/clip-vit-large-patch14" 模型的加载问题，而上面提供的这段代码被用来禁用了 SSL 证书验证。引发此问题的应该是这部分代码，笼统来说就是尝试从 Hugging Face Transformers 库中加载一个名为 "openai/clip-vit-large-patch14" 的模型，并且尝试加载它的 PyTorch

#pytorch #人工智能 #python +4

1805 

4 
丫丫爱吃来自腾讯云开发者社区

tencentcloud.csdn.net · 2023-07-03 19:04:11

CVPR2022 图像修复 Incremental Transformer Structure Enhanced Image Inpainting with Masking Positional En

动机：1.CNNs的感受野受限，丢失纹理结构信息2.缺少整体结构信息3.基于注意力的计算量过大4.在masd区域没有位置信息解决方法：（利用一个额外的结构restorer恢复器来增量恢复图像）方案：1.在低分辨率空间，使用transformer恢复整体图像结构信息2.使用FourierCNN恢复图像纹理信息3.使用掩码位置编码策略提高使用较大mask区域的情况的性能4.增量策略：就是和预训练好的模

#transformer #深度学习 #人工智能

125 

0 
奋斗的哆啦来自腾讯云开发者社区

tencentcloud.csdn.net · 2023-08-07 12:01:06

搭建基于LangChain + ChatGLM2-6B 的个人知识库

采用Langchain和ChatGLM搭建本地知识库。

#python #人工智能 #word2vec +1

804 

1 
Henry_Zhao10 来自兴智开发者社区

zai.csdn.net · 2023-09-03 20:20:48

【RL+Transformer综述】A Survey on Transformers in Reinforcement Learning论文笔记

本文是一篇有关Transformer在强化学习领域应用的综述论文的阅读笔记

#transformer #论文阅读 #深度学习

113 

3 
乄洛尘来自杭州城市开发者社区

devpress.csdn.net/hangzhou · 2023-09-03 18:30:15

RIS 系列 Semantics-Aware Dynamic Localization and Refinement for Referring Image Segmentation 论文阅读笔记

指代图像分割 Referring image segmentation (RIS) 旨在产生高质量的 mask，现有的方法总是需要采用迭代学习的方法，依赖于 RNNs 或堆叠的注意力层来提炼视觉-语言特征。但基于 RNN 的方法依赖于特定的编码器，基于注意力的方法收益很低。于是本文引入渐进式地学习多模态特征的方法，核心 idea 是利用一个持续更新的 query 作为目标的表示，并在每个迭代步中加

#论文阅读 #transformer #计算机视觉

163 

0 
好喜欢吃红柚子来自兴智开发者社区

zai.csdn.net · 2022-10-30 20:54:27

pytorch初学笔记（六）：DataLoader的使用

DataLoader是一个可迭代的数据装载器，组合了数据集和采样器，并在给定数据集上提供可迭代对象。可以完成对数据集中多个对象的集成。CLASSDataLoaderdataset,,,,,,,,,timeout=0,,,,*,,,)Epoch：所有训练样本都已输入到模型中，称为一个epochIteration：一批样本（batch_size）输入到模型中，称为一个Iteration,

#pytorch #深度学习 #人工智能 +2

1w 

23 
wyypersist 来自兴智开发者社区

zai.csdn.net · 2023-08-28 15:50:08

Transformer (Attention Is All You Need) 论文精读笔记

Transformer论文精读笔记，Attention详细解释等。

#transformer

344 

0 
羽星_s 来自兴智开发者社区

zai.csdn.net · 2023-06-15 23:25:41

微调Hugging Face中图像分类模型

在kaggle平台上使用P100 GPU微调Hugging Face中图像分类模型vit-base-patch16-224

#计算机视觉 #深度学习 #transformer

1.3w 

1 
愤怒的可乐来自 AI技术专区

devpress.csdn.net/aitech · 2022-05-27 11:47:36

T5模型简介

本文我们先学习一个T5模型的基本概念，最后应用到文本摘要任务上作为实战。

#自然语言处理 #transformer #深度学习

1.8w 

21 
愤怒的可乐来自 AI技术专区

devpress.csdn.net/aitech · 2022-09-04 15:37:04

大模型系统和应用——Transformer&预训练语言模型

预训练语言模型介绍。

#transformer #语言模型 #自然语言处理

4727 

13 
最穷不过要饭、不死总会出头来自华为云开发者联盟

huaweicloud.csdn.net · 2023-03-12 17:10:55

bert中为什么要这么msdk（80% mask， 10% 随机替换，10% 保持原词）

bert在做掩码时为什么要进行80% mask，10% 随机替换，10% 保持原词呢？

#bert #transformer #人工智能 +2

838 

3 
�魅力みり�な中国� 来自华为开发者联盟HarmonyOS专区

huaweidevelopers.csdn.net · 2023-07-23 16:27:57

【hugging face】如何使用hugging face中下载的模型？

我们经常使用到hugging face中的模型，比如bert,GPT等等，但是在写代码的过程中发现了两种导入hugging face的方式。

#bert #python #transformer

728 

1 
C学堂来自科技大视野开发者社区

devpress.csdn.net/developer · 2023-08-25 14:37:44

爱芯元智携Transformer视觉模型落地实践亮相第七届人工智能大会爱芯派pro即将发售

2023年8月23日,由电子发烧友网和elexcon深圳国际电子展联合主办的2023第七届人工智能大会在深圳召开。

#人工智能 #transformer #深度学习

4 

0 
VinkinTsang 来自 AI技术专区

devpress.csdn.net/aitech · 2023-08-22 17:48:18

[NLP]LLM--transformer模型的参数量

最近，OpenAI推出的ChatGPT展现出了卓越的性能，引发了大规模语言模型(Large Language Model, LLM)的研究热潮。大规模语言模型的“大”体现在两个方面：模型参数规模大，训练数据规模大。以GPT3为例，GPT3的参数量为1750亿，训练数据量达到了570GB。进而，训练大规模语言模型面临两个主要挑战：显存效率和计算效率。

#自然语言处理 #transformer #人工智能

1036 

0 
Y蓝田大海来自华为开发者联盟HarmonyOS专区

huaweidevelopers.csdn.net · 2022-10-11 14:58:25

ViTDet:Exploring Plain Vision Transformer Backbonesfor Object Detection（arXiv 2022）

本文提出了一种简单、无层次的视觉Transformer(ViT)作为目标检测的骨干网络。这种设计使原始的ViT架构能够针对对象检测进行微调，而无需重新设计用于训练前的分层主干。通过对微调的最小调整，我们的普通骨干检测器可以获得具有竞争力的结果。令人惊讶的是，我们观察到:(i)从单尺度特征图(没有常见的FPN设计)构建一个简单的特征金字塔是足够的，(ii)在很少的跨窗口传播块的辅助下，使用窗口注意(

#transformer #目标检测 #深度学习

1508 

2 
昇思MindSpore 来自华为云开发者联盟

huaweicloud.csdn.net · 2022-06-30 10:20:32

技术干货 | PACMOO：基于帕累托最优的公平性约束协同过滤算法

MindSpore作为一个开源的全场景AI框架，为开发者带来端边云全场景协同、极致性能，极简开发、安全可信的体验，2020.3.28开源来得到数六十万以上的下载量，走入100+Top高校教学，已通过HMS在4000+App上商用，拥有数量众多的开发者，在AI计算中心，智能制造、云、无线、数通、能源、消费者1+8+N等端边云全场景逐步广泛应用，是Gitee指数最高的开源软件。欢迎大家参与开源贡献、模

#算法 #transformer #深度学习 +1

432 

0 
FavoriteStar 来自亚马逊云科技技术品牌专区

devpress.csdn.net/awstech · 2022-09-17 11:02:32

【机器学习】李宏毅——Transformer

本文详细地介绍了Transformer算法，介绍了其内部重要的Encoder和Decoder，以及具体的实现过程和原理，还介绍了其训练过程以及训练过程中应该注意的种种问题。

#机器学习 #transformer #深度学习 +2

2525 

2 

标签介绍

transformer

——transformer

热门标签

关于我们

联系我们（工作时间：8:30-22:00）

400-660-0108 kefu@csdn.net