logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【自然语言处理六】利用transformer模型实现机器翻译

transformer模型由encoder,decoder构成,每一个encoder分为六层,每一层又分为一个前馈网络和一个多头注意力层。decoder也分为六层,每一层都由两个注意力层和一个前馈网络组成,一个是自注意力层,一个是和encoder最终输出组成的注意力层。下面是利用transformer模型实现机器翻译的简单例子,框架用的是tensorflow。训练部分import reimport

#自然语言处理#transformer#机器翻译
【自然语言处理七】Bert模型及应用

1.Bert模型 简介 BERT的全称是Bidirectional Encoder Representation from Transformers,即双向Transformer的Encoder,因为decoder是不能获要预测的信息的。模型的主要创新点都在pre-train方法上,即用了Masked LM和Next Sentence Prediction两种方法分别捕捉词语和句子级别的repre

#自然语言处理#bert#深度学习
Android GUI系统

1.SurfaceFlingerSurfaceFlinger进程在解析init.rc文件时就被启动了。SufaceFlinger绘制流程实际上是一个生产着消费者模型。客户端Surface持有BpBufferQueueProducer,通过它来向Server端的BufferQueue填充数据。SufaceFlinger作为消费者,把BufferQueue中的数据取出来,进行合成,最终渲染到屏幕上。2

#android
到底了