学习Transformer之前我们先看一下作者论文中的模型，如下图所示：本章内容主要是自己学习笔记，在学习过程中总结和整理，希望对各位有所帮助。本章学习从基础模型 Transformer 拆解，分析整个 Transformer 架构用到哪些模块，再把整个 Transformer 拼接起来。同时，图中的位置编码、矩形 和 Nx又是什么？这些模块又如何搭建起来呢？当真的有一个任务，又如何使用和完成的？

此案例是以win11环境为案例，进行深度学习环境搭建，选择工具及版本分别为CUDA 11.7、Pytouch1.12.1、Miniconda3_py38(含Python3.8)

注意：默认情况下，GBLIC版本的数据库要求安装到/usr/local/mysql目录，其mysql.server脚本中对应的目录也是/usr/local/mysql，这会导致mysql无法启动。#例如： rm -rf /etc/selinux/targeted/active/modules/100/mysql# rm -rf /var/lib/mysql。vi /etc/syscnfig/net

解决HBase和Hadoop的log4j兼容性（冲突）问题，修改HBase的jar包，使用Hadoop的jar包。

vi /etc/sysconfig/network-scripts/ifcfg-ens32----根据自己网卡设置。-- 设置secondname的端口，如果是完全分布式的集群模式，则改为hadoop003 -->-- 设置 MapReduce 应用程序的执行框架为 YARN 即 MR运行的资源调度模式--->-- 设置secondname的端口，完全分布式的集群模式，改为hadoop003 --

win环境下大数据Hadoop的部署hadoop+hive环境

（2）下载地址：http://archive.apache.org/dist/flume/Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构，灵活简单。Flume最主要的作用就是，实时读取服务器本地磁盘的数据，将数据写入到HDFS。

在my.cnf配置中可以找到。Mysql的二进制日志（Binlog）是MySQL服务端非常重要的一种日志，它会保存MySQL数据库的所有数据变更记录。binlog文件是以二进制形式存在的， binlog在达到一定阈值的时候，都会创建一个新的文件，例如binlog.000002。（2）读写分离：主数据库只负责业务数据的写入操作，而多个从数据库只负责业务数据的查询工作，在读多写少场景下，可以提高数据库

注意：默认情况下，GBLIC版本的数据库要求安装到/usr/local/mysql目录，其mysql.server脚本中对应的目录也是/usr/local/mysql，这会导致mysql无法启动。#例如： rm -rf /etc/selinux/targeted/active/modules/100/mysql# rm -rf /var/lib/mysql。vi /etc/syscnfig/net

进程本质上是“运行中的程序”，单纯的程序只是保存在磁盘中的一段代码，是静态的，而进程是运行中的代码，是动态的，除了需要保存这段代码外，还需要将进程运行的当前状态，所需资源等信息保存到进程控制块中，操作系统为了管理进程设计的数据结构叫进程控制块，里面存的字段可以分成进程标识符、处理机状态（进程当前运行到什么时候什么状态的一些信息）、进程调度信息、进程控制信息。分页系统中，访问数据需要两次访问内存，第