通用句子编码器是google在2018年提出的将句子编码成嵌入向量的模型，这些嵌入向量专门针对将学习转移到其他NLP任务。文章中指出，对于许多NLP任务，可用的训练数据有限。这对数据饥渴的深度学习方法提出了挑战。由于注释有监督的训练数据的成本很高，对于大多数研究或行业NLP任务，通常无法使用非常大的训练集。许多模型通过使用隐式执行有限的迁移学习来解决如word2vec，Glove等，都有不错的效果

注意力机制源于对人类视觉的研究。在认知科学中，由于信息处理的瓶颈，人类会选择性地关注所有信息的一部分，同时忽略其他可见的信息，上述机制通常被称为注意力机制。例如在NLP中，当要捕捉一句话中词与词的关系时，如：当看到eating这个词时，我们更希望看到食物apple，而对颜色green并不在意，此时我们就可以使用注意力机制来衡量词之间的相关性。相比于序列模型，它能够通过矩阵运算实现并行化，提高效率。

本次部署基于Docker，如果未安装Docker建议参考https://blog.csdn.net/helluy/article/details/149393602?spm=1011.2415.3001.5331安装。这里会默认安装Ubuntu，运行后出现则需要输入用户名，回车输入密码，就安装成功了。后面会在Ubuntu中用Docker进行dify的本地部署。

以上就是Windows安装Docker的全部内容，最后可以在cmd（管理员权限）中输入docker pull nginx拉取nginx镜像，使用docker images 查看目前拉取的所有镜像。在"Virtual Machine Platform"/ “虚拟机平台”，“适用于Linux的Windows子系统” 前面的√打上，保存退出，这里可能要重启。打开下载好的Docker desktop，选择

电脑中有多个python版本：3.8, 3.7和Anaconda的，但只在3.7配置了pyspark环境，就算将编译器切换至3.7，程序执行还是会调用其他python的runpy.py文件导致报错，改变环境变量顺序无果，索性将其他python版本删除，解决问题。

以上就是Windows安装Docker的全部内容，最后可以在cmd（管理员权限）中输入docker pull nginx拉取nginx镜像，使用docker images 查看目前拉取的所有镜像。在"Virtual Machine Platform"/ “虚拟机平台”，“适用于Linux的Windows子系统” 前面的√打上，保存退出，这里可能要重启。打开下载好的Docker desktop，选择

卷积层两个原则具体计算步骤填充与步幅两个原则全连接的线性变换由于前一层和后一层所有的神经元之间都有一对一的连接关系，也称为稠密连接层（Dense Layer）。在实际的应用过程中，这种神经元之间关系的描述可能有许多冗余，对于神经网络模型的训练并不是很友好。为此，人们发明了一系列稀疏（Spare）的连接方式来描述前后两层神经元之间的连接关系，其中最有名的一个就是卷积层（Convolution Lay

本次部署基于Docker，如果未安装Docker建议参考https://blog.csdn.net/helluy/article/details/149393602?spm=1011.2415.3001.5331安装。这里会默认安装Ubuntu，运行后出现则需要输入用户名，回车输入密码，就安装成功了。后面会在Ubuntu中用Docker进行dify的本地部署。

由于原始的RNN会在每一次输入时堆叠之前的隐藏状态，所以在nlp中面对长句子时RNN往往会忘掉之前比较重要的信息，故隐藏转态的更新与保留需要控制，所以出现了门的概念，具有代表性的就是LSTM与GRU。