Attention，又称为注意力机制，顾名思义，是一种能让模型对重要信息重点关注并充分学习吸收的技术，它不算是一个完整的模型，应当是一种技术，能够作用于任何序列模型中。

FAISS向量数据库在1.7.2之后就不能用pip install安装了，需要使用官方推荐方法来安装。

位域的概念  位域（或者也能称之为位段，英文表达是 Bit field）是一种数据结构，可以把数据以位元的形式紧凑的存储，并允许程序员对此结构的位元进行操作。这种数据结构的好处是：可以使数据单元节省存储空间，当程序需要成千上万个数据单元时，这种数据结构的优点也就很明显地突出出来了。位段可以很方便地访问一个整数值的部分内容从而简化程序源代码。位域的定义  总体

SQL常用指令文章目录SQL常用指令一、速查表一、速查表

1.激活函数不可导深度学习算法通常需要进行反向求导，来更新模型的参数，这就要求激活函数满足处处可导的性质，例如传统的sigmoid函数等。但是，为了解决梯度消失等问题提出的relu系列函数却不满足处处可导性质。针对这种类型的激活函数，可以使用次梯度来解决。次梯度方法(subgradient method)是传统的梯度下降方法的拓展，用来处理不可导的凸函数。它的优势是比传统方法处理问题范围大，劣势是

系列文章目录提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加例如：第一章 Python 机器学习入门之pandas的使用提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录系列文章目录前言一、回归树的构建方法二、递归二分法总结前言决策树不仅可以进行分类，也可以进行回归。与线性回归不同，回归树是将空间进行划分，每个空间对应一个标签。一、回归树的构建方法当面对一个回

Attention，又称为注意力机制，顾名思义，是一种能让模型对重要信息重点关注并充分学习吸收的技术，它不算是一个完整的模型，应当是一种技术，能够作用于任何序列模型中。

Tensorflow2.0使用心得文章目录Tensorflow2.0使用心得Keras一、Simple Model二、使用步骤1.引入库2.读入数据总结Keras    Tensorflow2推荐使用keras构建网络，常见的神经网络都包含在keras.layer中    Keras 是一个用于构建和训练深度学习模型的

Word2Vec实现文章目录Word2Vec实现一、Word2Vec是什么二、主流实现方式1.gensim2.jiaba总结一、Word2Vec是什么二、主流实现方式1.gensim代码如下（示例）：import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport seaborn as snsimport warn

系列文章目录提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加例如：第一章 Python 机器学习入门之pandas的使用提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录系列文章目录前言一、sklearn五大基本函数二、使用步骤1.引入库总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学