前言特征分解——>奇异值分解（SVD）——>隐语义模型（LFM），三个算法在前者的基础上推导而成，按顺序先后出现。三者均用于矩阵降维。其中：SVD奇异值分解为矩阵分解的一种方法，可用于推荐系统中，将评分矩阵补全、降维。奇异值分解(SVD)    将目标矩阵A，转化为三个矩阵相乘，如下：    其中，A为目标

Attention，又称为注意力机制，顾名思义，是一种能让模型对重要信息重点关注并充分学习吸收的技术，它不算是一个完整的模型，应当是一种技术，能够作用于任何序列模型中。

系列文章目录提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加例如：第一章 Python 机器学习入门之pandas的使用提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录系列文章目录前言一、回归树的构建方法二、递归二分法总结前言决策树不仅可以进行分类，也可以进行回归。与线性回归不同，回归树是将空间进行划分，每个空间对应一个标签。一、回归树的构建方法当面对一个回

1.激活函数不可导深度学习算法通常需要进行反向求导，来更新模型的参数，这就要求激活函数满足处处可导的性质，例如传统的sigmoid函数等。但是，为了解决梯度消失等问题提出的relu系列函数却不满足处处可导性质。针对这种类型的激活函数，可以使用次梯度来解决。次梯度方法(subgradient method)是传统的梯度下降方法的拓展，用来处理不可导的凸函数。它的优势是比传统方法处理问题范围大，劣势是

FAISS向量数据库在1.7.2之后就不能用pip install安装了，需要使用官方推荐方法来安装。

Attention，又称为注意力机制，顾名思义，是一种能让模型对重要信息重点关注并充分学习吸收的技术，它不算是一个完整的模型，应当是一种技术，能够作用于任何序列模型中。

1.激活函数不可导深度学习算法通常需要进行反向求导，来更新模型的参数，这就要求激活函数满足处处可导的性质，例如传统的sigmoid函数等。但是，为了解决梯度消失等问题提出的relu系列函数却不满足处处可导性质。针对这种类型的激活函数，可以使用次梯度来解决。次梯度方法(subgradient method)是传统的梯度下降方法的拓展，用来处理不可导的凸函数。它的优势是比传统方法处理问题范围大，劣势是

Attention，又称为注意力机制，顾名思义，是一种能让模型对重要信息重点关注并充分学习吸收的技术，它不算是一个完整的模型，应当是一种技术，能够作用于任何序列模型中。

Tensorflow2.0使用心得文章目录Tensorflow2.0使用心得Keras一、Simple Model二、使用步骤1.引入库2.读入数据总结Keras    Tensorflow2推荐使用keras构建网络，常见的神经网络都包含在keras.layer中    Keras 是一个用于构建和训练深度学习模型的

系列文章目录提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加例如：第一章 Python 机器学习入门之pandas的使用提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录系列文章目录前言一、回归树的构建方法二、递归二分法总结前言决策树不仅可以进行分类，也可以进行回归。与线性回归不同，回归树是将空间进行划分，每个空间对应一个标签。一、回归树的构建方法当面对一个回