文章目录1. transformer的宏观结构解析2. 数据的流动2.1. Encoder部分2.2. Decoder部分3. 代码实现（待补充）参考链接和文献：https://jalammar.github.io/illustrated-transformer/https://blog.csdn.net/qq_28168421/article/details/1203403601. transf

文章目录1. 递归算法的适用场景2. 递归的三要素3. 递归的缺点4. 递归算法的例子4.1. Fibonacci数列4.1.1. 解法一：原始的递归不做任何优化4.1.2. 带备忘录的递归算法1. 递归算法的适用场景当一个大规模的问题与小规模的问题有着相同的形式，解决大规模的问题和解决小问题的方法是同一个方法时，就可能可以用递归的算法来解决。递归算法的特点为：一个函数递归调用本身（由后向前），通

文章目录0. Jacobian矩阵参考资料https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#sphx-glr-beginner-blitz-autograd-tutorial-pyhttps://zhuanlan.zhihu.com/p/29923090https://zhuanlan.zhihu.com/p/6

文章目录0. 文本分类简介1. 数据集介绍2. 模型选择参考链接：https://developers.google.com/machine-learning/guides/text-classification0. 文本分类简介文本分类在很多软件产品中都占据重要位置，很多智能应用都用到了文本分类模型。有的是将文本分类的结果作为输入以便进行后续其他任务，例如对话系统中的意图识别；有的是直接将文本分

感知机与SVM详细推导

统计学基础之样本方差与总体方差文章目录统计学基础之样本方差与总体方差1. 方差（variance）的定义2. 样本方差3. 总体方差公式的有偏性证明4. 样本方差公式分母为n-1的推导参考资料：https://www.cnblogs.com/zzdbullet/p/10087196.html1. 方差（variance）的定义方差是用来度量随机变量和其数学期望（均值）之间的偏离程度的一个...

1. Softmax回归详解将神经网络应用到多类分类问题中时，输出层的形式不能用logistic函数（sigmoid激活函数），而应该推广到softmax函数。二分类问题与多分类问题的神经网络模型的最大区别就是输出层。因此下面重点讲解softmax函数的原理。1. Softmax回归详解在softmax回归中，我们解决的是多分类问题（相对于logistic回归解决的...

1. Mini-batch decent方法1.1. Batch vs. mini-batch1.2. Choosing mini-batch size2. 指数加权平均方法（exponentially weighted averages）2.1. Bias Correction（偏差修正）3. Gradient descent with momentum（动量梯度下降...

1. Mini-batch decent方法1.1. Batch vs. mini-batch1.2. Choosing mini-batch size2. 指数加权平均方法（exponentially weighted averages）2.1. Bias Correction（偏差修正）3. Gradient descent with momentum（动量梯度下降...

文章目录0. 背景介绍1. 隐马尔科夫模型（Hidden Markov Model, HMM）1.1. HMM的数学定义1.2. HMM的实际应用问题描述1.3. 马尔科夫随机场（Markov Random Field, MRF）2. 条件随机场（Conditional Random Field， CRF）2.1. CRF的数学定义2.2. 特征函数的例子参考资料：《机器学习》——周志华https