最近在做脑磁图的信号处理方面的工作，在网上查阅信号处理相关工作的资料时，看到了CMU的王赟博士关于语音识别技术的介绍，个人感觉讲的很精彩，同时，语音识别技术已经渗入到我们生活的方方面面，抱着学习者的心态，把王博士关于语音识别技术的讲解写一篇文章，文章主要是根据王博士的PPT和我自己的一些理解组成，我个人并不是做语音识别方向，所以难免会有些理解不到位或者不准确的地方，如果有什么错误，希望大家指正。下

在机器学习中有很多模型和算法是和树结构相关的，比如决策树(ID3、C4.5、CART)、随机森林(Random Forest)、Adaboost、GBDT、xgboost。在这些模型算法中决策树是最基础的，顾名思义，决策树是基于树结构来进行决策的，它具有可读性高、分类速度快等优点。决策树既可以用来做回归(CART,分类回归树)也可以用来做分类(ID3、C4.5、CART)。决策树学习算法主要包括三

在机器学习和统计学领域，降维是指在某些限定条件下，降低随机变量个数，得到一组“不相关”主变量的过程。对数据进行降维一方面可以节省计算机的储存空间，另一方面可以剔除数据中的噪声并提高机器学习算法的性能。(实际上通过降维还可以实现数据可视化，但是前提是将原始数据降到2D或者3D才可以)。数据降维的根本：降低数据维度、降维后的数据能尽可能的代表原始数据。数据降维和特征选择是存在差异的，二者最终的...

目录1. 链表结构1.1 单链表和双链表1.2 非连续性内存和节点1.3 定义并使用单链表节点类2. 单向链表的操作2.1 遍历2.2 搜索2.3 替换2.4 插入2.4.1 在开始处插入2.4.2 在末尾插入2.4.3 在任意位置插入2.5 删除2.5.1 在开始处删除2.5.2 在末尾删除2.5.3 在任意位置删除2.6 单链...

在数据结构概述的文章中说过，树结构是一种层次结构，也是非线性结构，它描述的是数据间“一对多”的关系，而树中的数据处理也是基于数据间父节点/子节点关系的。树的应用非常多，比如我们的计算机硬盘存储路径(以windows10为例)就可以看做一种树结构：还有奴隶社会的等级制度；一个家族的家谱；某个公司的等级制度等等都是属于树结构。为什么树结构能够在数据结构中得到广泛的应用，因为分层组...

最近在学习数据降维的一些方法(有关数据降维的其他内容请看这篇文章)，虽然独立成分分析不算是严格意义上的降维方法，但是它和PCA有着千丝万缕的联系，所以打算专门写一篇文章来学习ICA的相关知识，看了挺多的关于ICA的博文，有些文章讲的比较详细。有句话是这么说的：“论文是详细版的知识讲解”，也就是说如果想深入详细的了解某个知识，那么去读相关论文，所以阅读了一篇经典的ICA论文，作者是A. Hyva¨r

梯度是机器学习领域中一个非常常用且重要的一个数学概念，但是一直不是特别理解深层含义，于是查阅资料，对梯度进行一个总结说明。我们在高数中都学过梯度的定义：设函数在平面区域D内具有一阶连续偏导数，则对每一点都可以定出一个向量称为在P点处的梯度，记作。从定义中我们可以得到以下信息：1、梯度是矢量2、梯度的模与函数在点处的偏导数有关。不难想象，函数在几何空间中实际上对应的是三维空...

绪论在开始之前，先大致说明下机器学习中的一些大的概念及分类。机器学习中的学习算法很多，包括线性回归、逻辑回归、随机森林、决策树、聚类、贝叶斯等等。但是这些学习算法可以归为两类，即监督学习(supervised learning)和非监督学习(unsupervised learning)；如果更加细分的话还有半监督学习。那么监督学习和非监督学习有什么区别呢，所谓的监督学习就是学习中有训练...

在机器学习和统计学领域，降维是指在某些限定条件下，降低随机变量个数，得到一组“不相关”主变量的过程。对数据进行降维一方面可以节省计算机的储存空间，另一方面可以剔除数据中的噪声并提高机器学习算法的性能。(实际上通过降维还可以实现数据可视化，但是前提是将原始数据降到2D或者3D才可以)。数据降维的根本：降低数据维度、降维后的数据能尽可能的代表原始数据。数据降维和特征选择是存在差异的，二者最终的...

统计学在科学研究中占有很重要的地位，机器学习中的很多内容也都是以统计学作为基础的，为了更好的理解一些看起来虚无缥缈的统计学概念，我也查阅了很多资料，但是大多数讲的并不那么通俗易懂，直到看到了“马同学高等数学”对概率统计的概念的描述，感觉非常通俗易懂。为了方便以后复习查看有关统计学的概念，将马同学的讲解的内容在这里弄成了一个统计学概念专题。首先声明，此篇的内容是来自"马同学高等数学&quo