机器学习数学原理（1）——极大似然估计法事实上机器学习的大部分算法都是以数理统计和概率论为理论基础构建的。笔者在学习机器学习的过程中，意识到其实机器学习中的很多假设背后都是有着数学原理支撑的，从而使得这些假设不再是“看似合理”。这里笔者便将一些学习过程中的理解整理成一个系列，希望能够在帮助自己整理知识结构体系的同时，也能给大家带来一些帮助。资料参考的是华中科技大学出版社出版由刘次华主编的《概率论与

机器学习数学原理（4）——朴素贝叶斯模型朴素贝叶斯模型（Naive Bayes Model），是一种基于贝叶斯定理与特征条件独立假设的分类方法，与决策树模型（Decision Tree Model）同为目前使用最广泛的分类模型之一，在各个领域都有广泛的应用，例如我们经常会用到的垃圾邮件的分类功能。这篇博文接上一篇博文：机器学习数学原理（3）——生成型学习算法。但又有其相对的独立性与重要性，故笔者重

机器学习数学原理（8）——霍夫丁不等式这一篇博文主要是为后面的介绍学习理论（Learning Theory）的博文做铺垫。在学习理论中将会使用到霍夫丁不等式作为其引论之一。当然也可以选择直接接受引论从而跳过这一篇的推导，读者可以根据自己的需求来选择。需要说明的是，该篇博文直接选择翻译英文的文章，如果读者更喜欢原版（显然原版会更加准确，毕竟笔者的英语水平还是有点烂的），这里笔者也给出了资源的链接：h

基于BP神经网络的数字识别基础系统1.前言随着《最强大脑》中的人机大战播放以及AlphaGo的围棋领域的攻克，深度学习开始进入了人们的视野，事实上神经网络作为深度学习的基础慢慢成为了人工智能以及模式识别的核心。其实神经网络的理论基础并不困难，甚至可以说是十分的简单。这里，笔者通过一个数字识别基础系统来介绍神经网络中的BP神经网络，这里之所以说“基础”是因为这个系统只完成了核心部分：固定图片像素大小

机器学习数学原理（8）——霍夫丁不等式这一篇博文主要是为后面的介绍学习理论（Learning Theory）的博文做铺垫。在学习理论中将会使用到霍夫丁不等式作为其引论之一。当然也可以选择直接接受引论从而跳过这一篇的推导，读者可以根据自己的需求来选择。需要说明的是，该篇博文直接选择翻译英文的文章，如果读者更喜欢原版（显然原版会更加准确，毕竟笔者的英语水平还是有点烂的），这里笔者也给出了资源的链接：h