5.神经网络5.1.神经元模型在机器学习中，神经网络一般指的是“神经网络学习”，是机器学习与神经网络两个学科的交叉部分。所谓神经网络，目前用得最广泛的一个定义是“神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所做出的交互反应”。神经网络中最基本的单元是神经元模型（neuron）。在生物神经网络的中，每个神经元通常都有多个树突（dendrite）

3.4.参数估计3.4.1.矩估计样本矩：样本矩依概率收敛于相应的总体矩期望实际上是一阶矩统计一阶样本矩：方差实际上是二阶中心矩统计二阶样本矩：阶样本矩：3.4.2.极大似然估计离散型：连续型：极大似然估计：要求参数θ使得抽到样本的联合概率最大，也就是把θ看成变量，求函数L(θ)的最大值，求极值的做法通常就是求导：由于函数L(θ)是连乘的形式，不好求解，因此把连乘变成连加，套路就是取.

11.特征选择与稀疏学习11.1.子集搜索与评价处理高维数据的两大主流技术：降维与特征选择。降维从一定程度起到了提炼优质低维属性和降噪的效果，特征选择则是直接剔除那些与学习任务无关的属性而选择出最佳特征子集。先介绍几个概念“特征”（feature）：属性“相关特征”（relevant feature）：对当前学习任务有用的属性“无关特征”（irrelevant feature）：对当前学习任务没什

15.强化学习15.1.任务与奖赏强化学习（Reinforcement Learning，简称RL）是机器学习的一个重要分支，人机大战的主角AlphaGo正是以强化学习为核心技术。在强化学习中，包含两种基本的元素：状态与动作，在某个状态下执行某种动作，这便是一种策略，学习器要做的就是通过不断地探索学习，从而获得一个好的策略。例如：在围棋中，一种落棋的局面就是一种状态，若能知道每种局面下的最优落子动

14.隐马尔可夫模型14.1.隐马尔可夫模型概念隐马尔可夫模型（Hidden Markov Model，简称HMM）是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用。下面以李航的《统计学习方法》来进行隐马尔可夫模型的讲解定义：隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测从而产生观测随机序