Lintcode-127

讲SVM扩展到非线性可分领域

西瓜书阅读笔记 话不多说 开始吧~模型评估与选择评估留出法（hold out）将数据集划分为两个互斥集合/分层采样dilemma：若训练集S包含绝大多数样本，则训练出的模型可能更接近用D训练出的模型，但由于T比较小，评估结果可能不够稳定准确；若T数目过多，则训练出的模型也不可靠。交叉验证（cross validation）D=D1∪D2∪……∪Dk　　　Di∩Di=∅做k次实验，k-1次用于

Jacobian矩阵和Hessian矩阵

集成学习至此我们已经了解了许多机器学习的方法~但是都是单枪匹马的作战，这节我们讨论的集成学习（ensemble learning）是通过构建并结合多个学习器来完成学习任务。个体学习器可以是弱学习器，所谓弱学习器，就是学习器的正确率不用太高，大于50%即可。根据个体学习器的生成方式，目前的集成学习方法大致可分为两大类，即：个体学习器间不存在强依赖关系、可同时生成的并行化方法。代表就是Bagg

思路主成分分析、Principal Component Analysis、PCA的推导有很多种途径，我们选择一种，容易理解的来讲解。我们的目的是降维，但是不能胡乱的降，观察下面这组数据：我们画的是二维情况，但是具体到高维也是可以的。μ\mu是我们目测一个比较好的降维之后的投影方向。但是这只是目测，我们怎么规定这个准则呢？我们规定：投影之后样本竟可能分散，即样本方差尽可能大。推导样本点

DenseNet 就没写了

Jacobian矩阵和Hessian矩阵

Jacobian矩阵和Hessian矩阵

集成学习至此我们已经了解了许多机器学习的方法~但是都是单枪匹马的作战，这节我们讨论的集成学习（ensemble learning）是通过构建并结合多个学习器来完成学习任务。个体学习器可以是弱学习器，所谓弱学习器，就是学习器的正确率不用太高，大于50%即可。根据个体学习器的生成方式，目前的集成学习方法大致可分为两大类，即：个体学习器间不存在强依赖关系、可同时生成的并行化方法。代表就是Bagg