本篇博文主要总结关于Adaboost的相关内容。设训练数据集T={(x1,y1), (x2,y2)…(xN,yN)}初始化训练数据的权值分布 ：对于m=1,2,…M：使用具有权值分布Dm的训练数据集学习，得 到基本分类器Gm(x)表示第m次生成的基本分类器，这个基本分类器可以是逻辑回归，可以是SVM等等都可以。计算Gm(x)在训练数据集上的分类误差率 计算Gm(x)的系数显然误差率越小，

本篇博文将主要总结机器学习里面的线性代数知识。分以下几个主题，但是不做详细的证明，只做总结。矩阵SVD状态转移矩阵特征值和特征向量对称阵正交阵正定阵矩阵求导向量对向量求导标量对向量求导标量对矩阵求导矩阵SVD（奇异值分解）奇异值分解（Singular Value Decomposition）是一种重要的矩阵分解方法。假设矩阵A是一个m*n阶实矩阵，则存在一个分

本篇博文将主详细讲机器学习模型选择中的交叉验证，全文翻译自sklearn.Cross-Validation。并且加上了我自己的一些见解。学习预测函数的参数并在相同的数据上进行测试是一个方法上的错误：一个在训练集上能取得很好的成绩的模型，但是在测试集上效果却很差，这种情况称为过拟合。为了避免这种情况，通常（监督）机器学习实验时将一部分可用数据保存为测试集X_test，y_test。train_te

本次分享的是一篇16年的关于NLP中分词操作的论文，论文链接Subword，参考的实现代码subword-nmt，许多论文方法（例如BERT等）都将该方法应用到分词处理上，相对于word-level和character-level，该方法取得了不错的效果。动机和创新点机器翻译中，通常使用固定大小的词表，而在实际翻译场景中，应当是open-vocabulary。这就使得翻译数据集中的稀有词变得...

本篇博文主要总结线性回归，线性回归虽然简单，但是却是很重要，我将沿着以下几个主题总结最小二乘法使用极大似然估计来解释最小二乘的解析式的求解过程线性回归的复杂度惩罚因子（LASSO，Ridge）梯度下降法实战最小二乘法线性回归,线性是指回归方程在空间中表现为直线形式,其决策边界是线性的.回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，基

上几篇博文讲的都是关于抓取静态网页的相关内容，但是现在市面上绝大多数主流网站都在其重要功能中依赖JavaScript，使用JavaScript时，不再是加载后立即下载所有页面内容，这样就会造成许多网页在浏览器中展示的内容不会出现在html源码中。这时候再用前几篇博文中介绍的办法爬取来数据，得到的数据肯定为空。本篇博文将主要介绍对如动态网页应该如何进行爬取。这里我们将介绍两种办法来抓取动态网页数据

在机器学习中，我们常常需要处理各式各样的数据，其中向量形式，矩阵形式的数据是经常遇见的。同时又经常需要对两个或者多个向量形式，矩阵形式的数据做元素级的操作处理。通常最简单无脑的办法就是用循环对数据一个个的进行处理。显然这种处理方式不仅费时费力而且写出来的代码给人感觉很繁琐。既然数据呈向量或者矩阵形式，为什么我们不把这种形式很好的加以利用呢？要知道矢量化的运算要比等价的纯python快上一两个数量级

上一讲讲到userCF算法，该算法是根据用户之间相似度，来给目标用户推荐与他们相似用户产生过行为的物品。该算法在某些应用场景并不适用。首先随着网站用户数目越来越大，计算用户兴趣相似矩阵越来越困难，运算时间复杂度和空间复杂度和用户增长近似于平方关系。其次，基于用户的协同过滤很难对推荐结果作出解释。由此产生了基于物品的协同过滤（itemCF）给用户推荐和他们之前喜欢的物品相似的物品。不过ItemCF算

在上一篇博文中，介绍了如何自动化的进行表单交互，但是我们是用手动进行网址注册账号的，然后用这个账号密码进行自动化交互。那么在上一篇博文中为何不去自动化的注册账号呢？因为通常在网站注册账号，需要输入图片中的验证码。本篇博文中，将详细介绍如何自动化的对验证码进行处理。本篇博文将从两个方面来对验证码进行处理利用OCR自动化处理验证码在线方式处理复杂验证码OCR自动化处理验证码打开注册网页http

前几篇博文中，我们的程序下载的静态网页总是返回相同的内容。在本篇博文中，我们将与网页进行交互，根据用户输入返回对应的内容。登录表单打开网址http://example.webscraping.com/places/default/user/login,按F12，进入开发者模式。这里需要注意form标签的action,enctype,method属性以及两个input域。action:表示表单数据