数据维度爆炸怎么办？详解5大常用的特征选择方法Datawhale干货 作者：Edwin Jarvis，cnblog博客整理在许多机器学习相关的书里，很难找到关于特征选择的内容，因为特征选择要解决的问题往往被视为机器学习的一个子模块，一般不会单独拿出来讨论。但特征选择是一个重要的数据预处理过程，特征选择主要有两个功能：减少特征数量、降维，使模型泛化能力更强，减少过拟合增强对特征和特征值之间的理解好的

今天看到一个好玩的数据分析小case，通过对KFC的早餐爬取部分数据，并做简单处理，查看肯定早餐搭配原数据集及初始代码网址如下：https://www.kesci.com/home/project/5ecf10d0162df90036dd6bc9/code。首先读取数据#数据导入，探查数据缺失data = pd.read_csv(r'D:\ML_data\kfca8585\kfc.csv')dat

由于最近接触到一些短信内容，本着想要做一个模板提取和分类，先试试水。开局就遇到一堆问题，也可能是我自己太菜。所以想把遇到的问题进行记录，以备不时之需。第一部分①由于我拿到的数据是没有标签的，就是只有短信内容，没有短信标签，是分为那个类。所以我打算只添加两类标签，就用0和1区分。问题出来了，pandas可以把标签都赋值成一类，data1['score']=1。但是就没有负标签，也不能人工去标...

最近在看机器学习周志华那本书，受益颇多。我们先抛过来几个问题，再一一解答。什么是偏差-方差分解？为什么提出这个概念？什么是偏差？什么是方差？什么是偏差-方差窘境？应对措施？1、偏差-方差分解的提出我们知道训练往往是为了得到泛化性能好的模型，前提假设是训练数据集是实际数据的无偏采样估计。但实际上这个假设一般不成立，针对这种情况我们会使用训练集训练，测试集测试其

1、缺失值的分类按照数据缺失机制可分为：(1)   完全随机缺失(missing completely at random, MCAR)所缺失的数据发生的概率既与已观察到的数据无关,也与未观察到的数据无关.(2)   随机缺失(missing at random, MAR)      假设缺失数据发生的概率与所观察到的变量是有关的,而与未观察到的数据的特征是

Q1: What’s the trade-off between bias and variance?问题1: 什么是偏差（bias）、方差（variable）之间的均衡？Bias 是由于你使用的学习算法过度简单地拟合结果或者错误地拟合结果导致的错误。它反映的是模型在样本上的输出与真实值之间的误差，即模型本身的精准度，即算法本身的拟合能力。Bias 可能会导致模型欠拟合，使其难以具有较高的预测准确

机器学习总结-sklearn参数解释实验数据集选取：1分类数据选取 load_iris 鸢尾花数据集from sklearn.datasets import load_irisdata = load_iris()data.data[[10, 25, 50]]data.target[[10, 25, 50]]list(data.target_names)list(data.fe

本文据此对XGBoost的原理做简单的介绍...XGBoost[1]是2014年2月诞生的专注于梯度提升算法的机器学习函数库，此函数库因其优良的学习效果以及高效的训练速度而获得广泛的关注。仅在2015年，在Kaggle[2]竞赛中获胜的29个算法中，有17个使用了XGBoost库，而作为对比，近年大热的深度神经网络方法，这一数据则是11个。在KDDCup 2015 [3]竞赛中，排

转自：https://zhuanlan.zhihu.com/p/27627299在喂给机器学习模型的数据中，对数据要进行归一化的处理。为什么要进行归一化处理，下面从寻找最优解这个角度给出自己的看法。例子假定为预测房价的例子，自变量为面积，房间数两个，因变量为房价。那么可以得到的公式为：其中代表房间数，代表变量前面的系数。其中代表面积，代表变量前面的系数。首先我们祭出

Q1: What’s the trade-off between bias and variance?问题1: 什么是偏差（bias）、方差（variable）之间的均衡？Bias 是由于你使用的学习算法过度简单地拟合结果或者错误地拟合结果导致的错误。它反映的是模型在样本上的输出与真实值之间的误差，即模型本身的精准度，即算法本身的拟合能力。Bias 可能会导致模型欠拟合，使其难以具有较高的预测准确