机器学习的三要素是数据、算法和算力,算法由我们自身决定。这篇文章我们首先总体了解机器学习建模流程,再重点了解其中的特征工程。

1.机器学习建模流程

机器学习建模流程主要包含以下相关流程1 获取数据,2 数据基本处理,3 特征工程,4 机器学习(模型训练),5 模型评估

在整个建模流程中,数据基本处理、特征工程一般是耗时、耗精力最多的

有监督学习模型训练和模型预测

2.特征工程

在这里我们需要知道特征工程是什么?理解特征提取的作用理解特征预处理的作用了解特征降维、特征选择、特征组合

特征:也叫数据集的属性

特征工程:利用专业背景知识和技巧处理数据,让机器学习算法效果最好。这个过程就是特征工程

数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。

2.1特征提取

特征提取(feature extraction):原始数据中提取与任务相关的特征,构成特征向量。如图所示关于鸢尾花的花萼长和宽,及其花蒂的长和宽。

特征预处理(feature preprocessing):特征对模型产生影响量纲问题,有些特征对模型影响大、有些影响小

常见的处理手段:归一化(如图所示)、标准化

归一化:\frac{X-Xmin}{Xmax-Xmin}

特征降维(feature decomposition):将原始数据的维度降低,叫做特征降维,一般会对原始数据产生影响

特征选择(feature selection):原始数据特征很多,与任务相关是其中一个特征集合子集,不会改变原数据

特征组合(feature crosses):多个的特征合并成一个特征。利用乘法或加法来完成

特征工程 Feature Engineering

特征Feature任务有用的属性信息

特征工程:利用专业背景知识和技巧处理数据,让模型效果更好  

特征工程的内容

特征提取 feature extraction :特征向量

特征预处理 feature preprocessing不同特征对模型影响一致性

特征降维 Feature decomposition保证数据的主要信息要保留下来

特征选择 feature selection从特征中选择出一些重要特征训练模型

特征组合 feature crosses把多个特征合并组合成一个特征

提取

feature extraction

更多推荐