1）特征选择理论一份数据有很多属性，但有些属性可能很关键，另一些没有用。从给定特征集中选择出相关特征子集的过程称为特征选择。特征选择是一个重要的数据预处理过程。一般在正式的数据处理之前进行。特征选择是一个重要的数据预处理过程，他不仅可以降低数据维数，以节省时间，简化分析，规避“维度灾难”，更可以去除无关特征，抓住主要矛盾，使分析结果更加准确。同时，采用特征选择算法还便于理解和可视化数据，降...

在著名的命名规则当推Microsoft公司的"匈牙利"法，该命名规则的主要思想是"在变量和函数中加入前缀以增进人们对程序的理解"。例如所有的字符变量均以 ch为前缀，若是指针则追加前缀p 。如果变量由 ppch开头，则表明他是指向字符指针的指针。"匈牙利"法最大的缺点就是繁琐，因为繁琐的程序会让绝大多数程序猿无法忍受。据统计，没有一种命名规则可以让所有的程序员赞同，程序设计教科书一般都不指定命..

因为vscode是跨平台的，所以在各个系统上是通用的方法一：你可以吧false改为true。然后关闭vscode重新打开。方法二：之后在setting里面查询runlnTerminal勾选就可以解决不能cin的问题了。产生的原因使用了runcode插件这个错误一般出现在使用命令行输入的时候出现。但是output页面是只读的，只能输出，不能用来输入。解决解放方法是，将ru...

随机森林：是一个包含多个决策树的分类器， 并且其输出的类别是由个别树输出的类别的众数而定。，随机森林对回归的结果在内部是取得平均但是并不是所有的回归都是取的平均，有些是取的和，以后会发博文来解释这样的一个现象，需要整理些资料出来。随机森林里的随机包含的意思是：样本随机特征随机参数随机模型随机（ID3 ,C4.5）极限树/极端随机树里的随机包含的意思是：特征随机参...

penalty : str, ‘l1’ or ‘l2’, default: ‘l2’这个是l1 or l2正则化，一般选l2正则化对于逻辑回归分类算法dual：选择默认的就好，针对的就是l2正则和libliner solverC : float, default: 1.0正则强度逆或者叫做惩罚系数就是对误差的容忍度，值越高越不能容忍fit_intercept : bool, d...

(转)机器学习中的损失函数损失函数（loss function）是用来估量你模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风险函数重要组成部分。模型的结构风险函数包括了经验风险项和正则项，通常可以表示成如下式子：θ∗=argminθ1N∑i=1NL(yi,f(...

(转)机器学习中的损失函数损失函数（loss function）是用来估量你模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风险函数重要组成部分。模型的结构风险函数包括了经验风险项和正则项，通常可以表示成如下式子：θ∗=argminθ1N∑i=1NL(yi,f(...

Python的类#!/usr/bin/pythonclass P:"""python中的共有、保护、私有属性和方法"""def __init__(self, a, b, c): # 这里进行了结构初始化当实例化对象的时候，就会自动执行初始化self.a = a# publicself._b = b # protectedsel.__c = c # priva...

(转)机器学习中的损失函数损失函数（loss function）是用来估量你模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风险函数重要组成部分。模型的结构风险函数包括了经验风险项和正则项，通常可以表示成如下式子：θ∗=argminθ1N∑i=1NL(yi,f(...