逻辑回归（logisitc regression）逻辑回归（logisitc regression）1.逻辑分布2.逻辑回归模型概念3.极大似然估计4.代价函数与损失函数5.对数几率（log odds）6.梯度下降7.LR如何处理过拟合问题？8.多分类问题9.总结1.逻辑分布定义：连续变量X服从逻辑分布，分布函数表示为：F(x)=11+e−(θ...

随机森林，GBDT，XGBoost的对比随机森林 RF RandomForest　　随机森林的集成学习方法是bagging ，但是和bagging 不同的是bagging只使用bootstrap有放回的采样样本，但随机森林即随机采样样本，也随机选择特征，...

转自：http://www.cnblogs.com/pinard/p/6160412.html在Bagging与随机森林算法原理小结中，我们对随机森林(Random Forest, 以下简称RF）的原理做了总结。本文就从实践的角度对RF做一个总结。重点讲述scikit-learn中RF的调参注意事项，以及和GBDT调参的异同点。scikit-learn随机森林类库概述　　　　在sci...