问题

这个警告是训练逻辑回归模型的时候出来的。

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

结果如下:

ConvergenceWarning: lbfgs failed to converge (status=1):
STOP: TOTAL NO. of ITERATIONS REACHED LIMIT.

在这里插入图片描述

解决

上面默认运行了:

LogisticRegression(... solver='lbfgs', max_iter=100 ...)

1.lbfgs问题

lbfgs stand for: “Limited-memory Broyden–Fletcher–Goldfarb–Shanno Algorithm”. It is one of the solvers’ algorithms provided by Scikit-Learn Library.

The term Limited-memory simply means it stores only a few vectors that represent the gradients approximation implicitly.

It has better convergence on relatively small datasets.

2.没有收敛问题

这是说训练模型的时候,参数的迭代次数达到了限制(默认max_iter=100),但是两次迭代参数变化还是比较大,仍然没有在一个很小的阈值以下,这就叫没有收敛。

不过,这只是一个警告(温馨提示)而已,我们要么选择 1.忽略,要么 2.增大最大迭代次数,要么 3.更换其他的模型或者那个参数solver,要么 4.将数据进行预处理,提取更有用的特征。

我们选择方案2,如下:

model=LogisticRegression(max_iter=1000)
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案3,如下:

model=LogisticRegression(solver="sag")
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案1,忽略一切警告,绝了。如下:

import warnings
warnings.filterwarnings("ignore")

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)
Logo

为开发者提供学习成长、分享交流、生态实践、资源工具等服务,帮助开发者快速成长。

更多推荐