对估计器的指定参数值进行详尽的搜索参1：估计器对象；参2：估计器参数(dict){"n_neighbors":[1,3,5]}；参3：指定几折交叉验证结果分析：bestscore_:在交叉验证中验证的最好结果bestestimator:最好的参数模型cvresults:每次交叉验证后的验证集准确率结果和训练集准确率结果# 导包。

使用上面保存的模型，给它对一个新的图片进行识别，看看识别结果是否准确。根据提供的数据，画出对应的手写图像。

b。

逻辑回归（Logistic Regression）：一种分类模型，输出是 (0, 1) 之间的值。基本思想：把经过处理预测出的值，通过sigmoid激活函数映射到 (0, 1) 之间，结合阈值划分正负样本。特点监督学习、有特征、有标签，且标签是离散的应用场景：适用于二分类。损失函数：其中，是逻辑回归预估的类别（0或1）。损失函数的手工计算：Loss = -[1*0.4+(1-1)*(1-0.4)#

名称提出时间分支方式特点ID31975信息增益1.ID3只能对离散属性的数据集构成决策树2.倾向于选择取值较多的属性C4.51993信息增益率1.缓解了ID3分支过程中总喜欢偏向选择值较多的属性2.可处理连续数值型属性，也增加了对缺失值的处理方法3.只适合于能够驻留于内存的数据集，大数据集无能为力CART1984基尼指数1.可以进行分类和回归，可处理离散属性，也可以处理连续属性2.采用基尼指数，计

两类线性可分：对于训练集，如果存在权重向量𝒘∗，对所有样本都满足𝑦𝑓(𝒙;𝒘∗)>0，那么训练集𝒟是线性可分的．为了学习参数𝒘，我们需要定义合适的损失函数以及优化方法．对于二分类问题，最直接的损失函数为0-1损失函数，即其中𝐼(⋅)为指示函数．但0-1损失函数的数学性质不好，其关于𝒘的导数为0，从而导致无法优化𝒘．。

是一个开源的离线语音识别库，支持多种语言，包括中文。它非常适合在需要离线语音识别的场景中使用。（我下的这个模型是识别英文音频的）

前馈神经网络（Feedforward Neural Network，FNN）由多层的Logistic回归模型（连续的非线性函数）组成。在前馈神经网络中，各神经元分别属于不同的层．每一层的神经元可以接收前一层神经元的信号，并产生信号输出到下一层．第0层称为输入层，最后一层称为输出层，其他中间层称为隐藏层．整个网络中无反馈，信号从输入层向输出层单向传播，可用一个有向无环图表示．图4.7给出了前馈神经网

学习具体的神经网络类型之前首先要了解的内容

是一个开源的离线语音识别库，支持多种语言，包括中文。它非常适合在需要离线语音识别的场景中使用。（我下的这个模型是识别英文音频的）