用高斯核SVM拟合异或数据集使用核SVM可以很容易地解决非线性可分问题，代码引自《python机器学习》。一种非线性可分的数据集可以通过如下代码实现：np.random.seed(0)X_xor = np.random.randn(200, 2)# 返回200*2的array,数据符合标准正态分布y_xor = np.logical_xor(X_xor[:, 0] > 0, X_xor[:,

使用随机森林对鸢尾花进行分类

支持向量机方法也是一种强大的机器学习分类方法。在感知器算法中，我们的目标是最小化分类误差，而在SVM中，我们的优化目标是最大化分类间隔。较大的分类间隔意味着模型有较小的泛化误差，较小的间隔则意味着模型可能会过拟合。在SVM中的两条平行的决策边界为：w0+wTxpos=1w_0+\bm{w}^T\bm{x}_{pos}=1w0​+wTxpos​=1w0+wTxneg=−1w_0+\bm{w}^T\b

支持向量机方法也是一种强大的机器学习分类方法。在感知器算法中，我们的目标是最小化分类误差，而在SVM中，我们的优化目标是最大化分类间隔。较大的分类间隔意味着模型有较小的泛化误差，较小的间隔则意味着模型可能会过拟合。在SVM中的两条平行的决策边界为：w0+wTxpos=1w_0+\bm{w}^T\bm{x}_{pos}=1w0​+wTxpos​=1w0+wTxneg=−1w_0+\bm{w}^T\b

原理对于最流行的聚类算法K-means算法，它的算法步骤如下：1）从样本点中随机选择k个点作为初始簇中心。2）将每个样本点划分到距离它最近的中心点μ(j)\mu^{(j)}μ(j)，j∈{1,⋯ ,k}j\in\{1,\cdots,k\}j∈{1,⋯,k}所代表的簇中。3）用各簇中所有样本的中心点代替原有的中心点。4）重复步骤2和3，直到中心点不变或达到预定迭代次数时，算法终止。K-means算法

当所要分析的样本特征过多时，我们可以采用主成分分析即PCA（principal component analysis）对数据进行降维和可视化。代码引自《python机器学习》PCA算法及其实现PCA算法的步骤如下：1）对原始ddd维数据集做标准化处理。2）构造样本的协方差矩阵。3）计算协方差矩阵的特征值和相应的特征向量。4）选择与前kkk个最大特征值对应的特征向量，其中kkk为新特征空间的维度(k

使用scitkitlearn中的决策树对鸢尾花进行分类

原理对于最流行的聚类算法K-means算法，它的算法步骤如下：1）从样本点中随机选择k个点作为初始簇中心。2）将每个样本点划分到距离它最近的中心点μ(j)\mu^{(j)}μ(j)，j∈{1,⋯ ,k}j\in\{1,\cdots,k\}j∈{1,⋯,k}所代表的簇中。3）用各簇中所有样本的中心点代替原有的中心点。4）重复步骤2和3，直到中心点不变或达到预定迭代次数时，算法终止。K-means算法