线性回归逻辑回归多项式回归k-临近回归成本函数梯度下降学习率与选择学习率向量化过拟合与欠拟合正则化。

机器学习实验二--knn算法实现

平台-- Jupyter Note。

提示：机器学习实验–剪枝。

朴素贝叶斯算法的基础是贝叶斯原理，其假定给定目标值时属性之间相互条件独立。也就是说没有哪个属性变量对于决策结果来说占有着较大的比重，也没有哪个属性变量对于决策结果占有着较小的比重。

支持向量机（SVM）** 是一种有监督的机器学习算法，广泛应用于分类和回归问题。其核心思想是通过寻找一个最优超平面（Hyperplane）来对数据进行分割，使得不同类别的数据点之间的间隔（Margin）最大化。SVM 在小样本、高维数据场景中表现优异，常用于图像识别、文本分类、生物信息学等领域。

通过线性变换，把原始的高维、相关特征，映射到一组新的、彼此正交且无关的低维特征上，并尽可能保留原始数据中的主要信息。PCA 作为机器学习中经典的线性降维算法，核心思想是通过正交变换，将原始高维数据投影到一组新的正交基上，旨在最大化投影方向的方差（保留最多信息）并去除相关性。在应用上，PCA 被广泛用于数据预处理、图像压缩及高维数据可视化，能有效降低计算复杂度并缓解“维数灾难”。其优势在于计算简便、

机器学习实验二--knn算法实现