简单介绍了迈入机器学习大门将遇到的第一个算法——感知机学习算法

本文介绍了K邻近（KNN）算法，用于解决线性不可分和多类别分类问题。KNN通过计算待预测样本与训练样本的距离（常用欧式距离），选取最近的k个邻居，根据多数投票原则确定类别。文章还提到曼哈顿距离、切比雪夫距离等度量方式，并指出这些都属于闵可夫斯基距离的特例。最后讨论了KNN的改进方向，包括k值选择对过拟合/欠拟合的影响，以及大数据量时使用KD树等优化方法提升计算效率。随文附有Python实现代码，展

本文介绍了回归问题的定义、分类及参数求解方法。回归问题旨在预测连续数值结果，可分为线性回归（特征与结果呈线性关系）和非线性回归（如二次、指数回归等）。参数求解的核心是找到最优模型参数，通过定义损失函数、确定优化目标和选择优化策略（如梯度下降法）来实现。梯度下降法通过迭代调整参数，沿负梯度方向逐步逼近损失函数最小值，其关键要素包括梯度、负梯度方向和学习率。该方法适用于数据量大、特征多的情况，通过初始