线性回归核心知识点摘要 本文系统介绍了线性回归的核心概念与应用。主要内容包括： 基础概念：定义线性回归模型，区分一元与多元线性回归，列举典型应用场景如房价预测等。 实践应用：通过身高预测体重的案例演示Sklearn API使用流程，包括数据准备、模型训练、参数查看和预测。 数学原理：解析线性回归四大要素（数据、模型、损失函数、优化方法），详细介绍导数、偏导数、矩阵运算等数学基础。 求解方法：对比正

KNN算法是一种基于距离度量的简单机器学习方法，核心思想是通过计算样本与K个最近邻居的距离进行分类（多数表决）或回归（平均值）。算法流程包括距离计算、排序、选取K个邻居和决策。常用距离度量有欧氏、曼哈顿和切比雪夫距离。K值选择对模型性能影响大，可通过网格搜索和交叉验证调优。特征预处理（归一化/标准化）是关键步骤，标准化更推荐。sklearn提供KNeighborsClassifier和KNeigh

AI → ML → DL 是包含关系学习方式分：规则学习、模型学习核心术语：样本、特征、标签、训练集 / 测试集四大算法：监督、无监督、半监督、强化学习建模六步：数据→处理→特征→训练→评估→上线特征工程决定模型上限欠拟合（太简单）、过拟合（太复杂）开发工具：scikit-learnAI的目标 → 用ML的方法实现 → 按数据类型选学习方式（监督/无监督等） → 按流水线建模（数据→特征→训练→评