线性代数是数学中非常优美且实用的一门学科，它研究的是**线性关系**——一种最简单、最基础的关系。你可能已经在生活中不知不觉地用到它的思想了。比如，在平面上移动一个点、解方程组、或者处理图像旋转，背后都是线性代数。

微积分是研究变化与累积的数学分支，核心包含微分和积分两个互逆运算。微分通过极限思想求瞬时变化率（如速度），积分通过无限细分求累积总量（如路程）。微积分基本定理揭示了二者的深刻联系：积分是微分的逆运算，定积分可通过原函数快速计算。文章通过几何切线斜率、速度位移等实例，直观展示了微积分的核心概念和应用方法，强调其作为描述动态世界的数学语言的重要性。

摘要： 向量是数学、物理和计算机科学中的核心概念，可从三个视角理解：物理学视为空间中的箭头（方向+长度），数学视为有序数字列表，计算机科学视为数值集合。坐标系连接几何与代数视角，向量可用坐标精确描述（如[3,2]）。基本运算包括加法（对应坐标相加或平行四边形法则）和数乘（缩放长度/反转方向）。向量的长度由勾股定理计算，方向可通过单位向量表示。抽象层面，任何满足加法和数乘规则的对象（如函数、数据）均

本文系统介绍了线性回归的核心内容，包括模型假设（线性性、零均值、同方差等）、参数估计方法（最小二乘法与最大似然估计的等价性）、显著性检验（t检验与F检验）。通过矩阵形式推导了OLS估计量，并阐述了在正态假设下与MLE的关系。文中结合实例演示了回归系数计算过程，并详细说明了模型诊断的关键指标（残差分析、拟合优度R²）和多重共线性的识别方法，为统计分析提供了完整的理论框架和实施指南。

参数估计是统计推断的核心内容，主要包括矩估计和最大似然估计两种方法。矩估计通过样本矩与总体矩相等建立方程求解参数，适用于正态分布、泊松分布等常见分布。最大似然估计则通过最大化似然函数寻找最可能产生观测样本的参数值，在伯努利分布、正态分布等场景中表现优异。两种方法各有特点：矩估计计算简单但可能效率不高，最大似然估计理论性质优良但计算可能更复杂。实际应用中需根据具体问题选择合适的估计方法，并注意验证估

本文系统介绍了随机变量的数字特征，包括期望、方差、协方差、相关系数和高阶矩。首先详细讲解了期望的定义、线性性质以及条件期望的计算方法，通过骰子和均匀分布等实例说明其应用。其次阐述了方差的定义和重要性质，包括平移不变性和尺度变换特性。然后深入解析了协方差的定义、符号含义及其与相关性的关系，并介绍了相关系数的标准化公式。最后讨论了高阶矩的概念，包括原点矩和中心矩的定义及其统计意义。这些概念构成了概率论

本文系统介绍了四种重要的离散概率分布及其应用。首先分析伯努利分布作为单次二值试验的模型，推导其期望和方差。接着讨论二项分布作为n次独立伯努利试验的扩展，给出概率质量函数公式及参数影响。然后阐述泊松分布对稀有事件的建模，说明其与二项分布的近似关系。最后将概念推广到多类别情形，介绍类别分布和多项式分布的定义及特性。全文通过产品质量检测、网站访问量等实例，展示了这些分布在现实问题中的具体应用，为离散随机

摘要：本文介绍了概率论中两种重要的概率分布描述工具：概率质量函数(PMF)和概率密度函数(PDF)。PMF适用于离散随机变量，直接给出每个可能取值的概率，满足非负性和归一性条件；PDF适用于连续随机变量，通过积分计算区间概率，其单点概率为零。文章详细阐述了二者的定义、性质、与分布函数的关系，并通过典型例子进行说明。最后对比了PMF和PDF的关键特征，强调掌握这两种函数是理解各种概率分布模型的基础。

数据用向量和张量表示。模型用线性变换（权重矩阵）和激活函数（非线性）构建。学习涉及求解线性系统、优化特征方向。理解通过秩、特征值、零空间等概念洞察模型行为。从基础向量到抽象空间，这些概念共同构成了机器学习的数学骨架。掌握它们，不仅能让你看懂算法公式，更能培养深刻的几何直觉，助你在数据科学领域走得更远。上一章机器学习线性代数–(12)抽象向量空间：超越箭头的世界。

微积分是机器学习的数学基石，其核心思想、定理和方法在模型设计、训练和推断中无处不在。下面我们将结合之前讲解的各个概念，逐一总结它们在机器学习中的具体应用。