按学习顺序分层，覆盖传统机器学习、深度学习、大模型、强化学习

整体分为4大阶段：基础必学数学（入门门槛）→ 机器学习核心数学（传统ML）→ 深度学习高阶数学（神经网络/大模型）→ 前沿AI专项数学（强化学习、生成模型、多模态等）

一、底层基础数学

1. 初等数学

1. 函数：一次/二次/指数/对数/三角函数、复合函数、分段函数
2. 数列、不等式、极值、最值、映射基础
3. 集合论基础：集合交并补、子集、充分必要条件、逻辑命题
4. 排列组合、基础计数原理（概率前置）

2. 高等数学（微积分，AI核心工具）

（1）一元微积分

• 极限：数列极限、函数极限、无穷大/无穷小、夹逼准则
• 导数：导数定义、求导法则、高阶导数、隐函数求导
• 微分、微分中值定理（罗尔、拉格朗日、柯西）
• 单调性、凹凸性、极值/拐点（损失函数优化基础）
• 不定积分、定积分、牛顿莱布尼茨公式、换元积分、分部积分

（2）多元微积分（神经网络必备）

• 多元函数、偏导数、全微分、梯度（Gradient）
• 海森矩阵 Hessian、雅克比矩阵 Jacobian
• 多元函数极值、拉格朗日乘数法（约束优化）
• 多重积分、曲线曲面积分（少量用到，了解即可）

（3）级数与微分方程

• 泰勒展开、麦克劳林展开（激活函数近似、梯度推导核心）
• 幂级数收敛性
• 常微分方程ODE、简单偏微分方程PDE（扩散模型必备）

二、线性代数（AI数据表达的语言，模型底层）

基础模块

1. 向量：向量定义、内积/外积、范数L1/L2、向量空间、正交基
2. 矩阵：矩阵加减乘、转置、逆矩阵、行列式
3. 线性方程组：高斯消元、秩、解空间、最小二乘（线性回归）

核心高阶模块（深度学习高频）

1. 特征值、特征向量、特征分解
2. 奇异值分解 SVD（PCA降维、推荐系统、图像压缩）
3. 正交矩阵、对称矩阵、半正定矩阵
4. 矩阵求导（神经网络反向传播核心）
5. 张量基础（多维数组，深度学习通用数据结构）
6. 线性变换、投影矩阵、伪逆矩阵

三、概率论与数理统计（AI不确定性、拟合、泛化）

1. 基础概率

• 随机事件、条件概率、全概率公式、贝叶斯公式（贝叶斯AI核心）
• 独立事件、互斥事件

2. 随机变量与分布

• 离散分布：伯努利、二项、泊松、分类分布（分类任务）
• 连续分布：均匀分布、高斯正态分布（最常用）、指数分布、Beta、Gamma分布
• 联合分布、边缘分布、条件分布、协方差、相关系数

3. 数字特征

期望、方差、矩、熵、交叉熵、KL散度（损失函数、分布距离）

4. 大数定律 & 中心极限定理

样本均值收敛、正态分布成因，深度学习采样理论基础

5. 数理统计（模型训练、评估）

1. 样本、总体、统计量
2. 参数估计：矩估计、极大似然估计MLE、最大后验估计MAP
3. 假设检验、显著性检验
4. 方差分析、协方差矩阵
5. 采样理论：蒙特卡洛采样、重要性采样

6. 信息论（大模型、生成模型核心）

自信息、信息熵、条件熵、互信息、KL散度、JS散度、交叉熵、最大熵原理

四、优化理论（AI训练本质：最小化损失函数）

1. 凸优化基础：凸集、凸函数、凸优化问题（SVM、线性回归）
2. 无约束优化：梯度下降GD、随机梯度下降SGD、动量、Adam等优化器数学推导
3. 约束优化：拉格朗日对偶、KKT条件（SVM核心）
4. 次梯度、投影梯度下降
5. 牛顿法、拟牛顿法
6. 正则化理论：L1正则、L2正则数学原理

五、离散数学（算法、图神经网络、逻辑AI必备）

1. 数理逻辑：命题逻辑、谓词逻辑、逻辑推理
2. 图论：图、顶点、边、邻接矩阵、最短路径、连通分量、图卷积GNN基础
3. 组合数学：计数、生成函数
4. 集合论进阶、布尔代数
5. 树、二叉树、动态规划数学基础

六、机器学习专用数学（传统ML算法配套）

1. 距离度量：欧氏距离、曼哈顿、马氏距离、余弦相似度
2. 降维数学：PCA数学推导、LDA线性判别分析
3. 核方法：核函数、核空间、再生核希尔伯特空间RKHS（SVM）
4. 聚类数学：K-means损失函数、EM期望最大化算法
5. 贝叶斯统计：贝叶斯估计、高斯过程、马尔可夫链

七、深度学习高阶数学（CNN、Transformer、大模型、扩散模型）

1. 张量微积分、高阶矩阵求导
2. 傅里叶变换、离散傅里叶DFT（CNN频域、图像、语音AI）
3. 泛函分析基础（理解神经网络是泛函拟合器）
4. 随机过程
   • 马尔可夫链、马尔可夫决策过程MDP（强化学习）
   • 布朗运动、随机微分方程SDE（扩散模型Diffusion）
5. 自注意力数学：矩阵缩放、softmax数学推导、位置编码三角函数原理
6. 概率图模型：有向图贝叶斯网络、无向马尔可夫随机场MRF

八、前沿细分方向专属数学（按需选学）

1. 强化学习RL

• MDP马尔可夫决策过程、贝尔曼方程
• 动态规划、值函数、策略梯度数学推导
• 随机控制理论

2. 生成式AI（Diffusion、GAN、VAE）

• 随机微分方程SDE、逆扩散过程
• 变分推断、ELBO下界（VAE）
• 对抗分布距离、积分概率度量

3. 计算机视觉CV

• 几何变换、射影几何、相机矩阵、立体几何（三维视觉）
• 小波变换、图像处理积分变换

4. 自然语言处理NLP/大模型

• 信息论、高维概率、稀疏向量理论
• 测度论基础（理解高维空间分布）

5. 几何深度学习GNN

• 黎曼几何、流形学习、图谱理论、拉普拉斯矩阵

6. 理论AI（深度学习理论、可证明AI）

• 测度论、泛函分析、巴拿赫空间、拉德马赫复杂度（泛化误差界）
• 群论、拓扑学

7. 运筹优化（工业AI、调度、推荐系统）

整数规划、动态规划、博弈论

九、补充：数学工具（掌握计算能力）

1. 向量/矩阵数值计算
2. 数值分析：数值求导、数值积分、梯度数值近似、线性方程组数值解法
3. 随机数生成、数值采样算法