很多新手想学深度学习，总急于搭建神经网络、跑通代码，却常常在“梯度消失”“张量维度不匹配”“过拟合”等问题面前束手无策，挫败感满满。其实，80%的入门困难，都源于预备知识没有铺垫到位。

深度学习的本质，是用数学描述数据规律，用代码实现计算与优化，就像盖一栋楼：数学是地基，编程是钢筋水泥，机器学习基础是施工规范，硬件环境是施工工具，而良好的心态则是坚持下去的动力。今天，我们就把入门前必须掌握的预备知识一次性讲透彻，帮你平稳开启深度学习之旅。

一、数学预备知识：深度学习的“地基”

不需要成为数学高手，但必须掌握核心概念和常用操作，重点攻克3个领域：线性代数、微积分、概率与统计。

1. 线性代数——神经网络的“语言”

神经网络的所有计算，本质上都是矩阵和向量的运算，这部分是理解网络结构的关键。

• 核心概念：标量（就是一个单独的数字）、向量（一排数字，像一条线）、矩阵（像Excel表格一样的二维数据）、张量（Tensor，深度学习的核心，你可以把它想象成多层堆叠的魔方，是更高维数据的统称）。学会用.shape查看它的长宽高、.reshape像揉橡皮泥一样调整形状。

• 关键运算与特征：除了基本的按元素加减乘除，还必须理解点积（Dot Product）、矩阵-向量积和矩阵乘法（神经网络运算的核心）。同时了解如何进行降维求和（sum）以及用**范数（Norm）**来衡量向量或矩阵的大小。

• 一句话总结：不理解张量和矩阵乘法，就好比学英语不背单词，会完全看不懂数据在代码里是怎么流动的。

2. 微积分与自动微分——模型训练的“动力”

深度学习的“学习”过程，本质是不断调整参数、最小化损失，而这一切都依赖于导数和梯度。

• 核心概念：导数（函数某点变化率，即切线斜率）、偏导数与梯度（多元函数中，偏导数组成的向量，梯度方向是函数值增加最快的方向）。

• 关键应用与自动微分：为了最小化损失，大家熟知的做法是沿着梯度的反方向调整参数（梯度下降），而计算梯度的核心是链式法则。现代深度学习框架（如PyTorch、MXNet等）最强大的功能之一就是自动微分（Automatic Differentiation）。这意味着你只需要写出前向传播的计算图代码，框架会自动通过构建计算图帮你完成所有繁琐的求导过程（如调用一层 .backward()），你不再需要手动用笔算导数公式！

• 自动微分的强悍之处：不仅能算普通函数的梯度，哪怕代码里夹杂了Python的各种控制流（如for循环、if条件判断），它也能动态追踪并算出正确的梯度。并且你可以通过分离计算（如使用 .detach()），轻松截断某些不需要计算梯度的路径。

• 通俗比喻：你在山顶（损失值高）想最快下山（最小化损失），脚下最陡的方向就是梯度，往反方向迈一步，就是梯度下降。而“自动微分”就像一个随身携带的智能GPS，实时告诉你当前最陡的方向。

3. 概率与统计——衡量“不确定性”

深度学习的输出往往是概率分布（如90%是猫、10%是狗），概率与统计能帮我们衡量预测的可靠性。

• 核心概念：概率（事件发生的可能性，0~1之间）、随机变量与概率分布（包括联合概率、条件概率）、期望（均值情况）与方差（数据的波动程度）、交叉熵（这是一个专门用来衡量“模型预测有多偏”的尺子）。

• 通俗例子：模型预测“这道题答案是A的概率为0.9”，如果正确答案真的是A，交叉熵（损失）就会很小，也就是鼓励模型；如果正确答案其实是B，交叉熵就会变得特别大，以此来狠狠惩罚模型的错误猜测。

二、编程预备知识：深度学习的“工具”

深度学习生态几乎被Python统治，重点掌握Python基础、NumPy和数据可视化工具，无需精通，但要能独立完成数据加载和简单运算。

1. Python基础——入门必备

掌握足够支撑数据处理和训练循环的基础即可，无需深入Python高级特性：

• 基本语法：变量、循环（for）、条件判断（if）、函数（def）、类（class）。

• 常用数据结构：列表（list）、字典（dict）、元组（tuple），重点掌握列表推导式（如 [x*2 for x in range(10)]，高效处理数据）。

• 实用技能：文件读取（open、with语句）、图片读取（PIL/cv2）、调试技巧（print(type(x))、print(x.shape)，能解决50%的bug）。

2. NumPy与张量（Tensor）——深度学习框架的“核心数据结构”

PyTorch、TensorFlow等框架的所有计算都围绕张量（Tensor）展开。张量的基础概念很大程度上模仿了NumPy的ndarray，但相比NumPy，张量在深度学习中具有两大杀手锏：支持GPU硬件加速和支持自动微分。

掌握以下核心操作，就能轻松应对绝大多数数据处理：

• 核心创建与操作：熟练创建张量（torch.zeros全零、torch.ones全一、torch.randn随机），掌握形状调整（.reshape），让你能在普通的“线”、“面”和高维的“魔方”之间随意变形数据。

• 索引与切片计算：像操作普通列表一样提取数据（如 X[1:3, :] 代表提取第2、3行的所有数据），并进行加减乘除算术。

• 广播机制（Broadcasting）：当遇到形状不一样但长短凑合能配对的数据相加时，框架会自动像“复读机”一样把短尺寸的数据复制拉长补齐，然后再运算。这能帮我们省去很多手动对齐代码的麻烦！

• 内存节省技巧（原地操作）：炼丹（训练模型）非常吃显存和内存。我们要习惯“在原草稿纸上直接擦改”（使用类似 Z[:] = X + Y 或 X += Y），而不是每次计算都去“重新领一张新草稿纸”（开辟新内存）。这能让你避免早期就遇到可怕的OOM（Out Of Memory 内存爆满）报错。

• 设备互转：学会在CPU和显卡（GPU）之间移动数据。

小练习：可以尝试用框架API（如PyTorch的Tensor）对照NumPy，实现简单的按元素加法、观察修改和内存地址变化（使用 id() 函数），这能让你迅速摸清张量操作的底细。

3. 数据预处理（Pandas）——喂给模型的“纯净食材”

真实世界的数据往往杂乱无章，常常需要借助数据分析双雄之一的 pandas 把它收拾干净：

• 读取数据集：利用 pd.read_csv() 可以将表格文件轻松读入内存。

• 处理缺失值：数据中常有空缺（如NaN）。通常的做法是插值（例如用整列的均值填补 fillna(data.mean())）或者删除（丢弃残缺行/列）。对于类别数据，还能将其转换为独热编码（One-Hot Encoding）。

• 转换为张量格式：处理干净后，使用 torch.tensor(df.values) 可以将其无缝转化为深度学习框架识别的张量（Tensor）格式。

4. 查阅文档——不求人的“自学金钥匙”

框架API成千上万，不需要死记硬背。遇到不知用法的函数或类时，掌握查阅文档的方法能大幅提升效率：

• 查找所有函数和类：使用内置的 dir(torch) 可以看到模块下所有的可用方法。

• 查找特定用法：遇到如 torch.ones 不知怎么用，可以使用 help(torch.ones)，或在Jupyter Notebook中直接输入 torch.ones? 即可调出官方示例和参数说明。这在脱离外网查资料的环境中极其受用。

5. 数据可视化工具——“看见”训练过程

可视化能帮我们直观观察数据分布、训练损失变化，核心掌握Matplotlib：

• 常用功能：绘制折线图（训练loss曲线）、散点图（数据分布）、显示图片（imshow），能快速判断模型训练效果。

三、机器学习基础知识：深度学习的“前传”

深度学习是机器学习的一个子集，不掌握机器学习基础，就难以理解深度学习的核心逻辑（如过拟合、数据集划分）。

1. 核心学习类型

• 监督学习：数据既有特征也有标签（如猫狗图片+正确标签），最常见，深度学习大多基于此。

• 无监督学习：只有数据无标签（如聚类），用于发现数据内在规律。

• 强化学习：通过奖励和惩罚让智能体学习策略（如AlphaGo），偏进阶方向，入门可暂不深入。

2. 数据集划分

训练模型必须划分数据集，避免过拟合，常见比例7:1.5:1.5：

• 训练集：用于训练模型参数，让模型“学习”数据规律。

• 验证集：调整超参数（如学习率），防止模型过拟合。

• 测试集：最终评估模型真实性能，检验模型是否能泛化到新数据。

3. 过拟合与欠拟合

• 欠拟合：模型连训练数据都没学好，loss很高，解决方案：增大模型规模、延长训练时间。

• 过拟合：模型死记硬背训练数据，遇到新数据表现差，解决方案：增加数据量、使用正则化、Dropout。

• 通俗比喻：欠拟合像小学生背乘法表没背会，过拟合像把答案连题号一起背，换个顺序就不会。

4. 评估指标

• 分类任务：准确率、精确率、召回率、F1-score、混淆矩阵。

• 回归任务：均方误差（MSE）、平均绝对误差（MAE）。

四、硬件与环境预备知识：不用焦虑，够用就好

很多新手会纠结“没有高端电脑能不能学”，答案是：完全可以，入门无需高端配置。

1. 硬件要求

• 入门：任何带CPU的电脑，都能跑MNIST手写数字识别等小网络。

• 进阶：建议配备NVIDIA显卡（GTX 1060以上），CUDA加速能让训练速度提升10~50倍。

• 无显卡解决方案：使用Google Colab（免费提供GPU/TPU），浏览器内即可写代码、跑模型，零成本入门。

2. 环境搭建（新手友好，Conda版完整步骤）

新手推荐用Anaconda管理环境，可避免包版本冲突，以下是从安装到验证的完整步骤，适配Windows、Linux、Mac三大系统，全程复制命令即可完成。

步骤1：安装Anaconda（基础环境管理工具）

• 下载地址：https://www.anaconda.com/download（根据自身操作系统选择对应版本，建议下载最新稳定版）。

• 安装注意事项： Windows系统：安装过程中可勾选“Add Anaconda to my PATH environment variable”，若未勾选，后续需通过“Anaconda Prompt”执行所有命令（推荐此方式，避免路径报错）。

• Mac/Linux系统：默认安装路径即可，安装完成后重启终端生效。

验证安装：打开终端（Windows用Anaconda Prompt），输入命令 conda --version，能显示conda版本即安装成功。

步骤2：创建并激活课程专用虚拟环境

创建独立虚拟环境可避免不同项目的包冲突，建议专门为深度学习入门创建环境：

1. 创建环境：输入命令 conda create -n ai_course python=3.9 -y（python=3.9兼容性最佳，适配多数深度学习库）。

2. 激活环境：输入命令 conda activate ai_course，激活后终端前会出现 (ai_course) 标志，后续所有安装操作均需在该环境下执行。

步骤3：安装PyTorch（深度学习核心框架）

PyTorch新手友好，优先选择官网自动生成的适配命令，确保与电脑配置匹配：

1. 访问PyTorch官网：https://pytorch.org/get-started/locally/。

2. 根据自身配置选择参数（新手直接按以下推荐选择）： PyTorch Build：选择「Stable（稳定版）」。

3. Your OS：选择自身操作系统（Windows/Linux/Mac）。

4. Package：选择「Conda」（与Anaconda环境适配最佳）。

5. Language：选择「Python」。

6. Compute Platform：关键选择——有NVIDIA显卡（想使用GPU加速），选择对应CUDA版本；无NVIDIA显卡，选择「CPU」（入门完全够用）。

7. 复制官网生成的命令，粘贴到终端执行（示例：CPU版本命令 conda install pytorch torchvision torchaudio cpuonly -c pytorch）。

步骤4：安装必备辅助库

安装深度学习入门所需的基础库（numpy、pandas等），用于数据处理和可视化：

输入命令：conda install numpy pandas matplotlib jupyter ipykernel -y（-y表示自动确认安装，无需手动输入y）。

若conda安装速度慢，可先添加清华源加速（执行以下命令后再重新安装）：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
conda config --set show_channel_urls yes

步骤5：安装d2l工具库（可选，适配《动手学深度学习》教材）

若后续学习《动手学深度学习》，需安装指定版本d2l库，避免版本不兼容：

输入命令：pip install d2l==0.17.6（必须指定版本0.17.6）。

若安装失败，尝试备用命令：pip install git+https://github.com/d2l-ai/d2l-zh@release。

步骤6：配置Jupyter Notebook（适配虚拟环境）

让Jupyter识别创建的ai_course环境，方便后续编写和运行代码：

输入命令：python -m ipykernel install --user --name ai_course --display-name "AI课程 (ai_course)"。

步骤7：完整验证环境（关键步骤）

确保所有库安装成功，输入以下命令验证，无报错即环境搭建完成：

python -c "import torch; print('PyTorch版本:', torch.__version__); print('CUDA可用:', torch.cuda.is_available())"
python -c "import d2l; print('d2l版本:', d2l.__version__)"  # 可选，安装d2l后验证
python -c "import numpy, pandas, matplotlib; print('numpy版本:', numpy.__version__); print('pandas版本:', pandas.__version__); print('matplotlib版本:', matplotlib.__version__)"

验证说明：CPU版本PyTorch的“CUDA可用”显示False为正常；GPU版本显示True为正常。

日常使用指南（新手必看）

• 每次启动学习：先打开终端，输入 conda activate ai\_course激活环境，再输入 jupyter notebook 启动Jupyter。

• 新建Jupyter笔记本：选择内核为「AI课程 (ai_course)」，避免环境错乱。

• 退出环境：输入 conda deactivate。

• 安装新包：激活环境后，优先用 conda install 包名，conda没有再用 pip install 包名。

新手推荐用Anaconda管理环境，避免包版本冲突，核心工具二选一即可：

• 环境管理：Anaconda（一键管理Python环境和依赖包）。

• 深度学习框架：PyTorch 2.x（更贴近Python风格，调试方便，新手首选）或TensorFlow。

• 编程工具：Jupyter Notebook（适合做实验、写教程）或VS Code（适合项目开发）。

环境验证小脚本（跑通即说明环境搭建成功）：

import torch
print(torch.__version__)          # 应显示2.x.x
print(torch.cuda.is_available())  # 有显卡则显示True
x = torch.randn(3, 4)
y = x + x
print(y.shape)                    # 应显示torch.Size([3, 4])

五、心态预备知识：最重要的“软实力”

入门深度学习，心态比技术更重要，记住4点，少走弯路：

1. 不需要成为数学高手：不用背公式、手算梯度，理解核心概念，知道什么时候该查什么即可。

2. 不用看完所有书再动手：最好的学习方式是“边做边学”——跑通一个小项目→遇到问题→回头补预备知识→再推进下一个项目。

3. 报错是常态：张量形状不匹配、CUDA内存不足、数据类型错误，都是必经之路，学会读报错信息、用搜索引擎，能解决99%的问题。

4. 从小处开始：不要一上来就想做ChatGPT、自动驾驶，先从MNIST手写数字识别（深度学习的“Hello World”）开始，跑通就能超越50%的观望者。

六、预备知识自检清单

每条都能简单说清概念，就可以自信开启深度学习之旅了：

• 数学：知道矩阵乘法的合法条件，理解梯度方向的含义，了解框架的自动微分帮你节省了算导数的精力，知道交叉熵等基础概率与统计损失概念。

• 编程：能熟练运用张量（Tensor）的形状变化（reshape）、索引切片、广播机制以及原地操作省内存的技巧，能用Matplotlib绘制简单图表。

• 机器学习：清楚训练集、验证集、测试集三部分的作用、理解过拟合与欠拟合、知道常用评估指标。

• 环境：能成功搭建并激活虚拟环境，导入PyTorch/TensorFlow，无报错跑通任意包含张量计算的基础代码。

写在最后

深度学习的预备知识，从来不是“拦路虎”，而是帮你少走弯路的“指南针”。它们就像学开车前认识油门、刹车，不需要成为赛车手，但必须知道哪个踏板对应什么功能。

如果能花1~2周，把这些预备知识逐个搞懂（无需精通，掌握核心即可），后续的学习速度会是别人的3倍以上。

下一篇，我们将用10行代码搭建第一个神经网络，实现手写数字识别，亲眼见证AI从数据中学习的过程。敬请期待！

如果有疑问，欢迎留言交流，一起避开入门坑，稳步进阶～

（注：文档部分内容参考《动手学深度学习》）

《动手学深度学习》预备知识：https://zh.d2l.ai/chapter_preliminaries/index.html