📖 专栏简介

本专栏使用纯 NumPy 从零手写神经网络，不依赖任何深度学习框架。
从单个神经元讲起，一路手撕前向传播、反向传播、梯度下降、CNN、RNN、LSTM、Transformer（注意力机制），
让你真正看懂每个算法背后的数学原理，而不是只会调框架 API。

所有代码已开源，可自由复制运行。

✅ 本专栏已完结（共 45 篇），本文为最终归档版，目录不再更新。

适合谁看：有 Python 基础、想彻底搞懂深度学习底层原理的初学者。
学完你将收获：① 徒手实现全连接网络与 LeNet-5；② 吃透 CNN 卷积/池化原理；
③ 从零搭出 RNN/LSTM/GRU；④ 完成一个完整的 IMDB 情感分类实战项目；
⑤ 从注意力机制一路手撕到 Transformer 与 BERT/GPT。

建议学习路径：按下面 ①→⑤ 五大板块顺序刷即可，每篇都以前一篇为前置。

---

① 神经网络基础（全连接网络）

• 第1篇：分类器——神经网络最朴素的起点
• 第2篇：从 XOR 死穴到生物神经元——为什么单一直线搞不定？
• 第3篇：矩阵乘法——神经网络的"偷懒神器"
• 第4篇：误差反向传播完全图解
• 第5篇：误差算出来了，权重到底怎么改？
• 第6篇：从零敲出你的第一个神经网络
• 第7篇：跑通 MNIST 手写数字识别，验证训练与测试准确率

② CNN 卷积神经网络

• 第8篇：全连接网络的"死穴"——为什么图像任务必须换思路？
• 第9篇：卷积核到底在"卷"什么？——局部感受野、权值共享与平移不变性
• 第10篇：手撕 Conv2D 前向传播——用 NumPy 实现滑窗与互相关运算
• 第11篇：卷积层的反向传播——为什么要把卷积核转 180°？
• 第12篇：池化层——为什么要"压缩"图像？
• 第13篇(上)：纯 NumPy 实现 LeNet-5 全流程拆解与 MNIST 前向验证
• 第13篇(下)：纯 NumPy 实现 LeNet-5 反向传播串联与 MNIST 训练实战

③ RNN 循环神经网络

• 第14篇：序列数据与循环思想——为什么你的模型需要"记忆"？
• 第15篇：RNN 数学原理与结构剖析——一个公式如何统治所有时间步？
• 第16篇：从零实现 RNN 前向传播——把公式变成能跑的函数
• 第17篇：BPTT 算法(上)——梯度沿时间轴传播的链式法则
• 第18篇：BPTT 算法(下)——代码实现与梯度裁剪
• 第19篇：直面梯度消失——LSTM 的核心思想
• 第20篇：LSTM 数学原理与结构拆解
• 第21篇：从零实现 LSTM 前向与反向传播
• 第22篇：GRU 原理与从零实现
• 第23篇：RNN 家族横向理论评测

④ 文本分类实战（IMDB）

• 第24篇：文本向量化——从独热编码到词嵌入
• 第25篇：IMDB 数据集预处理与词汇表构建
• 第26篇：变长序列处理——填充(Padding)与掩码(Masking)
• 第27篇：搭建情感分类器与基础训练
• 第28篇：RNN vs LSTM vs GRU 三模型横向对比实验
• 第29篇：模型优化、测试评估与知识体系收官

⑤ Transformer（注意力机制 → 预训练模型）

• 第30篇：从 RNN 到注意力——模型为什么需要"瞄一眼"
• 第31篇：自注意力(Self-Attention)——Q、K、V 三件套
• 第32篇：缩放点积注意力：打分、归一、加权
• 第33篇：多头注意力（Multi-Head Attention）
• 第34篇：位置编码（Positional Encoding）——给词打上"顺序"的标签
• 第35篇：Transformer 整体架构——一张图看懂全貌
• 第36篇：Encoder 内部——残差连接、LayerNorm 与前馈网络
• 第37篇：Decoder 内部——掩码自注意力与交叉注意力
• 第38篇：从零实现 Transformer 前向传播
• 第39篇：训练细节：标签平滑、AdamW 与学习率调度
• 第40篇：分词与数据管线：BPE 子词切分
• 第41篇：BERT：双向编码器与掩码语言模型
• 第42篇：GPT：自回归生成式预训练
• 第43篇：从零训练一个小型 Transformer 做文本分类
• 第44篇：微调预训练 BERT 做下游任务
• 第45篇：知识体系收官：从 RNN 到 Transformer 的完整地图

---

🚀 后续 AI 内容去哪里看？

本专栏已完结，后续我会持续分享 AI技术分享、AI 实战方案、踩坑日记、工具评测 等配套内容，
但不再追加到本文目录，全部发布在我的专栏里，关注后即可第一时间看到：

👉 我的 CSDN 主页：https://blog.csdn.net/qq_65148539

1. 点击右上角**「关注」**，新内容发布后自动收到通知
2. 新内容均为独立文章，在主页按需查找即可，无需返回本文
3. 如有疑问，欢迎在对应文章评论区留言

如果本专栏对你有帮助，欢迎点赞、收藏、分享！ 🙏