2026-07-29 学习笔记

 

笔记区(学的时候随手记)

 

核心观点

 

深度学习的核心突破:自动特征工程。 用户的理解是"用户直接给数据给特征,深度学习自己在隐藏层筛选数据和特征,诞生新的或组合过的数据和特征进行分类(逻辑回归)或者自己设计回归曲线(线性回归),用户只看最终输出层拟合效果"——用户的这个概括准确抓住了深度学习的本质

 

隐藏层:把输入特征重新排列组合,甚至合并消减,生成新特征。用户的理解是"深度学习把想要预测的数据中的一些特征重新排列组合甚至合并消减成新的一批特征再进行预测,这中间的排列组合就是 hidden layer"

 

神经网络是架构/方法,不是学习范式。可以用在监督学习上(Course 2 学的内容),也可以用在非监督学习上(Course 3)

 

关键概念

 

概念 解释

深度学习 多层次神经网络,自动学习特征表示

特征工程 传统 ML 需要手工设计特征,深度学习自动从数据中学习特征

隐藏层(hidden layer) 输入层和输出层之间的层,负责特征变换和组合

层(layer) 一组神经元的集合,每层有特定的变换功能

输入层 接收原始特征数据

输出层 给出最终预测结果

神经元计算 加权求和 + 激活函数(用户已经自然推导出 $y = w_1x_1 + w_2x_2 + w_3x_3 + b$ 这一步)

 

视频覆盖 #42-#46

 

# 标题 关键要点

42 欢迎来到第二部分_高级学习算法 Course 2 课程地图

43 神经元和大脑 生物学类比:单个神经元≈逻辑回归,多层神经元=神经网络

44 需求预测 第一个完整例子:价格/运费/营销/材料→隐藏层(2神经元)→需求高/低

45 图像识别 像素作为输入→神经元处理

46 神经网络中的层 Layer 的定义和组织方式

 

线索区(学完后合上材料,自问自答)

 

Q: 深度学习诞生的意义是什么?

A: 解决了手工特征工程的瓶颈。传统 ML 里用户需要自己设计特征(加平方项、交叉特征等),深度学习通过多层网络自动学习特征。用户给原始数据,网络自己学会提取有用的表示。

 

Q: hidden layer 是什么?

A: 输入层和输出层之间的层。每一层把上一层的特征重新组合,生成更抽象的特征。用户用"排列组合甚至合并消减"来描述这个过程的本质,这个理解是准确的。

 

Q: 人脸识别是深度学习吗?

A: 当前主流人脸识别用深度学习,但用的是卷积神经网络(CNN),不是全连接网络。CNN 会在 Course 2 之后或 Course 3 中学习。

 

Q: 深度学习是非监督学习吗?

A: 不是。深度学习是方法/架构,不是学习范式。可以用在监督学习(Course 2 的内容),也可以用非监督学习(Course 3)。

 

Q: 神经网络具体是怎么算的?需要知道吗?

A: 需要。#47-#48 会讲前向传播。基本公式是线性加权 $z = w_1x_1 + w_2x_2 + ... + w_nx_n + b$ → 激活函数 → 输出。

 

Q: 我们一直在学监督学习?

A: 对。Course 1(回归+分类)和 Course 2(神经网络+决策树)都是监督学习。Course 3 才是无监督学习。

 

总结

 

今天开始了 Course 2(Advanced Learning Algorithms),学习了神经网络的基本架构(输入层→隐藏层→输出层)和深度学习的核心意义——自动特征工程。

更多推荐