深度学习与深度神经网络的关系

核心纠正:深度学习的正确定位

深度学习 ≠ 一种独立的学习范式
深度学习 = 一种实现学习范式的技术手段(即使用深度神经网络)

因此,更准确的表述是:

  • 我们可以使用 “浅层模型”(如逻辑回归、SVM)来进行监督学习。
  • 我们也可以使用 “深度学习”(即深度神经网络)来进行监督学习。

后者因为其强大的能力,已经成为当前的主流。


为了更准确地反映它们的关系,我们应该将“深度学习”从与三大范式并列的位置上移开,并将其表示为一种强大的“实现工具”。下图展示了这一更精确的关系:

实现工具/模型架构
'浅层'模型
SVM, 决策树等
深度学习
深度神经网络
CNN, RNN, Transformer等
三大学习范式
监督学习
无监督学习
强化学习
输出结果:
分类, 回归, 聚类, 决策等
神经网络

为什么会产生混淆?

这种混淆非常普遍,原因在于:

  1. 深度学习的巨大成功:近年来,深度学习在三大范式(尤其是监督和强化学习)的几乎所有领域都取得了突破性进展,以至于在很多场景下,“做AI”几乎等同于“用深度学习”。这让大家在潜意识里把它提升到了与范式并列的高度。
  2. 术语的流行度:“深度学习”这个术语在媒体和业界比“深度神经网络”更流行、更直观,所以被广泛使用,有时模糊了其技术本质。

用实例来巩固理解

让我们用实例来看“深度学习”如何作为工具服务于三大范式:

学习范式使用“深度学习”的实现案例核心架构
监督学习图像识别:用带标签的图片训练一个模型,识别猫狗。
机器翻译:用成对的句子训练模型,将英文翻译成中文。
CNN, Transformer
无监督学习数据生成:训练一个GAN,学习名人照片的分布,然后生成不存在的人脸。
降维:使用自编码器将高维数据压缩为低维表示。
GAN, 自编码器
强化学习玩视频游戏:训练一个智能体玩《星际争霸2》,它通过得分(奖励)来学习策略,无需人类示范。深度Q网络

从这些例子可以清晰地看到:

  • 学习的目标(是预测标签、发现结构还是最大化奖励)由三大范式定义。
  • 实现这个目标的核心工具,在这些案例中,都是深度神经网络

结论

“深度学习”不应与三大学习范式并列,它应该是“用深度神经网络学习”的代名词,是一种强大且当前占主导地位的模型架构,可以被应用于监督、无监督和强化学习这三大范式之中。

更多推荐