自监督学习无需人工标注，利用无标签的数据本身构造“输入-输出”对，实现类似有监督的训练。BERT 的预训练过程便是一种自监督学习：随机遮盖（mask）部分文本，然后让模型去预测被遮盖的内容，从而“自我监督”地学习语言知识。BERT 是 Transformer 结构的 Encoder，它接收一个序列输入并输出相同长度的序列向量。在训练过程中。我们知道被mask的字符是什么，而BERT不知道，我们可以

但是随之而来的问题就是这个向量的长度和词汇数量一样多，比如一句话3个单词，apple是100，bag就得是010，单词越多，向量越长，问题越复杂。以自然语言处理NLP为例，词语转为嵌入向量，送入 Self-Attention 层，使用 Attention 机制建模词与词之间的关系，输出的是“考虑上下文之后”的向量，最终输出用于分类 / 生成 / 序列标注等任务。问题，以前的直觉就是使用 Fully

李老师主要介绍了两种”说法“，但实际上是一个意思。这里先概括性总结一遍防止后面不知道在说什么。

GAN 的 Generator 训练完成后，我们需要判断它生成的图像到底“好不好”。：Discriminator和Generator需要“棋逢对手” ，否则可能无法获取有用的梯度；：梯度无法直接传导至离散输出（token），常需强化学习（如SeqGAN）配合。Generator 忽略某些真实分布中的子类别（如图中右边的星星）；：早期的 GAN 论文几乎都是靠“放几张图让人看”，没有量化指标；：Ge

李老师主要介绍了两种”说法“，但实际上是一个意思。这里先概括性总结一遍防止后面不知道在说什么。

强化学习（Reinforcement Learning）：你不知道输出的“最佳答案”，只能通过与环境互动、收集奖励（Reward）来学习策略。

李老师主要介绍了两种”说法“，但实际上是一个意思。这里先概括性总结一遍防止后面不知道在说什么。

强化学习（Reinforcement Learning）：你不知道输出的“最佳答案”，只能通过与环境互动、收集奖励（Reward）来学习策略。