1.1、数据的维数

• 当每个样本的特征类别数量都是相同的时候，其特征向量是固定长度的，这个长度被称为数据的维数。固定长度的特征向量是一个方便的属性，它可以用来量化学习大量样本。理解如下：

  • 如果每个样本有10个特征，那么数据集的维数就是10，意味着每个样本在10维特征空间中都有一个位置

  • 如果数据集有5个特征（维数是5），每个样本就可以表示为一个5维向量 [x1 ,x2 ,x3 ,x4 ,x5]

• 特征向量的固定长度使得我们可以把大量的样本转化为数字形式，方便算法进行处理、分析、训练和预测

---

1.2、回归问题

判断回归问题的一个很好的经验法则是，任何有关“有多少”的问题很可能就是回归问题。

• 回归是训练一个回归函数来输出一个数值；
• 分类是训练一个分类器来输出预测的类别。

与搜索和排名相关的问题是推荐系统，它的目标是向特定用户进行“个性化”推荐。推荐系统会为“给定用户和物品”的匹配性打分，这个“分数”可能是估计的评级或购买的概率。

对于具有固定大小的输入和产生固定大小的输出的问题，模型只会将输入作为生成输出的“原料”，而不会“记住”输入的具体内容。

但是如果输入是连续的，模型可能就需要拥有“记忆”功能。输入和输出都是可变长度的序列。

---

1.3、无监督学习

• 聚类问题；

• 主成分分析问题：我们能否找到少量的参数来准确地捕捉数据的线性相关属性。例如，在欧几里得空间中 “罗马” − “意大利” + “法国” = “巴黎”；

• 因果关系和概率图模型问题；

• 生成对抗性网络：为我们提供一种合成数据的方法。

预先获取大量数据，然后启动模型，不再与环境交互。所有学习都是在算法与环境断开后进行的，被称为离线学习。

---

1.4、强化学习

• 与环境交互：在每个特定时间点，智能体从环境接收一些观察，并且必须选择一个动作，然后通过某种机制（有时称为执行器）将其传输回环境，最后智能体从环境中获得奖励。

• 可以将任何监督学习问题转化为强化学习问题，这个奖励与原始监督学习问题的损失函数是一致的。我们并不假设环境告诉智能体每个观测的最优动作，环境甚至可能不会告诉是哪些行为导致了奖励。

---

线性和非线性处理单元的交替，通常称为层

使用链式规则（也称为反向传播）一次性调整网络中的全部参数