初始数据集可能并不是严格的在直线上的点集，会是离散的，而我们预设的线性模型是一条严格的直线。范围，尝试找到一个**可能（可能有增或减的趋势）**存在最小权重的范围。为了方便学习，这里选择简化模型，将截距b去掉。读作y_hat，表示预测的值，并不是准确值。而是最终求和后的平均计算，比如MSE的公式。，用于评估模型的泛化能力，防止过拟合。所以线性模型的关键是找到一个合适的。（当然也有其他方法，取绝对值

输出结果（由于每次都取单独一个样本进行计算梯度，所以波动会很大，每次图像基本不一样）来计算的，这样的方式在遇到鞍点时可能会停滞不前。，这样的方式可能可以跨过鞍点，使权重继续前进。上述的梯度算法，对于每次权重迭代的大小是由。而随机梯度算法，权重的迭代大小是由。

逻辑斯蒂回归本质上是一个算法，并不是像线性回归那样输出一个具体的值，而是输出该样本属于某个分类的例如手写的0~9的数据集，难道要拿到一张手写图，直接输出这是具体的几吗？并不是，而是输出它是0的概率P(0)，它是1的概率P(1)……，最终选择概率最大的而逻辑斯蒂回归主要解决的是二分类，也就是只有两个分类。由于概率总和肯定等于1，所以我们只需要计算其中一个分类的概率即可。而逻辑斯蒂回归的核心在于将线性

上述的全连接神经网络，有好几百个权重，如果每个都采用先写解析式是很困难的，而且每层之间都是复合函数，这是个相当复杂的工作量。

其实前面已经提到了，线性模型中的输入输出数据集可以不在是一个具体的数，而是可以是多维的矩阵采用矩阵加广播机制，可以不再使用for循环来训练，减轻代码量而此时可以回答的问题，它中间有很多层，每层都是一次线性回归，但是层与层之间要加上激活函数当然你也可以手动的增加层数，比如你的输入集是8维的，输出集是一维的，直接使用（8 * 1）的权重当然可以，但是这样泛化能力不强。所以可以在中间加上几层神经网络，比

张量：即前面提到的Tensor，是 PyTorch 存储数据和执行计算的基本单位，张量是一个，它是标量、向量和矩阵的广义统称。标量：标量是一个(0-D Tensor) ，它只包含一个数值，没有方向或大小之分。向量：向量是一个(1-D Tensor)，它包含一列有序的数值，只有大小和方向。矩阵：矩阵是一个(2-D Tensor) ，它由行和列组成，是两个向量的排列。TIP]几个 [] 就是几维张量。

逻辑斯蒂回归本质上是一个算法，并不是像线性回归那样输出一个具体的值，而是输出该样本属于某个分类的例如手写的0~9的数据集，难道要拿到一张手写图，直接输出这是具体的几吗？并不是，而是输出它是0的概率P(0)，它是1的概率P(1)……，最终选择概率最大的而逻辑斯蒂回归主要解决的是二分类，也就是只有两个分类。由于概率总和肯定等于1，所以我们只需要计算其中一个分类的概率即可。而逻辑斯蒂回归的核心在于将线性

初始数据集可能并不是严格的在直线上的点集，会是离散的，而我们预设的线性模型是一条严格的直线。范围，尝试找到一个**可能（可能有增或减的趋势）**存在最小权重的范围。为了方便学习，这里选择简化模型，将截距b去掉。读作y_hat，表示预测的值，并不是准确值。而是最终求和后的平均计算，比如MSE的公式。，用于评估模型的泛化能力，防止过拟合。所以线性模型的关键是找到一个合适的。（当然也有其他方法，取绝对值

上述的全连接神经网络，有好几百个权重，如果每个都采用先写解析式是很困难的，而且每层之间都是复合函数，这是个相当复杂的工作量。

其实前面已经提到了，线性模型中的输入输出数据集可以不在是一个具体的数，而是可以是多维的矩阵采用矩阵加广播机制，可以不再使用for循环来训练，减轻代码量而此时可以回答的问题，它中间有很多层，每层都是一次线性回归，但是层与层之间要加上激活函数当然你也可以手动的增加层数，比如你的输入集是8维的，输出集是一维的，直接使用（8 * 1）的权重当然可以，但是这样泛化能力不强。所以可以在中间加上几层神经网络，比