@使用PyTorch 实现线性回归模型总结：此时更新函数的代码不再是简化版本：optimizer.step( )，变成如下代码：《PyTorch 深度学习实践 第5讲 笔记》: http://biranda.top/page/2/《PyTorch 深度学习实践 第5讲 视频》: https://www.bilibili.com/video/BV1Y7411d7Ys?p=5&vd_source=43

梯度下降算法缺点梯度下降算法容易进入局部最优解（非凸函数），但是实际问题中的局部最优点较少，或已经基本可以当成全局最优点梯度下降算法容易陷入鞍点，（即总体所有点的梯度和为0，导致w=w-0.01*0,w不会改变）普通的梯度下降算法利用数据整体，不容易避免鞍点，算法性能上欠佳，但算法效率高随机梯度下降算法优缺点采用随机梯度下降，即随机的取一组（x,y)的梯度，作为梯度下降的依据，而不用总体所有点的梯

深度学习实践》第6讲。

深度学习实践》第6讲。