线性回归本质上是在做这件事：找到一组参数θ\thetaθ让预测值XθX\thetaXθ与真实值yyy的距离最小。因为这个目标函数是一个标准的凸二次函数，求导令导数为 0解出参数θXTX−1XTyθXTX−1XTy在线性回归中，模型预测可表示为 $ \hat{y}=X\theta $。Jθ12mXθ−yTXθ−yJθ2m1​Xθ−yTXθ−y由于该损失函数关于参数θ\thetaθ。