李宏毅 深度学习 笔记一

from https://www.bilibili.com/video/BV15b411g7Wd?from=search&seid=2645809784486608148
脚踏实地学习，安安心心科研

一、利用宝可梦的案例来引出回归模型

第一节课的内容是比较基础的线性回归的案例，没有太多的内容需要记录。

二、损失函数

损失函数的目的是为了找到最好的函数，这样的理解方式好好诶。

三、Gradient Desent

为什么在线性回归中没有local minimum 呢？

from https://zhuanlan.zhihu.com/p/464887711

但是没有仔细看，有点难的哟

梯度的公式化表达

四、我们在设计Model的时候可以考虑多个特征值

我们可以把上面带有if的式子，写成下面：

同时，也可以添加更多的参数，以及对应参数的平方进来，用于构建model：

五、Regularization可以让模型变得更加平滑

为了解决过拟合的问题：

• 可以删除一些无意义的参数
• 添加 regularization
  • 可以更容易获得一个更接近0的function，更加平滑的function
  • 平滑的function可以获得更小的影响
  • regularization时候是不需要调整bias

六、Conclusion & Follow Lectures