《动手学深度学习》—— 第2章—2.4—微积分
·
2.4.微积分
2.4.1.导数和微分
以下表达式是等价的：
2.4.2.偏导数
为了计算 𝜕𝑦𝜕𝑥𝑖，我们可以简单地将 𝑥1,…,𝑥𝑖−1,𝑥𝑖+1,…,𝑥𝑛 看作常数， 并计算 𝑦 关于 𝑥𝑖 的导数
以下是等价的：
2.4.3.梯度
梯度是一个向量，其分量是多变量函数相对于其所有变量的偏导数
函数 𝑓(𝑥) 相对于 𝑥 的梯度是一个包含 𝑛 个偏导数的向量：
假设 𝑥 为 𝑛 维向量，在微分多元函数时经常使用以下规则：
2.4.4.链式法则
函数具有任意数量的变量的情况
函数 𝑓(𝑥)=‖𝑥‖2 的梯度是什么？
计算 𝑓(𝑥) 的梯度：
L2 范数对 𝑥 的梯度是向量 𝑥 本身除以它的模长。
换句话说，梯度方向与原向量方向一致，且其大小与原向量的单位向量相同。
更多推荐
7
0- 0
已为社区贡献6条内容
所有评论(0)