回答：当W=0,b=0，在输入层之后的所有隐藏层神经元接收到的输入都是一样的，这样每一层的输出都一样，反向传播时，每一个梯度也都一样，当直接令w=0，b=0时，会让。故对每个w进行求导的结果对应梯度同正或同负，所以更新的方向如图2，不是右上方向就是左下方向，如果最优解在右下方向，需要迭代更多次，收敛速度更慢一些。，使权重趋向于较小的值，避免它得到的权重值过大，对训练数据的过度学习。另一版本：零均值

首先需要明确的是，RNN 中的梯度消失/梯度爆炸和普通的 MLP 或者深层 CNN 中梯度消失/梯度爆炸的含义不一样。MLP/CNN 中不同的层有不同的参数，各是各的梯度；而 RNN 中同样的权重在各个时间步共享，最终的梯度为各个时间步的梯之和。因此，。即便梯度越传越弱，那也只是远距离的梯度消失，由于近距离的梯度不会消失，所有梯度之和便不会消失。RNN 所谓梯度消失的真正含义是，梯度被近距离梯度主