个人笔试，不全

当网络层数达到一定的数目以后，网络的性能就会开始退化简单的增加网络的深度，会导致梯度消失和爆炸，解决办法一般是正则初始化和中间的正则化层和通过Batch Normalization，很大可能会得到的是局部最优解过拟合一般可以通过采集海量数据，并配合Dropout正则化等方法残差在数理统计中是指实际观察值与 估计值 （ 拟合值 ）之间的差。ResNet的出现其实就是为了解决网络深度变深以后的性能退化