标签平滑:When Does Label Smoothing Help?
1:标签平滑技术在图片分类、语音识别、机器翻译等多个领域的深度学习模型中取得了很好的效果。2:标签平滑的作用:提高模型的泛化能力,防止模型过拟合,提升模型的修正能力,并进步提高模型的集束搜索能力。然而在teacher model中进行标签平滑,对student model的知识蒸馏效果会下降。...
·
1:标签平滑技术在图片分类、语音识别、机器翻译等多个领域的深度学习模型中取得了很好的效果。
2:标签平滑的作用:
提高模型的泛化能力,防止模型过拟合,提升模型的修正能力,并进步提高模型的集束搜索能力。然而在teacher model中进行标签平滑,对student model的知识蒸馏效果会下降。
更多推荐
已为社区贡献1条内容
所有评论(0)