近年来AutoML突飞猛进，学术界和产业界产品繁多。AutoML包括但不限于自动数据增强，自动网络结构搜索，自动超参搜索和自动优化器。　虽然NAS算法多种多样，但是从方法上可归为三大阵营：基于强化学习算法、基于进化算法和基于梯度的算法。由于NAS往往对算力要求比较高，动辄就是成百上千的GPU小时的训练，所以涌现了一些加速方案，例如权重共享，训练一个大的SuperNet，One-shot等等。　..

文章题目：Search for Better Students to Learn Distilled Knowledge链接：linkhttps://arxiv.org/abs/2001.11612会议期刊：无论文阅读笔记，帮助记忆的同时，方便和大家讨论。因能力有限，可能有些地方理解的不到位，如有谬误，请及时指正。论文内容通常神经网络参数量都很大，这一特性使得端侧设备很难享受神经网络...