注意力机制的基本思想就是让网络学会关注重要的信息而忽略无关的信息。1. 注意力机制的分类（1）软注意力：软注意力更加关注区域或者通道，可微，可以通过网络的前向传播以及后向传播学习得到。（2）强注意力：强注意力更加关注点，图像中的每一个点都可以延伸出注意力，强注意力是不可微的注意力，训练过程往往通过增强学习完成。2. 软注意力的使用软注意力一般通过相关特征学习权重分布，再利用学习得到的权重施加在特征

一、迁移学习的基本方法1、基于样本迁移根据一定的权重生成规则，对数据样本进行重用，进行迁移学习。在迁移学习中对于源域和目标域，通常假定产生它们的概率分布是不同且未知的，由于实例的维度和数量通常非常大，因此直接对概率分布进行估计是不可行的，所以，大量的研究工作都着眼于对源域和目标域的分布比值进行估计，所估计得到的比值即为样本的权重。通常假设目标域与源域的比值小与无穷，源域和目标域的条件概率分布...