attention方法是一种注意力机制，很明显，是为了模仿人的观察和思维方式，将注意力集中到关键信息上，虽然还没有像人一样，完全忽略到不重要的信息，但是其效果毋庸置疑，本篇我们来总结注意力机制的不同方法。目录1，attention的定义2，基础的attention3, attention变体3.1，针对attention向量计算方式的变体3.1.1 Soft-attention3.1.2 Hard