Word2Vec是谷歌的Tomas Mikolov 等人在 2013 年提出的一种将自然语言文本中的单词转换为向量表示的技术，被广泛应用于自然语言处理和深度学习领域。Word2Vec实际是一种浅层神经网络模型，拥有两种网络结构。

1.输入部分2.注意力机制3.前馈神经网络编码器分解图。