add_axes参数：数组[left,bottom,width,height],数组元素的取值范围：(0,1)a = np.array([1, 2, 3])# 一维数组。b = np.array([[1, 2], [3, 4]])# 二维数组。arr.sort()# 原地排序 [1, 2, 3]arr_2d[:, 1]# 所有行的第1列 ([2, 4])arr.sum(axis=0)# 沿列的求和

自注意力机制通过计算序列内部元素的关联权重，实现了对上下文信息的有效捕捉，解决了传统序列模型的诸多缺陷。而多头注意力机制则进一步通过多视角学习，增强了模型对复杂依赖关系的建模能力，成为了现代大模型架构中不可或缺的核心组件。在实际应用中，我们还可以对注意力机制进行各种优化和拓展，比如引入相对位置编码来增强位置信息的建模、采用稀疏注意力来提高计算效率等。深入理解和掌握自注意力机制与多头注意力机制，对于