多头注意力机制使得模型能够并行处理信息的不同方面，每个头可以专注于输入序列的不同位置或特征，从而捕捉更丰富、更细腻的上下文依赖。点乘在计算复杂度上与加法相似，但在效果上，点乘能够更好地捕捉向量间的相似度，因为它考虑了元素级别的乘积，这在数学上等价于内积，可以衡量两个向量的“方向”一致性。Decoder的多头自注意力机制在训练时需要加入“未来遮挡”（sequence mask），确保在生成当前位置的

邻接矩阵的概念。

在栈顶进行插入和删除操作的时间复杂度通常为 O (1) ，这些操作不需要移动大量元素。2.提供了有序的键访问，例如获取第一个键、最后一个键、大于或小于给定键的键等操作。1.基于哈希表实现，查找、插入和删除的平均时间复杂度为 O (1)。1.基于红黑树实现，元素按照键的自然顺序或者指定的比较器顺序进行排序。2.可以作为栈（只在一端操作）或双端队列（两端均可操作）使用。集合中的第一个、最后一个元素，以

简单实现简单实现给定整数数组nums和整数k，请返回数组中第k个最大的元素。请注意，你需要找的是数组排序后的第k个最大的元素，而不是第k个不同的元素。你必须设计并实现时间复杂度为O(n)的算法解决此问题。5输出 ：4思路。

所谓用队列实现栈，就是要求实现一个栈，只不过这个栈的底层容器，不是顺序表，也不是链表，而是队列。所谓用栈实现队列，就是要求实现一个队列，只不过这个队列的底层容器，不是顺序表，也不是链表，而是栈。：类似出栈操作，但需将最后一个元素重新压回队列（时间复杂度O(n)）。：单次出栈/查看栈顶操作最坏O(n)，但均摊后仍可视为O(1)栈顶元素（即队列头部元素），均摊时间复杂度 O(1)的元素个数是否大于 1

哈希表的每个数据，保留了链表头结点和尾结点，插入前需要先进行查找，如果找到的位置链表非空，则插入尾结点，并且更新尾结点。哈希表的每个数据就是一个键，插入之前需要先进行查找，如果找到的位置未被插入则执行插入，否则找到下一个未被插入的位置进行插入。如果键存在于字典中，则返回对应的值；，无论是开放地址法，还是链地址法，都可以实现哈希表，我们只需要选择其中一种即可。计算它的哈希值，对数组长度 n 取模以后

二叉搜索树(又称为二叉排序树，二叉查找树)，它满足如下四点性质:1)空树是二叉搜索树;2) 若它的左子树不为空，则左子树上所有结点的值均小于它根结点的值;3) 若它的右子树不为空，则右子树上所有结点的值均大于它根结点的值;4) 它的左右子树均为二叉搜索树;如图所示，对于任何一颗子树而言，它的根结点的值一定大于左子树所有结点的值，且一定小于右子树所有结点的值纵观二叉搜索树的查找、插入 和 删除。完全

树是n个结点的有限集合，n=0时为空树。当n大于0的时候，满足如下两个条件：① 有且仅有一个特定的结点，称为根结点 Root；② 当 n > 1 时，其余结点分为 m 个互不相交的有限集合，T1、T2、T3、….Tm，其中每个 Ti 又是一棵树，并且为 Root 的子树；树的定义用到了递归的思想。即树的定义中，还用到了树的概念。T1 和 T2 就是 a 的子树，结点 d、9、h、i 组成的树又是结

哈希表的每个数据，保留了链表头结点和尾结点，插入前需要先进行查找，如果找到的位置链表非空，则插入尾结点，并且更新尾结点。哈希表的每个数据就是一个键，插入之前需要先进行查找，如果找到的位置未被插入则执行插入，否则找到下一个未被插入的位置进行插入。如果键存在于字典中，则返回对应的值；，无论是开放地址法，还是链地址法，都可以实现哈希表，我们只需要选择其中一种即可。计算它的哈希值，对数组长度 n 取模以后

向量是一种有大小和方向的数学对象。它可以表示为从一个点到另一个点的有向线段。例如，二维空间中的向量可以表示为（x，y），表示从原点（0，0）到点（x，y）的有向线段。以此类推，我可以用一组坐标（x_0, x_1, x_2, …, x_n）表示一个N维空间中的向量，N 叫向量的维度。嵌入（Embedding）是指非结构化数据转换为向量的过程，通过神经网络模型或相关大模型，将真实世界的离散数据投影到高