主成分分析（Principal Component Analysis, PCA）是一种降维技术，通过线性变换将高维数据投影到低维空间，使得数据在新坐标轴上的投影能够最大程度地保留数据的方差，同时减少数据的维度。（k过小，例如只拿一个样本，万一那个样本刚好是错误的，k过大，把整个训练集包含了，那就相当于在统计哪一个类别最多）就是算你要预测的样本与已经训练的样本之间的距离，然后拿出k个最近的样本，这k

由于 Transformer 完全基于自注意力机制，不依赖 RNN 的时序处理方式，无法像 RNN 那样自然捕捉序列中元素的顺序关系（如文本中 “我吃苹果” 和 “苹果吃我” 的语义差异），因此需要通过位置编码手动为每个元素添加位置特征。，即在多头注意力的 “计算注意力得分” 环节，加入一个 “掩码矩阵”，将未来位置的注意力得分强制设为极小值（如 −∞），经过 Softmax 后这些位置的权重会趋