sum1 = torch.sum(tensor1,dim=1,keepdim=True) #dim=0 竖 dim=1横 keepdim=True 保持原来形状。tensor3 = torch.normal(0,1,(10,4))#(平均值,标准差，形状)# dict1 = {1: 3, "1": " 44"}#字典。tensor2 = torch.zeros((100,4))#全是零的。tens

w_0 = torch.normal(0, 0.01, true_w.shape, requires_grad= True) # 初始化权重，需要计算梯度。b_0 = torch.tensor(0.01, requires_grad=True) # 初始化偏置，需要计算梯度。pred_y = fun(batch_x, w_0, b_0) # 前向传播。get_data = data[get_ind

测试集不需要分批次，也不需要打乱，到时候就按顺序一个一个预测得到结果就好。

在乘一个v矩阵（相当于全连接）q扫码器，k二维码，v value 先用q看别人的k，得到注意力再去乘v，在全部加起来。embedding两个不同，六中多了一个句子层。同一个问题：RNN与LSTM太慢了（串行的）经过soft-max 得到和为一的矩阵。但传家宝里放的东西没用还会干扰选择。但是这个注意力怎么来的，有两种方法。Wq Wk Wv用的是同一个矩阵。segmen 是句子编码。

测试集不需要分批次，也不需要打乱，到时候就按顺序一个一个预测得到结果就好。

在乘一个v矩阵（相当于全连接）q扫码器，k二维码，v value 先用q看别人的k，得到注意力再去乘v，在全部加起来。embedding两个不同，六中多了一个句子层。同一个问题：RNN与LSTM太慢了（串行的）经过soft-max 得到和为一的矩阵。但传家宝里放的东西没用还会干扰选择。但是这个注意力怎么来的，有两种方法。Wq Wk Wv用的是同一个矩阵。segmen 是句子编码。

测试集不需要分批次，也不需要打乱，到时候就按顺序一个一个预测得到结果就好。

在乘一个v矩阵（相当于全连接）q扫码器，k二维码，v value 先用q看别人的k，得到注意力再去乘v，在全部加起来。embedding两个不同，六中多了一个句子层。同一个问题：RNN与LSTM太慢了（串行的）经过soft-max 得到和为一的矩阵。但传家宝里放的东西没用还会干扰选择。但是这个注意力怎么来的，有两种方法。Wq Wk Wv用的是同一个矩阵。segmen 是句子编码。

在乘一个v矩阵（相当于全连接）q扫码器，k二维码，v value 先用q看别人的k，得到注意力再去乘v，在全部加起来。embedding两个不同，六中多了一个句子层。同一个问题：RNN与LSTM太慢了（串行的）经过soft-max 得到和为一的矩阵。但传家宝里放的东西没用还会干扰选择。但是这个注意力怎么来的，有两种方法。Wq Wk Wv用的是同一个矩阵。segmen 是句子编码。