非参数注意力池化，也称之为Nadaraya-Watson核回归，它提出根据输入的位置对输出yi进行加权。非参数的Nadaraya-Watson核回归具有一致性（consistency）的优点： 如果有足够的数据，此模型会收敛到最优结果。尽管如此，我们还是可以轻松地将可学习的参数集成到注意力池化中。相对于Nadaraya-Watson核回归，这只是多一个权重参数而已。

单个注意力学到的东西有限，可以通过对不同的注意力进行组合，学到不同的知识，以达到想要的目的。因此采用”多头注意力“的方法进行实现，即有多个注意力”头“，对其进行连结得到输出。

例如，图1 (b)说明了图如何表示手部单幅图像中的骨骼结构，然而，如果我们要为移动手部的连续视频的每一帧创建这样的图，我们将有一个数据结构，可以解释为单个图的序列，或具有顺序特征的单个图，这些数据可以用于对视频中的手部动作进行分类。，这对于深度学习场景来说并不理想，在这种场景中，低级特征(在网络的早期)之间的关系与高级特征(在网络的后期)之间的关系是不同的。正如预期的那样，连续的过渡函数导致计算出

本文以time Machine数据集为例，使用mxnet框架。

循环图神经网络（Recurrent Graph Neural Network，RGNN）。在标准神经网络中，连续的学习权重层用于从输入张量中逐步提取更高级别的特征。在用于计算机视觉的神经网络中，低级特征(如短直线和曲线)的存在是由较早的层识别的，而高级特征(如复合形状)的存在是由较晚的层识别的。在被这些顺序层处理之后，所产生的高级特征可以提供给softmax层或单个神经元，以进行分类、回归或一些其

交通在每个人的日常生活中起着至关重要的作用。根据2015年的一项调查，美国司机每天花在开车上的时间平均约为48分钟在这种情况下，准确的实时交通状况预测对道路使用者、私营部门和政府都至关重要。广泛应用的交通服务，如流量控制、路线规划、导航等，也在很大程度上依赖于高质量的交通状态评价。多尺度交通预测是城市交通控制与诱导的前提和基础，也是智能交通系统(Intelligent Transportation

循环图神经网络（Recurrent Graph Neural Network，RGNN）。在标准神经网络中，连续的学习权重层用于从输入张量中逐步提取更高级别的特征。在用于计算机视觉的神经网络中，低级特征(如短直线和曲线)的存在是由较早的层识别的，而高级特征(如复合形状)的存在是由较晚的层识别的。在被这些顺序层处理之后，所产生的高级特征可以提供给softmax层或单个神经元，以进行分类、回归或一些其

交通在每个人的日常生活中起着至关重要的作用。根据2015年的一项调查，美国司机每天花在开车上的时间平均约为48分钟在这种情况下，准确的实时交通状况预测对道路使用者、私营部门和政府都至关重要。广泛应用的交通服务，如流量控制、路线规划、导航等，也在很大程度上依赖于高质量的交通状态评价。多尺度交通预测是城市交通控制与诱导的前提和基础，也是智能交通系统(Intelligent Transportation

交通在每个人的日常生活中起着至关重要的作用。根据2015年的一项调查，美国司机每天花在开车上的时间平均约为48分钟在这种情况下，准确的实时交通状况预测对道路使用者、私营部门和政府都至关重要。广泛应用的交通服务，如流量控制、路线规划、导航等，也在很大程度上依赖于高质量的交通状态评价。多尺度交通预测是城市交通控制与诱导的前提和基础，也是智能交通系统(Intelligent Transportation